Disrupción tecnológica, transformación y sociedad

[L]a incertidumbre en cuanto a la existencia o no de la vigilancia de nuestros actos y comportamientos se puede comprender haciendo referencia a la novela 1984 de George Orwell y a la vigilancia establecida por el gobierno autoritario Big Brother . En el universo descrito por la obra, el gobierno asienta su poder utilizando todos los medios posibles para erradicar la vida privada de sus ciudadanos. El instrumento principal es la pantalla de televisión, cuya instalación es obligatoria en cada habitación. Dicha pantalla es de las normales de televisión y se usa de la misma manera que esta. Sin embargo, tiene la particularidad de funcionar con el principio del espejo sin azogue. De tal suerte, permite a Big Brother observar las personas que se encuentran frente a la pantalla sin que puedan saber si son o no observadas en un momento preciso 12.

La similitud con lo señalado por Foucault es más que evidente. Ahora bien, ¿será esta la situación que viviremos en un futuro inmediato, si es que no la estamos viviendo ya? O, por el contrario, ¿los sueños dorados que nos llegan de Silicon Valley y de Shenzhen permitirán que el ser humano se convierta en el Homo Deus planteado por Harari?

Los interrogantes referidos deben buscar ideas que permitan responderlos o al menos debatirlos y estudiarlos. Sin duda, ya se ha dicho, estamos frente a una situación realmente compleja que puede llevar a lugares inexplorados, y lo peor, inconvenientes para la humanidad.

En efecto, como bien lo enunció de manera contundente a inicios de 2016 Klaus Schwab, fundador y presidente del Foro Económico Mundial:

[E]stamos al borde de una revolución tecnológica que modificará fundamentalmente la forma en que vivimos, trabajamos y nos relacionamos entre nosotros. En su escala, alcance y complejidad, la transformación será independiente de todo lo que el género humano haya alcanzado antes. Todavía no sabemos exactamente cómo va a desarrollarse, pero una cosa es clara: la respuesta a la misma debe ser integral, completa y ha de abarcar todos los actores dentro del sistema de gobierno mundial, de los sectores público, privado, el sector educativo y obviamente a la sociedad civil 13.

Como gran defensor y pensador de esta 4RI, en el texto en cita el autor se pregunta “si la integración inexorable de la tecnología en nuestras vidas podría disminuir algunas de nuestras capacidades por excelencia, como la compasión y la cooperación”, agregando allí mismo:

[U]no de los mayores desafíos particulares que plantean las nuevas tecnologías de la información es la privacidad. Instintivamente entendemos por qué es tan esencial, sin embargo, el seguimiento y el intercambio de información acerca de nosotros es una parte crucial de nuestra conectividad. Los debates sobre cuestiones fundamentales tales como el impacto en nuestras vidas interiores y la pérdida de control sobre nuestros datos se harán más intensas en los próximos años. Del mismo modo, las revoluciones que se producirán en la biotecnología y la Inteligencia Artificial redefinirán lo que significa el ser humano modificando considerablemente los umbrales actuales de la duración de la vida, la salud, la cognición y las capacidades. Simplemente nos obligará a redefinir nuestros límites morales y éticos.

Los cambios seguirán siendo profundos. Razón de más para que estemos alerta. Muy alerta. Una tecnología a ultranza como se pretende por los grandes emprendedores de estos inventos no deja de ser problemática y riesgosa. De hecho, incluso quienes han liderado el giro de la humanidad hacia estos nuevos senderos se muestran inquietos, como se observa en el discurso de Mark Zuckerberg en la ceremonia de graduación de la Universidad de Harvard el 25 de mayo de 2017 al expresar que “estamos viviendo un tiempo de inestabilidad. Cuando nuestros padres se graduaron, su sentido de pertenencia venía de su trabajo, su iglesia y su comunidad. Las personas ya no quieren pertenecer a las viejas comunidades. Muchas personas se sienten aisladas y deprimidas y están tratando de llenar el vacío”. Zuckerberg se dirige, recordémoslo, sobre todo a estudiantes de países industrializados. ¿Qué ocurrirá con países no industrializados como el nuestro? Se puede suponer que la situación será aún más dramática, y no solo en el ámbito de la depresión sicológica.

No quiero con la frase anterior alinearme entre los “tecnopesimistas”, pero tampoco me gustaría hacerlo entre los “tecnooptimistas”. Como muchas situaciones de la vida, no hay claroscuros. No hay blanco y negro. Los colores suelen jugar entre ellos. Se trata entonces de buscar ponderaciones, equilibrios, análisis de contexto, para tratar de acertar lo mejor posible en los juicios a realizar. La polémica está abierta y seguirá abierta. Los instrumentos que otorga esta publicación para comprender lo que está en juego en nuestro país y en el mundo son otra ventaja –otra más– de la misma.

Para cerrar este escrito y tener elementos adicionales que nos ayuden a una mayor reflexión, traigo a colación referencias de dos importantes personalidades académicas y creativas del siglo XX y XXI en el tema que nos ocupa, Norbert Wiener y Stephen Hawking. El primero (1894-1964) ha sido reconocido como el padre de la cibernética; el segundo (1942-2018) fue uno de los científicos más influyentes de finales del siglo XX e inicios del XXI.

Norbert Wiener, en una postura visionaria, sentó el principio fundante de su criatura: todos los entes son comunicacionales y de lo que se trata es de interrelacionarlos. Afirmó:

[N]o somos más que remolinos en un río de agua que fluye constantemente. No somos cosas que permanecen, sino patrones que se perpetúan. Un patrón es un mensaje y puede transmitirse como un mensaje. ¿De qué otra manera empleamos nuestra radio sino para transmitir patrones de sonido, y nuestro televisor sino para transmitir patrones de luz? Es tanto asombroso como instructivo considerar lo que sucedería si transmitiéramos el patrón completo del cuerpo humano, del cerebro humano con sus recuerdos y conexiones cruzadas, de modo que un instrumento receptor hipotético pudiera reencarnar estos mensajes en la forma apropiada 14.

A su turno, Hawking señaló:

Usada como una herramienta, la inteligencia artificial podría aumentar nuestra inteligencia actual y abrir avances en cada área de la ciencia y la sociedad. Sin embargo, también conllevará peligros. Mientras que las formas primitivas de inteligencia artificial desarrolladas hasta ahora han demostrado ser muy útiles, temo las consecuencias de crear algo que pueda igualar o superar a los humanos. La preocupación estriba en que la inteligencia artificial se perfeccionaría y se rediseñaría a sí misma a un ritmo cada vez mayor. Los humanos, que estamos limitados por la lenta evolución biológica, no podríamos competir con ella y seríamos superados. Y en el futuro, la inteligencia artificial podría desarrollar una voluntad propia, en conflicto con la nuestra. Muchos creen que los humanos podremos controlar el ritmo de la tecnología durante un tiempo suficientemente largo, y que el potencial de inteligencia artificial para resolver muchos de los problemas del mundo se realizará. Aunque soy un reconocido optimista con respecto a la especie humana, yo no estoy tan seguro de ello 15.

Hawking y Wiener nos hablan de las promesas y los peligros de los avances tecnológicos, en particular, de la inteligencia artificial. En esencia, Wiener plantea que los seres humanos somos patrones de conducta –¿a semejanza de la asimilación de seres humanos y algoritmos por parte de Harari?– capaces de ser transmitidos de un lugar a otro por medio de mensajes de datos. Dejando de lado la dosis de ciencia ficción que Wiener le imprimía a sus escritos, se podría decir que su especulación es hoy cierta con las redes de alta velocidad, la ubicuidad de las plataformas digitales y los avances en materia de inteligencia artificial. Es justamente esa capacidad técnica que permite identificar, recolectar, transmitir y analizar nuestros comportamientos e ideas por medio de mensaje de datos –patrones– lo que hace posible la inteligencia artificial.