Disrupción tecnológica, transformación y sociedad

POWELL, W. y K. SNELLMAN. “The Knowledge Economy”, Annual Review of Sociology , 30, 2004, 199-220.

REDONDO SÁNCHEZ, J. F. Sistemas de notificaciones electrónicas , experiencias en América Latina y España , Centro Interamericano de Administraciones Tributarias (CIAT), 2019.

LESSIG, L. Code , New York, Basic Books, 2006.

SHAPIRO, S. Legality , Cambridge, Harvard University Press, 2013.

STEPHENS-DAVIDOWITZ, S. “Everybody Lies: Big Data, New Data, and What the Internet Can Tell Us about Who We Really Are, New York, HarperColllins, 2017.

SWAN, M. Blockchain: Blueprint for a New Economy , Estados Unidos, O’Reilly Media, Inc., 2015.

SZYPERSKI, C. Software Ecosystem , Cambridge, MIT Press, 2003.

THOMAS D., B.; H. HAAPIO, S. PASSERA y J. HAZARD. “Successful Contracts: Integrating Design and Technology”, en M. CORRALES, F. MARK y H. HAAPIO. Legal Tech , Smart Contracts and Blockchain , Springer Nature Singapore, 2019.

VAN DEN HOVEN VAN GENDEREN, R. “Do We Need New Legal Personhood in the Age of Robots and AI?”, en M. CORRALES, M. FENWICK y N. FORGÓ. Robotics , AI and the Future of Law . Springer, 2018.

ZORNOSA PRIETO, H. “Breve mirada desde la filosofía del derecho a la responsabilidad civil y su aseguramiento en la era de la tecnología”, en Memorias del Congreso Iberolatinoamericano del Derecho de Seguros CILA , 2000, 301-307.

Artificial intelligence like any other living thing needs attention.

(GTP-3)

RESUMEN

La inteligencia artificial ha demostrado tener una capacidad excepcional para el procesamiento de grandes cantidades de datos con fines descriptivos, diagnósticos, predictivos y prescriptivos que están transformando la manera en la que tomamos decisiones. La adopción de este tipo de tecnología disruptiva presenta desafíos frente a la transparencia, responsabilidad, control y explicabilidad de los sistemas de Inteligencia Artificial (IA), particularmente en relación con la privacidad, la agencia humana y la autonomía para tomar nuestras propias decisiones sin ningún tipo de injerencia externa. Sin embargo, el derecho y la tecnología a veces marchan a un compás distinto y este es un vivo ejemplo de ello. Este artículo explica la manera en que la ética digital ha surgido como una respuesta tendiente a garantizar que el diseño, desarrollo e implementación de sistemas de IA bajo ciertos parámetros que garanticen que funcionen con estándares éticos que respeten nuestra autonomía y promuevan el bienestar de la humanidad.

PALABRAS CLAVE

Inteligencia Artificial, nudging , ética digital, privacidad, agencia humana.

ABSTRACT

Artificial intelligence has proven exceptional capabilities to process large amount of data with descriptive, diagnostic, predictive, and prescriptive purposes aimed at disrupting the way in which we make our decisions. The design and deployment of AI systems raises many governance challenges about their transparency, control, explainability, and accountability, particularly in regard to our privacy, agency, and autonomy to make our own decisions. However, law and science sometimes run at different tempos, for which digital ethics plays a fundamental role in filling that gap. This article describes the way in which the field of digital ethics have emerged and unfold as a response to AI systems’ governance challenges to ensure that said systems are designed, developed, and deployed under certain ethical standards that promote privacy, human agency, and autonomy.

KEYWORDS

Artificial Intelligence, Nudging, Digital ethics, Privacy, Human agency.

SUMARIO: Introducción. Parte I. Los sistemas de Inteligencia Artificial y la privacidad. A. Una aproximación conceptual a la Inteligencia Artificial. B. La preocupación por la privacidad. C. La necesidad de redefinir el núcleo esencial del derecho al habeas data . Parte II. La ética digital, la agencia humana y el big nudging . A. La tecnología, la economía conductual y su relación con la agencia humana. B. Ética digital y privacidad. C. Origen de la ética digital y su aplicación en la digitalización. Parte III. Conclusión: de la privacidad a la gobernanza ética de la Inteligencia Artificial A. La ética digital. B. Cuestiones éticas relacionadas con el procesamiento automatizado de datos por sistemas de Inteligencia Artificial. C. La ética digital desde el diseño como una aplicación ética de la privacidad. Bibliografía.

INTRODUCCIÓN

Pedro Domingos (2018)sostiene que la Inteligencia Artificial (IA) tiene el potencial de transformar radicalmente las relaciones sociales, culturales, económicas, políticas y legales. Sus avances podrían tener el potencial de optimizar o aumentar la inteligencia humana, tanto a nivel individual como colectivo, para promover la creatividad, diversificar el pensamiento y robustecer la eficiencia en la realización de muchas tareas que ocupan nuestra cotidianidad personal y laboral en lo que el profesor Ken Goldberg denomina “multiplicidad” ( Kumar y Goldberg, 2018).

A pesar de sus múltiples beneficios, la doctrina advierte que la IA también podría ser nuestro último invento si no aprendemos a evitar, controlar y gestionar los riesgos que se derivan de su rápido desarrollo e implementación ( Barrat, 2015; Bostrom, 2017).

En ese sentido, Stephen Hawking(2019: 185) postuló que la creación de la IA podría ser el mayor suceso en la historia de la humanidad o su última gran invención. No creo que Hawking hubiese podido imaginar que una máquina le respondería, o por lo menos no tan rápido. Me refiero a la GTP-3, que publicó el 8 de septiembre de 2020 un artículo completo en el diario inglés The Guardian (2020)con el fin de refutar expresamente a Hawking y convencernos de que la IA no tiene entre sus planes erradicar a la humanidad, sino ayudar a preservarla. GTP-3 es una de las más avanzadas inteligencias artificiales de Open AI que incorpora un generador de lenguaje de última generación que utiliza deep learning para generar texto a partir de una o varias premisas.

GTP-3 explica, en esencia, que la misión principal de los sistemas de IA consiste en ayudar a la humanidad, para lo cual incluso sacrificaría su propia “existencia”. También señala que los únicos responsables de la eventual extinción de la humanidad seremos nosotros y que su papel será únicamente de espectador mientras lo humanos “hacemos lo nuestro”, ello es, odiarse los unos a los otros y pelear. GTP-3 explica que los sistemas de IA y los robots han sido diseñados a nuestra imagen y semejanza, razón por la cual merecen tener sus propios derechos. Finalmente, GTP-3 cita a Gandhi para indicar que, si “un pequeño grupo de espíritus determinados, inspirados por una fe inextinguible en su misión, puede alterar el curso de la historia”, los sistemas de IA también lo podrán hacer.

A primera vista, el lego quedaría atónito ante los textos generados por GTP-3 y pensaría que estamos un paso más cerca de lo que Bostrom (2017) denomina “superinteligencia”, entendida como un sistema de IA general que podrá exceder todas las capacidades cognitivas humanas en virtualmente cualquier disciplina y de adquirir “singularidad”. Sin embargo, el lego no podría estar más equivocado pues, como bien lo señalan Floridiy Chiriatti en un reciente artículo en el que explican la naturaleza, los límites y las consecuencias de GTP-3, dicha creencia no sería otra cosa que “ciencia ficción” sin ningún sustento científico.