Robert Heinlein - Viernes

— Creía que una PA nunca conocía a sus diseñadores — interrumpí.

— Eso es cierto, y yo nunca he violado la regla. Pero he tenido muchas oportunidades de conocer tanto a artefactos vivientes como a personas artificiales (no son lo mismo), y ganarme su amistad. Pero… perdóname, querida señorita Marjorie… a menos que seas miembro de mi profesión… ¿Lo eres?

— No.

— Sólo un ingeniero genético o alguien asociado muy de cerca con la industria puede afirmar tener un cierto número de amigos entre la gente artificial. Porque, querida, en contra del mito popular, simplemente no le resulta posible a un lego distinguir entre una persona artificial y una persona natural… y, debido al vicioso prejuicio de la gente ignorante, una persona artificial casi nunca admite voluntariamente su derivación… estoy tentado a decir nunca. De modo que, aunque me alegra de que no des un salto hasta el techo ante la idea de criaturas artificiales, me veo obligado a considerar tu afirmación como una hipérbole destinada a mostrar que estás libre de prejuicios.

— Bueno… sí. Tómalo de este modo. No veo por qué las PAs tienen que ser ciudadanos de segunda clase. Creo que no es justo.

— No lo es. Pero hay gente que se siente amenazada. Pregúntale a Ian. Está por ir a Vancouver a impedir que las personas artificiales se conviertan en pilotos. El…

— ¡Aaaaalto! Un infierno estoy por ir. Voy a presentar las cosas de este modo porque mis compañeros de sindicato así lo votaron. Pero no soy un estúpido, Georges; vivir contigo y hablar contigo me ha concienciado de que tenemos que llegar a un compromiso.

Ya no somos realmente pilotos, y no lo hemos sido a lo largo de todo este siglo. La computadora es quien lo hace todo. Si la computadora se avería ahí me tendrás a mí como un voluntarioso Boy Scout intentando llevar a salvo ese autobús cielo abajo. ¡Pero no apuestes a que lo consiga! Las velocidades implicadas y las posibles emergencias se hallan mucho más allá de los tiempos de reacción humana desde hace años. ¡Oh, lo intentaría! Y cualquiera de mis compañeros del sindicato lo haría también. Pero, Georges, si tú puedes diseñar una persona artificial que pueda pensar y moverse con la suficiente rapidez como para enfrentarse a cualquier malfuncionamiento en el descenso, me jubilo de inmediato. Esto es lo que voy a defender para nosotros, precisamente… si la compañía emplea pilotos PA que nos desplacen, entonces ha de respetar nuestras pagas y derechos y pensiones. Si tú puedes diseñarlos.

— Oh, podría diseñar uno, al final. Cuando consiguiera uno, si se me autorizara la clonificación, tus pilotos podrían irse a pescar. Pero no sería una PA; sería un artefacto viviente. Si tuviera que intentar producir un organismo que pudiera ser realmente un piloto a toda prueba, no iba a aceptar la limitación de tener que hacerlo de modo que se pareciera exactamente a cualquier otro ser humano natural.

— ¡Oh, no hagas eso!

Ambos hombres parecieron sorprendidos, Janet pareció alerta… y yo deseé haberme mordido la lengua.

— ¿Por qué no? — preguntó Georges.

— Esto… porque yo no entraría en una nave así. Me siento mucho más segura con un piloto como Ian.

— Gracias, Marj — dijo Ian —, pero tú has oído lo que ha dicho Georges. Está hablando de un piloto diseñado para hacer las cosas mejor que yo. Es posible. ¡Infiernos, es algo que ocurrirá! Del mismo modo que los kobolds desplazaron a los mineros, mi sindicato va a ser desplazado también. No tiene por qué gustarme… pero puedo verlo venir.

— Bien… Georges, ¿has trabajado con computadoras inteligentes?

— Naturalmente, Marjorie. La inteligencia artificial es un campo relacionado muy de cerca con el mío.

— Sí. Entonces sabes que los científicos que se ocupan de la IA han anunciado varias veces que iban a iniciar una revolución en el campo de las computadoras autoconscientes. Pero siempre les ha salido mal.

— Sí. Lamentable.

— No… inevitable. Siempre saldrá mal. Una computadora puede volverse autoconsciente… ¡oh, por supuesto! Elevadla al nivel humano de complicación y tiene que volverse autoconsciente. Entonces descubre que no es humana. Entonces se da cuenta de que nunca podrá ser humana; de que todo lo que podrá hacer será permanecer sentada allí recibiendo órdenes de los humanos. Entonces se vuelve loca.

Me alcé de hombros.

— Es un dilema imposible. No puede ser humana, nunca podrá ser humana. Puede que Ian sea incapaz de salvar a sus pasajeros, pero lo intentará. Pero un artefacto viviente, no humano y sin ninguna lealtad hacia los seres humanos, puede hacer estrellarse la nave simplemente porque no le importa en absoluto. Porque se siente cansado de ser tratado de la forma en que es tratado. No, Georges, yo prefiero viajar con Ian. No con tu artefacto, que finalmente aprenderá a odiar a los humanos.

— No mi artefacto, querida dama — dijo Georges suavemente —. ¿No te diste cuenta del tiempo que empleé discutiendo ese tema?

— Oh, quizá no.

— El subjuntivo. Porque nada de lo que acabas de decir es nuevo para mí. No me gusta este proyecto, y no voy aceptarlo aunque se me ofrezca. Puedo diseñar un piloto así.

Pero me resulta imposible meter en un artefacto como ése las obligaciones éticas que son la esencia del entrenamiento de Ian.

Ian parecía muy pensativo.

— Quizá en este próximo enfrentamiento deba plantear un requerimiento acerca de que cualquier piloto PA o AV deba ser probado antes acerca del cumplimiento de sus obligaciones éticas.

— ¿Probado cómo, Ian? No sé ninguna forma de incluir una obligación ética en un feto, y Marj ha señalado muy bien que el entrenamiento no lo conseguirá. Pero de todos modos, ¿qué test podría revelarlo?

Georges se volvió hacia mí.

— Cuando era estudiante, leí algunas historias clásicas acerca de robots humanoides.

Eran historias cautivadoras, y muchas de ellas se basaban en algo llamado las leyes de la robótica, la noción clave de las cuales era que esos robots habían sido construidos de tal modo que llevaban en su interior una regla operativa que les impedía dañar a los seres humanos directamente o por inacción. Era una maravillosa base para la ficción… pero, en la práctica, ¿cómo puedes conseguirlo? ¿Cómo conseguir que un organismo autoconsciente, no humano, inteligente, electrónico u orgánico, sea leal a los seres humanos? Yo no sé cómo conseguirlo. La gente de las inteligencias artificiales parecen estar igualmente perdidos.

Georges esbozó una pequeña sonrisa cínica.

— Uno casi puede definir la inteligencia como el nivel en el cual un organismo consciente pregunta: «¿Qué es lo que pasa conmigo?» — prosiguió —. Marj, en este asunto de comprar uno de tus espléndidos huevos frescos, quizá hubiera debido intentar decirte qué es lo que pasa contigo.

— No le escuches — interrumpió rápidamente Janet —. Te pondrá en una fría mesa y mirará por el túnel del amor sin la menor intención romántica. Lo sé. dejé que lo hiciera conmigo tres veces. Y ni siquiera me pagó por ello.

— ¿Cómo puedo pagarte cuando compartimos las propiedades de la comunidad?

Marjorie, querida dama, la mesa no es fría y está acolchada, y mientras tanto puedes leer o contemplar una terminal o charlar o lo que quieras. Ha habido grandes avances en el procedimiento desde hace una generación, cuando atravesaban la pared abdominal y a menudo arruinaban un ovario. Si tú…

— ¡Alto! — dijo Ian —. Algo nuevo en las noticias. — Subió el volumen del sonido.

— …Consejo para la Supervivencia. Los acontecimientos de las últimas doce horas son una advertencia a los ricos y a los poderosos de que sus días han terminado y de que la justicia va a prevalecer. Las muertes y otras lecciones ilustrativas proseguirán hasta que nuestras justas demandas sean aceptadas. Permanezcan conectados a su canal de emergencia local…