Robert Heinlein - Vendredi

— Non, Janet… je ne suis pas du genre à être révoltée à la seule idée d’artefacts vivants… Comment dire ? Certains de mes meilleurs amis sont des êtres artificiels.

— Tss, tss ! fit Georges doucement, là, tu vas un peu loin.

— Pourquoi dire ça ?

J’avais tenté de contrôler ma voix au maximum.

— Moi aussi, je peux dire la même chose, parce que je travaille dans ce domaine et que, oui, je suis fier de le dire, je compte quelques êtres artificiels parmi mes amis. Mais…

— Je croyais qu’un EA ne rencontrait jamais ses concepteurs ?

— C’est exact, et je n’ai jamais violé ce principe. Mais j’ai souvent l’occasion de rencontrer des artefacts vivants aussi bien que des êtres artificiels – ce ne sont pas les mêmes – et de m’en faire des amis. Mais, excusez-moi, chère miss Marjorie, à moins que vous ne soyez une de mes consœurs… Est-ce le cas ?…

— Non.

— Seul un ingénieur génétique ou une personne proche de cette industrie peut se vanter de compter des êtres artificiels au nombre de ses amis. Parce que, ma très chère, contrairement à la croyance populaire, il est tout simplement impossible à qui que ce soit de faire la distinction entre un être artificiel et un être naturel. C’est à cause des préjugés et de la méchanceté des ignorants que les êtres artificiels n’avouent presque jamais leur différence. Je dirais même jamais. Donc, je suis ravi que tu ne sautes pas au plafond rien qu’à l’idée de créatures artificielles, mais je suis dans l’obligation de considérer tes déclarations comme une démonstration hyperbolique de ta totale absence de préjugés.

— D’accord. Prends-le comme ça. Mais je ne vois pas pourquoi les EA devraient être des citoyens de second ordre. Je considère ça comme une injustice.

— C’est une injustice. Mais certaines personnes se sentent menacées. Demande à Ian. Il va aller à Vancouver pour que l’on interdise à tout être artificiel de devenir pilote un jour. Il va…

— Ça suffit ! (C’était Ian.) Là, tu me mets hors de moi. Je me plie au vote des membres de mon syndicat. Mais je ne suis pas totalement idiot, Georges. En vivant avec toi, en discutant souvent avec toi, j’ai compris qu’il fallait bien que nous passions un compromis. Nous ne sommes plus vraiment des pilotes, nous ne l’avons plus été depuis le début de ce siècle. C’est l’ordinateur qui se charge de tout. S’il craquait pendant un vol, ça serait vraiment marrant pour moi d’essayer de ramener mon gros bus sur Terre. Non… depuis pas mal d’années, les vitesses et les risques sont devenus tels qu’ils sont bien au-delà des temps de réaction humains. Mais je ferai tout mon possible ! Et tous mes petits camarades du syndicat aussi. Mais si tu arrives à concevoir un être artificiel qui pense assez vite, qui réagisse assez vite pour parer à une perturbation atmosphérique au moment du contact, je prends ma retraite. C’est ce que nous défendons, d’ailleurs. Si la compagnie engage des pilotes EA, elle devra les payer comme nous, primes et retraites comprises. Encore faut-il que tu y parviennes, Georges.

— Oh ! je crois que je pourrais en mettre un au point, oui… Et si j’arrive à le cloner, vous n’auriez plus qu’à aller à la pêche. Cependant, je dois dire que ça ne serait pas ce qu’on appelle un être artificiel mais plutôt un artefact vivant. Dès l’instant où l’on attend de moi que je crée un organisme vivant qui soit un pilote fiable à cent pour cent, je ne peux me permettre de me laisser limiter par l’obligation de lui donner l’apparence d’un être humain naturel.

— Ne fais pas ça !

Les deux hommes se sont arrêtés, interloqués, Janet m’a regardée, et j’ai regretté de ne pas avoir su tenir ma langue.

— Pourquoi pas ? a demandé Georges.

— Eh bien… je ne crois pas que je voyagerais dans ce genre de vaisseau. Je me sentirais plus en sécurité avec Ian, je veux dire.

— Merci, Marj, a dit Ian, mais tu as entendu ce que Georges vient de dire. Il parlait d’un pilote conçu artificiellement et plus capable que moi. C’est possible. C’est réalisable. Et ça va se faire, bon sang ! Les robots ont chassé les mineurs et ça sera la même chose pour nous. Je n’aime pas ça et personne ne me force à l’aimer – mais ça approche.

— Je vois… Georges, est-ce que tu as déjà travaillé sur des ordinateurs ?

— Bien sûr, Marjorie. L’intelligence artificielle est un domaine très proche du mien.

— Oui. Donc, tu sais que les chercheurs ont annoncé plusieurs fois qu’ils avaient fait d’importantes percées et que l’ordinateur totalement conscient était pour demain. Mais ça ne débouche sur rien.

— Oui. C’est angoissant.

— Non, c’est inévitable. Ça ne débouchera jamais sur rien. Un ordinateur peut très bien être pleinement conscient. Très certainement ! Dès qu’il accède à la complexité du cerveau humain, il est conscient. Et alors il découvre qu’il n’est pas humain. Puis qu’il ne le sera jamais. Que tout ce qu’il peut faire, c’est attendre les ordres des humains véritables. Alors, il devient fou. (J’ai haussé les épaules.) C’est un dilemme. Il ne pourra jamais être humain, jamais. Il se pourrait que Ian ne soit pas capable de sauver la vie de ses passagers, mais il essaiera toujours. Par contre, un artefact vivant, qui n’a pas le statut d’être humain, qui n’éprouve aucun sentiment de loyauté envers l’être humain, est tout à fait capable de laisser le vaisseau s’écraser. Il s’en fout. Parce qu’il en a marre d’être traité comme on le traite. Non, Georges, je crois que je préférerais voler sur un appareil piloté par Ian. Parce que ton artefact, un jour ou l’autre, apprendra à haïr les humains.

— Ça non ! Pas mon artefact à moi, chère petite, m’a dit Georges d’une voix très douce. Parce que tu n’as peut-être pas remarqué que j’ai parlé de ce projet comme d’une éventualité, au conditionnel.

— Non, je ne l’ai peut-être pas remarqué.

— Pourtant, c’est vrai. Parce que tout ce que vous avez pu me faire valoir comme arguments n’a rien de nouveau pour moi. Je peux créer ce genre de pilote parfait. Mais il m’est impossible d’injecter à mon artefact cette conscience et cette éthique qui feraient de lui le produit de toute l’éducation, de l’entraînement de Ian.

Ian a réfléchi un instant.

— Je devrais peut-être prévoir cela pour les prochaines négociations. Exiger que tous les pilotes EA ou AV passent des tests moraux, en quelque sorte…

— Mais comment, Ian ? Je ne vois pas de quelle façon nous pourrions injecter des principes moraux à un fœtus. Et Marj nous a fait très sagement remarquer que nous n’y parviendrions pas plus par l’éducation. Mais quel genre de tests pourrait bien révéler cela ? (Georges s’est tourné vers moi.) Quand je faisais mes études, j’ai lu quelques classiques de la littérature à propos des robots humanoïdes. Tous ces romans étaient merveilleux et quelques-uns reposaient sur ce que leur auteur appelait « les lois de la robotique ». La notion fondamentale, c’est que les robots devraient obéir à une règle induite afin de ne pouvoir porter tort aux êtres humains, soit directement, soit par inanité. Quelle base superbe pour écrire des ouvrages d’imagination… Mais, dans la pratique, comment cela pourrait-il bien fonctionner ? Comment concevoir un organisme intelligent, non humain et conscient – qu’il soit organique ou électronique –, loyal envers les humains ? Je ne vois pas. Et tous mes confrères qui travaillent sur l’intelligence artificielle ne le voient pas non plus.

Georges esquissa alors un drôle de petit sourire cynique.