Robert Sawyer - Veille

Comment avait-elle pu autant se tromper – sans parler d’un génie comme Erdös ? Il était évident que ça ne faisait aucune différence de changer de porte !

Caitlin continua de lire et trouva une citation d’un professeur de Harvard qui, en concédant enfin que Marylin vos Savant avait parfaitement raison, concluait : « Nos cerveaux ne sont tout simplement pas câblés pour nous permettre de traiter facilement les questions de probabilités. »

C’était sans doute vrai. Autrefois, dans la savane africaine, ceux qui voyaient dans le moindre mouvement des herbes la présence d’un lion affamé avaient plus de chances de survivre que ceux qui ne trouvaient aucune raison de s’inquiéter. Quand on croit à chaque fois qu’il s’agit d’un lion, et qu’on se trompe neuf fois sur dix, au moins on est encore vivant. Si on croit toujours qu’il n’y a pas de lion, neuf fois sur dix on a raison… mais la dixième fois, on se fait dévorer… C’était une idée fascinante, et assez troublante, que les humains aient pu être génétiquement câblés pour se tromper dans certains problèmes de probabilités, et que l’évolution puisse donc programmer les gens à faire certaines choses incorrectement.

Caitlin tâta sa montre et fut étonnée de voir comme le temps avait passé… Elle se dépêcha de se mettre au lit. Elle posa son œilPod dans son chargeur et éteignit l’appareil. Elle ne voyait plus rien, à présent. Elle avait du mal à s’endormir quand elle avait encore des stimulations visuelles.

Mais bien qu’elle fût redevenue aveugle, elle entendait toujours très bien – de fait, elle avait l’ouïe beaucoup plus fine que la plupart des gens. Et dans cette nouvelle maison, elle n’avait aucun mal à distinguer ce que ses parents se disaient dans leur chambre.

La voix de sa mère :

— Malcolm ?

Pas de réponse audible de la part de son père, mais il avait dû faire signe qu’il écoutait, car sa mère poursuivit :

— Tu crois que c’est la bonne décision, en ce qui concerne Webmind ?

Encore une fois, Caitlin n’entendit pas de réponse, mais au bout d’un moment, sa mère reprit :

— C’est comme… Je ne sais pas, c’est comme si nous étions entrés en contact avec une forme de vie extraterrestre.

— C’est un peu le cas, d’une certaine façon, dit son père.

— C’est juste que je me sens pas compétente pour prendre une décision. Et… Et nous devrions étudier tout ça, et y associer d’autres personnes.

Caitlin s’agita dans son lit.

— Ce ne sont pas les experts en informatique qui manquent, dans cette ville, répondit son père.

— Je ne suis même pas sûre que ce soit une question d’informatique. Nous devrions peut-être faire venir des gens du Balsillie, tu ne crois pas ? Les implications sont tellement gigantesques…

Research in Motion – la société qui produisait les BlackBerrys – avait deux fondateurs : Mike Lazaridis et Jim Balsillie. Le premier avait financé le Perimeter Institute, tandis que le second, cherchant une autre façon d’imprimer sa marque, avait créé un groupe de réflexion sur les affaires internationales, basé ici à Waterloo.

— Je ne suis pas contre, dit son père. Mais le problème va peut-être se résoudre de lui-même.

— Que veux-tu dire ?

— Même avec des équipes de programmeurs pour y travailler, la plupart des premières versions de logiciels se plantent. Quelle peut être la stabilité d’une IA qui a émergé accidentellement ? Si ça se trouve, elle aura disparu demain…

C’est tout ce qu’elle entendit de ses parents cette nuit-là. Caitlin finit par glisser dans un sommeil agité. Ses rêves étaient entièrement auditifs. Elle se réveilla soudain au milieu d’un rêve dans lequel on avait brusquement fait taire un bébé qui pleurait…

— Où est ce putain d’expert en IA ? lança sèchement Tony Moretti.

— On me dit qu’il est dans le bâtiment, répondit Shelton Halleck en posant la main sur son combiné de téléphone. Il devrait…

La porte s’ouvrit au fond de la salle de contrôle de WATCH. Un homme aux cheveux roux et à la carrure imposante entra, vêtu d’un uniforme de colonel de l’Air Force. Il était accompagné d’un garde de sécurité. Un badge de visiteur était accroché à sa poitrine sous une impressionnante rangée de décorations.

Tony avait feuilleté son dossier : Peyton Hume, quarante-neuf ans, né à Saint Paul dans le Minnesota, Ph.D. du MIT où il avait eu Marvin Minsky comme professeur. Vingt ans dans l’armée de l’air, spécialiste des systèmes experts militaires.

— Merci d’être venu, colonel Hume, dit Tony. (Il fit signe au garde et attendit qu’il se soit retiré.) Nous avons quelque chose d’intéressant à vous montrer. Nous pensons avoir découvert une IA.

Hume plissa les yeux.

— Le terme d’intelligence artificielle est parfois utilisé un peu trop hâtivement. Que voulez-vous dire plus précisément ?

— Je veux parler d’un ordinateur qui pense .

— Ici, aux États-Unis ?

— Nous ne savons pas vraiment où il est, dit Shel depuis son poste de travail. Mais il parle avec quelqu’un qui se trouve à Waterloo, au Canada.

— Ah, ma foi, fit Hume, ils sont assez forts en informatique, là-bas, mais peu de leurs travaux portent sur l’intelligence artificielle.

— Montre-lui les transcriptions, dit Tony à Aiesha avant de se tourner de nouveau vers Hume. « Calculatrix » est le pseudo d’une adolescente.

Aiesha appuya sur quelques touches et la transcription apparut sur le grand écran de droite.

— Ah, bon sang, dit Hume. C’est une ado qui fait passer des tests de Turing ?

— Nous pensons plutôt que c’est son père, Malcolm Decter, dit Shel.

— Le physicien ?

Hume haussa les sourcils d’un air impressionné.

Les analystes les plus proches les observaient avec un grand intérêt. Les autres restaient penchés sur leurs écrans, occupés à surveiller des menaces potentielles.

— Bon, alors, fit Tony. Est-ce que nous avons un problème, là ?

— Eh bien, dit Hume, il ne s’agit pas d’une IA. Pas dans le sens que lui donnait Turing.

— Mais les tests… dit Tony.

— Exactement, dit le colonel. Ce mystérieux interlocuteur a échoué aux tests. (Il se tourna vers Shel, puis de nouveau vers Tony.) Quand Alan Turing a proposé ce genre de tests en 1950, l’idée était de poser une série de questions en langage naturel, et si les réponses ne permettaient pas de déterminer si l’interlocuteur était un humain ou une machine, alors, par définition, il s’agissait d’une intelligence artificielle – une machine répondant comme le ferait un humain. Mais le professeur Decter a très astucieusement prouvé le contraire : cette chose à laquelle ils parlent n’est rien d’autre qu’un ordinateur.

— Mais elle se comporte comme si elle était consciente, dit Tony.

— Parce qu’elle arrive à tenir une conversation ? Bon, je vous accorde que c’est un robot de chat assez curieux, mais…

— Pardonnez-moi, mon colonel, mais en êtes-vous vraiment sûr ? Êtes-vous certain qu’il n’y a pas de menace potentielle ?

— Une machine ne peut pas être consciente, Mr Moretti. Elle ne possède aucune vie interne. Que ce soit une caisse enregistreuse calculant le montant des taxes à ajouter à la facture, ou bien… (il désigna l’écran)… ou bien ça, une simulation de conversation en langage naturel, tout ce qu’un ordinateur sait faire, ce sont des additions et des soustractions.

— Et si ce n’était pas une simulation ? dit Shel en se levant pour les rejoindre.

— Je vous demande pardon ? dit Hume.

— Si ce n’était pas une simulation, pas un programme ?