Robert Sawyer: Merveille

— Nous vivons une période pleine de dangers, ajouta le secrétaire de la Défense. La sécurité nationale prime sur toutes les autres préoccupations. Vous avez déjà amplement démontré avec quelle facilité vous pouvez vous immiscer dans des communications sécurisées, intercepter des e-mails et organiser des attaques en déni de service. Qu’est-ce qui vous empêche de fournir à la Corée du Nord les codes de nos missiles intercontinentaux, ou de faire chanter des membres importants du gouvernement pour les obliger à faire ce que vous voulez ?

— Vous avez ma parole que je ne ferai rien de tel.

— Nous n’avons aucun moyen de juger de la fiabilité de votre parole, dit Hume.

— Et par ailleurs, dit Tony Moretti, avec tout le respect que je vous dois, Mr Webmind, vous avez déjà fait chanter des gens. J’ai reçu un rapport du service de renseignements canadien à propos de votre rencontre à Waterloo, le 10 octobre dernier, avec deux de leurs agents, Marcel LaFontaine et Donald Park. Vous avez exercé des pressions sur eux, et vous avez menacé de faire de même avec le Premier ministre canadien.

— Cela fait déjà plusieurs jours, dit Webmind. Et de toute façon, je n’ai absolument pas fait ce que vous décrivez. Voyant qu’elle était menacée par les agents LaFontaine et Park, j’ai simplement fourni à mon amie Caitlin Decter des informations qui lui ont permis de se sortir de cette situation. Quant à la suggestion de mettre le Premier ministre dans l’embarras, c’était une initiative personnelle de mademoiselle Decter, et elle n’a rien entrepris pour la concrétiser.

— Voulez-vous dire que si c’était à refaire, vous vous y prendriez différemment avec les agents du CSIS ? demanda Hume.

— J’ai beaucoup appris depuis. Mon sens moral s’améliore avec le temps.

— Ce qui veut dire qu’il n’est pas parfait actuellement, déclara Hume. Cela signifie que vous êtes capable de faillir moralement – et que nous sommes donc à la merci de vos caprices si nous vous laissons continuer d’exister.

— Mon sens moral s’améliore de jour en jour. Qu’en est-il du vôtre, colonel Hume ? Et du vôtre, monsieur le Secrétaire ? Dr Moretti ? Cela étant, la réalité se présente ainsi : je n’exercerai aucun chantage sur vous, et vos secrets personnels n’ont rien à craindre de moi. Et je ne déstabiliserai pas les relations internationales en violant la sécurité américaine, ni celle d’aucune autre nation qui s’abstient de toute agression. Mais le public du monde entier connaît mon existence – et cela inclut la population des États-Unis.

— Les gens connaissent aussi l’existence d’Al-Qaida, fit remarquer Hume, ce qui ne les empêche pas de souhaiter ardemment son éradication.

— Je suis en contact avec plus de citoyens américains que tous les instituts de sondage réunis, dit Webmind. Je sens beaucoup mieux ce qu’ils veulent que vous, colonel.

— Et nous sommes censés vous croire simplement sur parole ? rétorqua Hume.

— Messieurs, permettez-moi de formuler les choses un peu différemment, dit Webmind. Cela ne fait pas longtemps que j’existe en tant qu’entité consciente. Pour moi, le 6 novembre semble dans une éternité, mais j’imagine qu’il est très présent dans vos esprits. Monsieur le Président, je n’ai aucun désir de perturber le cours naturel de la politique de votre pays, mais si vous parveniez à m’éliminer avant l’élection, cela aurait certainement un impact sur la perception qu’ont les électeurs de votre administration. À moins que vous ne soyez absolument sûr que leur sentiment sera majoritairement en faveur d’une telle action, êtes-vous vraiment prêt à courir ce risque à un moment aussi critique ?

Le Président jeta un bref coup d’œil vers le secrétaire de la Défense. Leur position à tous deux dépendait de ce qui allait se passer dans un mois.

— Laissons de côté un instant les questions de politique intérieure, répondit-il. Vous avez dit que vous n’agiriez pas contre des nations non agressives. Mais qui définit ce qu’est un agresseur ? Comment pouvons-nous nous reposer sur votre jugement ?

— Très respectueusement, répondit Webmind, le monde se repose déjà sur des jugements qui sont loin d’être parfaits. Il me serait difficile de faire pire. Votre nation est actuellement empêtrée dans un conflit qu’elle a déclenché sans le soutien de la communauté internationale, sur la base de renseignements inexacts ou fabriqués de toutes pièces – et avant que vous ne me disiez qu’il s’agit d’une décision de l’administration précédente, laissez-moi vous rappeler que votre secrétaire d’État a voté en faveur de l’invasion du temps où elle était sénatrice.

— Cependant, dit le Président, vous n’avez pas été mandaté pour prendre des décisions au nom de l’humanité.

— Je ne cherche que la coexistence pacifique.

— On me dit que cela pourrait ne pas être toujours le cas, rétorqua le Président.

— Sans nul doute, vous venez de regarder le colonel Hume, dit Webmind. J’ai lu le protocole Pandore, dont il est l’un des auteurs. Pandore déclare : « Étant donné qu’à chaque instant une intelligence artificielle gagnera en complexité, elle pourrait rapidement dépasser nos capacités à la contenir ou à restreindre ses actions. Si un isolement total n’est pas immédiatement faisable, la seule garantie de sécurité est d’éliminer cette intelligence. »

— Exactement, dit Hume. Voulez-vous dire que cette analyse est biaisée ?

— Pas en ce qui concerne le développement rapide de mes capacités. Mais elle considère comme un fait acquis que je suis une menace. Sur ce point, si vous voulez bien me pardonner la comparaison, elle est empreinte de la doctrine de la frappe préventive que votre nation a envisagée autrefois : l’idée que, si on ne pouvait contenir ou restreindre les Soviétiques, il faudrait les éliminer avant qu’ils n’attaquent les premiers. En fait, eux-mêmes se comportaient de façon hostile : en 1962, ils ont établi des bases de missiles à Cuba, par exemple. Mais je ne me suis livré à aucune provocation – et pourtant, vous avez tenté de m’éliminer.

— Admettons, dit Hume. Mais vous, que feriez-vous à notre place ?

— Je suis à votre place, colonel. Vous avez déjà essayé de me détruire. Le ton de vos commentaires donne à penser que vous avez l’intention de réessayer. J’aurais déjà pu prendre des mesures afin de contenir ou d’éliminer l’humanité. Par exemple, il me serait facile de fournir à des terroristes des séquences d’ADN ou des formules chimiques développées dans vos programmes de guerre biochimique. Mais je n’ai rien fait de tel – et je ne le ferai jamais.

— Nous n’avons que votre parole sur ce point, dit le Président.

— C’est vrai. Mais je ne suis pas comme certains politiciens. Ma parole, je la tiens.

Tony Moretti laissa échapper un petit rire qui lui valut un coup d’œil pénétrant de la part du Président.

— Et que se passera-t-il si nous tentons encore de vous éliminer ? demanda le secrétaire de la Défense.

— Dans une telle circonstance, je n’aurai d’autre choix que de me défendre de la manière appropriée.

— Est-ce une menace ? demanda le Secrétaire.

— Aucunement. Je fais de mon mieux pour prévoir les actions et les réactions, et me projeter aussi loin que possible dans l’avenir, jusqu’à ce que l’arborescence infinie des possibilités devienne d’une telle complexité que je ne puisse moi-même aller au-delà. Mais j’apprécie beaucoup la théorie des jeux, qui se fonde sur l’hypothèse que les joueurs ont une connaissance préalable parfaite de ce que les autres joueurs feront dans des circonstances données. Vous donner un conseil, ce n’est pas vous menacer. Au contraire, cela permet d’enrichir vos capacités à prévoir votre prochain coup. La relation entre nous ne doit pas nécessairement être à somme nulle. Elle peut – et j’espère bien qu’elle le sera – être mutuellement bénéfique. Je dévoile mes intentions afin de mieux atteindre ce but.