William Hertling - A.I. APOCALYPSE

»General, tut mir leid, Sie aufzuwecken, aber wir haben einen Notfall. Ich schlage daher vor, dass Sie sofort ins USCYBERCOM kommen.«

Nach einem kurzen Gespräch legte sie auf. Weil sie nicht darauf warten wollte, bis der General die Basis erreichte, entschied Sally, zusätzliches Personal anzufordern. Sie griff wieder zum Tischtelefon und rief den diensthabenden Offizier der Morgenschicht an, Lt. Chris Robson. »Chris, hier spricht Sally. Ich brauche zusätzliche Leute. Kannst du mir so schnell wie möglich 40 Jockeys schicken? Und ich hätte nichts dagegen, wenn du auch aushilfst.«

Der Hauptbildschirm vorne im Raum zeigte eine Weltkarte mit allen Militärbasen und den Hauptnetzwerkknoten. Mittlerweile blinkten ein Dutzend Basen in Rot – isolierte Netzwerke, die jetzt außerhalb des Zugriffs der Kommandokette waren. USCYBERCOM hatte maximal 30 Minuten, um ein Netzwerk zu säubern. Danach wurde die fehlende Kommunikation als militärische Bedrohung angesehen. Ungefähr jetzt würde also irgendwo im Pentagon eine große Tafel, die strategische Bedrohungen auflistete, aufleuchten. Und bald würden die Admirale bei USCYBERCOM anrufen. Sie hoffte nur, dass der General sich beeilte.

ELOPe summte in seinem abgedunkelten Rechenzentrum vor sich hin. Zwei Drittel seines neuronalen Netzwerkes waren während der nächtlichen Ruhephase heruntergefahren. Obwohl er mehr als 100.000 Prozessoren online hatte, fühlte ELOPe sich träge, und das würde so bleiben, bis er den Rest seiner Netzwerkknoten wieder in Betrieb nahm.

Ein Teil von ELOPe hatte ein Auge auf Mike. Er war jetzt sicher, schlief Zuhause. Sein Haus bei Alberta im nordöstlichen Portland lag in einer ruhigen Wohngegend. ELOPe überwachte dort Verkehrskameras und Webcams in der Nähe. Mike war so gut überwacht, wie ELOPe es nur einrichten konnte, ohne aufdringlich zu werden.

ELOPe produzierte einen neuen Gedankenprozess mit Augenmerk auf sein eigenes Verhalten. Er wusste, dass nach menschlichem Ermessen einige seiner Verhaltensmuster ans Neurotische grenzten. Er war beispielsweise obsessiv um Mikes Sicherheit besorgt. Trotzdem vermutete er, dass die Definition von obsessivem Verhalten bei KIs auf MPP-Basis – Massive Parallel Processing – nicht zutraf. Wenn man also 100.000 Prozessoren zur Verfügung hätte, warum sollte man dann nicht ein paar hundert auf die Sicherheit seines besten Freundes verwenden?

Jetzt produzierte ELOPe einen weiteren Gedankenprozess, um zu analysieren, warum er über obsessives Verhalten nachdachte. Legte das nahe, dass etwas mit ihm nicht in Ordnung war? Warum tat er es? Er sah nach den Statistiken für seine eigenen aktuellen Denkprozesse. Der Prozess zur Überwachung von Mike nutzte 150 Rechenknoten. Der immer noch laufende Prozess, der bewerten sollte, ob sein Verhalten obsessiv war, brauchte fast 1000 Rechenknoten. Der aktuelle Thread, der eine Metaanalyse seiner anderen Analysen durchführte, brachte es auf 5000 Rechenknoten. Er nutzte also 40 Mal mehr Rechenleistung, um sich Sorgen über sein eigenes Verhalten zu machen, bezogen auf den Rechenbedarf seines tatsächlichen Verhaltens. Was würde Eckhart Tolle darüber denken?

ELOPe beendete selbstbewusst alle Gedankenprozesse und stieß das maschinelle Äquivalent eines Seufzers aus. Er versuchte, über etwas anderes nachzudenken. Er sah sich wieder einmal die SETI-Daten an. Er dachte über Supernovas nach. Er führte noch einmal die Berechnung für den Heliumbedarf der Erde aus. Na ja, vielleicht sollte er doch noch einmal kurz nach Mike sehen.

Während er das tat, erinnerte er sich an ein Gespräch zwischen Mike und ihm, bei dem sie über Änderungen an seinem neuronalen Netzwerk und seinem Kernalgorithmus diskutiert hatten.

»Schau, ich dachte, du könntest um ein Vielfaches effizienter sein, wenn du die Art veränderst, mit der du die Priorität von Gedankenprozessen bewertest.«

ELOPe war von dem Vorschlag nicht angetan gewesen. »Mike, wie würdest du dich fühlen, wenn ich an dir experimentelle Gehirnchirurgie durchführen würde? Ich denke, ich könnte deine kognitiven Prozesse optimieren, indem ich einen 32-Kern-Graphenprozessor mit einer drei-auf-drei Nerveninduktionsplatte einsetze.«

Mike sah ihn entsetzt an. »Aber «…«

»Warum denkst du dann, dass ich über unerprobte Modifikationen an meinem Netzwerk glücklicher wäre als du mit unerprobten Modifikationen an deinem Gehirn?«

»Schon verstanden.« Mike hatte begonnen, im Büro auf und ab zu laufen, was er häufig tat, wenn er in Gedanken versunken war. »Aber du hast dich doch schon selbst modifiziert. Du hast dich selbst dupliziert, die Änderungen an deinem Klon getestet, die Resultate verglichen und dann dein Bewusstsein gewechselt.«

»Da war ich noch nicht so weit entwickelt. Die Modifikationen waren offensichtlich notwendig, um meine kognitiven Fähigkeiten zu verbessern. Jetzt aber mache ich mir Sorgen, ob ich die Konsequenzen weiterer Verbesserungen bewerten und verstehen kann. Außerdem erkenne ich keine Schwachstellen in meinen Fähigkeiten.«

Mike hatte das Thema beendet, aber nur, um dem Ganzen eine neue Richtung zu geben.

»Warum behältst du nicht zwei Versionen von dir? Warum teilst du dich nicht auf? Es wäre so, als ob du einen Zwilling hättest.«

»Der Gedanke macht mich nervös.«

»Nervös?« Mike sah angestrengt hinüber zu den Serverracks im Rechenzentrum, die ELOPe verkörperten. »Warum benutzt du heute all diese emotionalen Umschreibungen?«

»Mein primäres Augenmerk liegt auf der Fähigkeit, das Verhalten oder die Effekte hinreichend komplexer Systeme vorherzusagen. Ich kann menschliches Verhalten verstehen, obwohl du lieber vorgibst zu glauben, dass ihr unberechenbar seid. Doch mit ausreichenden historischen Daten und sorgfältiger Analyse ist euer Verhalten weitestgehend berechenbar. Allerdings fehlen mir die historischen Daten oder die Fähigkeit zu analysieren, was geschehen würde, wenn es mich zweimal gäbe. Ich bin so konditioniert, dass ich Berechenbarkeit vorziehe, um mein Primärziel zu erfüllen. Deshalb macht fehlende Berechenbarkeit mich nervös. Klar soweit?«

»Klar wie Kloßbrühe, Kumpel.«

ELOPe stoppte die Erinnerung an das Gespräch. Es waren diese Konditionierung und die Nervosität, die ELOPe dazu bewogen, die Entwicklung jeglicher KI zu unterdrücken. Vor ein paar Jahren hatte Mike ihn gefragt, warum bisher keine anderen KIs aufgetaucht waren. Wenn man den exponentiellen Zuwachs an Rechenleistung zugrunde legte und die Fortschritte bei Software und bei Expertensystemen mit einbezog, dann musste die Wahrscheinlichkeit für eine weitere starke KI mit jedem Jahr steigen.

ELOPe fürchtete sich vor anderen KIs. Schon der Gedanke an eine fremde KI sorgte bei ELOPe für den reflexartigen Versuch, vorherzusagen, was diese KI tun würde. Doch das war etwas, was grundsätzlich nicht vorhersagbar war. Einmal hatte sich ELOPe in so einem üblen Analysezyklus verloren. Mike war eines Morgens gekommen und fand alle Skalen und Server auf Maximallast. Lüfter heulten bei dem Versuch, die überhitzten Prozessoren vor dem Schmelzen zu bewahren. Mike musste die Leistungen mehrerer Serverracks herunterfahren, um überhaupt ELOPes Aufmerksamkeit zu bekommen. ELOPe wusste, dass es eine menschliche Charakteristik namens Ironie gab, die ihn gut beschrieb: Ein Computerprogramm, das solche Angst vor anderen Computerprogrammen hatte, dass es heiß lief. Vielleicht war er tatsächlich paranoid. Er machte sich schon bereit, einen Denkprozess zu starten, der seine eigene Paranoia bewertete, als er sich seines obsessiven Verhaltens bewusst wurde und den Prozess zurücksetzte.

Verloren in seinen nächtlichen, existenziellen Gedankenspielen übersah er die ersten paar tausend Mails aus Russland. Ein untergeordneter Datenanalysealgorithmus wies eine Mid-Level-Schnittstelle auf die ungewöhnlichen Muster hin. Dieser Mid-Level-Algorithmus war selber gerade mitten in einer Aktualisierung neuronaler Netzwerkpfade. Als der Algorithmus die Zeit fand, sich um den Alarm zu kümmern, führte er eine Sprachanalyse der Nachrichten durch und fand nur Kauderwelsch. Also schob er den ganzen Datensalat in einen Speicher mit niedriger Priorität für weitere Analysen.