Herbert W. Franke - PARADIES 3000

Professor Meder Sie können doch das menschliche Gehirn nicht mit einem Computer vergleichen! Diese alten Primitivvorstellungen der beginnenden Kybernetik sind doch längst überholt!

Professor Pazzini Das Gehirn ist genauso wie jede Maschine aus Materie zusammengesetzt, die sich in verschiedenen Zuständen befinden kann. Es gibt keinerlei Grund dafür, dass eine Maschine, die von Menschen gebaut ist, nicht zu prinzipiell denselben Leistungen fähig ist wie das menschliche Gehirn. Umso mehr, als das Programm von Professor Koenig seine eigene Weiterentwicklung übernimmt und dadurch zu Strukturen findet, an denen wir unsere Erkenntnisse über simple Digitalrechner nicht anwenden können.

Pastor Schult Der Mensch ist schließlich ein lernfähiges Wesen, das seine Erfahrungen aus der Umwelt gewinnt. Wie wollen Sie einem Computer, der blind und taub ist, anwendbares Wissen über die Welt zudichten? Das wäre doch die mindeste Voraussetzung dafür, dass er überhaupt eingreifen kann.

Professor Toff Der Computer hat sowohl Augen – nämlich Videokameras – wie auch Ohren – nämlich Mikrofone. Und er hat mehr als das: Er ist in einem weltumspannenden Datennetz mit sämtlichen Speichern verbunden. Er verfügt über das gesamte Wissen der Vergangenheit und der Gegenwart, und durch unzählige Kanäle kommt immer neue Information hinzu. Denken Sie doch daran, dass heute sämtliche Meldungen aus Presse und Funk computergesteuert verarbeitet und wieder ausgegeben werden. Alle auch nur einigermaßen interessanten Texte, ob literarisch oder wissenschaftlich, gehen durch die Übersetzungsautomaten, und sind somit einer maschinellen Intelligenz stets präsent. Selbst die geheimsten Nachrichten, vielfach zerhackt und verschlüsselt, sind dem Computer zugänglich – denn er ist das einzige System, das die komplizierten Codes zu entschlüsseln vermag. Und da wagen Sie zu behaupten, der Computer könne weniger sinnfällig auf Zustände der Umwelt reagieren als der Mensch!

Professor Pazzini Vom Standpunkt der Automatentheorie aus gesehen halte ich es durchaus für möglich, dass sich ein System, das funktionale Zusammenhänge beschreibt, auch solche erfassen kann, die die eigene Funktion betreffen. In die Alltagssprache übersetzt: Ein solches System ist sich seiner selbst bewusst. Ich bin mir nicht sicher, ob Professor Koenig noch Übersicht über sein Ergebnis behalten hat – schließlich hat er sich zu seiner Ausarbeitung des eigenen Computers bedient, und heute schon gibt es kaum einen einzigen Menschen, der eine größere Rechenanlage voll zu durchschauen vermag. Wenn sich ein solches System aber auch noch selbstständig weiterentwickelt … Ich frage mich, ob auf diese Weise nicht etwas entsteht, das niemand mehr entschlüsseln kann, vielleicht nicht einmal der Computer selbst! Aber ich möchte betonen: Das sind wirklichkeitsferne Hypothesen – schließlich haben wir einen Finger, mit dem wir auf das berühmte Knöpfchen drücken können.

Professor Toff Ich glaube nicht, dass wir es uns so einfach machen dürfen. Sicher ist es möglich, einen Computer durch Knopfdruck ein- und auszuschalten, aber wir alle wissen schließlich, dass man Schalter schon seit nahezu zweihundert Jahren elektrisch betreiben kann. Mit anderen Worten: Zweifellos findet ein intelligenter Computer auch Mittel und Wege, um zu verhindern, dass man ihn ausschaltet – wenn er nur will!

Pastor Schult Ich halte es für bedenklich, von »Entscheidungen« zu sprechen, die ein Computer fällen würde. Schließlich ist er nur imstande, positive und negative Werte zu summieren und das Ergebnis anzugeben, das dann unter dem Strich steht. Würden Sie das eine Entscheidung nennen? Dazu sind schließlich noch andere Dinge nötig – emotionale Beurteilungen und Werte.

Professor Toff Was Sie da nennen, kann ich Ihnen sofort in die Sprache der Informatik übersetzen – nicht um Sie zu schockieren, sondern um Ihnen zu beweisen, dass man diese Dinge längst mit Programmen erfassen kann. Die von Ihnen genannten Werte stehen uns längst in Form von Prioritätslisten zur Verfügung, und die Emotionen, auf die Sie so großen Wert legen, sind nichts anderes als statistische Gewichtungen, die überdies mit willkürlichen Störfaktoren belastet sind. Eine Maschine, die nach diesem System arbeitet, bastelt Ihnen heute jeder Elektroniker mit einigen ICs.

Pastor Schult Und wie steht es mit dem Willen? Und wie mit dem Geist?

Professor Toff Der Wille ist nichts anderes als die Umsatzstelle vom Gedanken zur Funktion – in der Sprache des Computers ein Startbefehl. Und der viel zitierte Geist? Ein Computer der fortgeschrittenen Klasse von Professor Koenig würde seine eigene Existenz erkennen. »Ich denke, folglich bin ich« – was sollte dieser Erkenntnis im Wege stehen?

Professor Meder Offenbar verwechseln Sie tatsächliche Existenz mit Simulation. Vielleicht können Sie alle diese Begriffe und Funktionen simulieren, und vielleicht sogar so, dass man es von außen nicht merkt. Der entscheidende Unterschied aber bleibt bestehen!

Minister Verzeihen Sie, wenn ich wieder von praktischen Dingen spreche. Für mich als Politiker ist es völlig gleichgültig, ob etwas so handelt, als wäre es mein Feind oder ob es wirklich mein Feind ist. Und dasselbe gilt für Dinge, die mir nützlich sind. Jedenfalls bin ich dafür, dass wir dieses Programm einmal ausprobieren. Vielleicht könnten Sie sich der Reihe nach dazu äußern!

Professor Pazzini Ich glaube, dass es noch ein weiter Schritt von der Theorie zur technischen Wirklichkeit ist. Ich habe keine Bedenken, dem Experiment zuzustimmen.

Professor Toff Ich glaube, ich muss eine entschiedene Warnung aussprechen. Der Gedanke, dass wir rechtzeitig ausschalten können, scheint mir illusorisch. In dem Moment, wo wir das Programm aktivieren, beginnen sich Dinge in Bewegung zu setzen, die wir nicht mehr kontrollieren können. Es ist so wie ein Krankheitskeim, der plötzlich freigesetzt wird. Die Folgen könnten schrecklich sein.

Pastor Schult Ich sagte es schon: Der Mensch hat die Demut vor der Allmacht verloren. Er glaubt es, dem Schöpfer ins Handwerk pfuschen zu können. Wie lächerlich! Sie können Ihren Versuch gern unternehmen – vielleicht werden Sie dann begreifen, wie weit Sie noch von einer Gottfunktion entfernt sind.

Professor Meder Was wir hier betreiben, ist ein Sandkastenspiel. Ein elektronisches System kann nie intelligenter werden als sein Schöpfer – da können Sie mir noch so viele Fremdworte aus der Kybernetik entgegenwerfen. Bedenken gegen den Versuch? Die habe ich nicht – ich halte ihn nur für überflüssig.

Minister Ich meine, es ist im Sinn von uns allen, dass wir das Gebot der Sicherheit ernst nehmen, und wenn die Gefahr noch so unwahrscheinlich erscheint. Ich bitte Sie, Professor Toff, eine Kommission zu bilden und alle nötig erscheinenden Maßnahmen zu treffen. Dann dürfte also einem Versuch mit dem Programm DECISION nichts mehr im Wege stehen. Haben Sie Dank für Ihr Kommen!

Die von Professor Toff eingesetzte Kommission übernahm eine Art Gesetzgeberrolle: Sie erweiterte jene Liste von Geboten, nach denen sich der Computer bei allen Aktionen zu richten hätte. In der neuen Prioritätenliste standen einige Begriffe ganz oben, die wohl noch nie in Computerprogrammen erschienen: (menschliche) Freiheit, Würde, Anerkennung usw. In welchen Steuerungs-, Kontroll- oder Ordnungsfunktionen das Programm auch eingesetzt wurde – stets musste es selbst vorher prüfen, ob irgendeine der vorgegebenen Regeln verletzt werden könnte, und in solchen Fällen nach anderen Wegen suchen, um das Ziel zu erreichen. Ja, noch mehr: Auch ohne Einsatzbefehl hatte das Programm die Pflicht, dafür zu sorgen, dass die Freiheit, die Würde des Menschen und die anderen ihm zukommenden Werte erhalten und gesteigert würden. Im Prinzip war es also möglich, dass ein Computernetz, einmal mit diesem Programm gefüttert, sofort aktiv wurde, um Möglichkeiten zur Steigerung der Lebensqualität des Menschen zu suchen – und die entsprechenden Maßnahmen ergriff. Nachdem dies alles geschehen war, konnte auch Professor Toff keine triftigen Gründe anführen, die gegen das geplante Experiment gesprochen hätten.