Mensch. Maschine. Kommunikation.

Wie wir hieran schon sehen, umfasst das Thema Vertrauen Vertrauen eine ganze Reihe von Fragen. Diese betreffen u.a. die Verlässlichkeit von Internetquellen (Vertrauen in Informationen), den Schutz der Privatsphäre (Vertrauen in DatensicherheitDatensicherheit), die Kommunikation mit RoboternRoboter, Chatbots und SprachassistentenSprachassistenz (Vertrauen in MaschinenMaschine) und die Kommunikation in sozialen Netzwerkensoziales Netzwerk (Vertrauen in (fremde) Menschen).1 Im Folgenden legen wir den Schwerpunkt auf nur einen Aspekt, auf das Vertrauen in MaschinenMaschine. Weiter oben wurde darauf hingewiesen, dass RoboterRoboter und virtuellevirtuell Assistenzsysteme oft als ‹Ansprechpersonen› wahrgenommen werden. Hier möchten wir auf diesen Aspekt zurückkommen: Bekanntlich ist es bei den heutigen technischenTechnik Möglichkeiten nicht immer offensichtlich, ob man mit einem Menschen oder einer MaschineMaschine kommuniziert, wer also die «Ansprechperson» ist.2 Zwar mag man einwenden, dass auch heute noch – beispielsweise in der Kommunikation mit Siri Siri, der SprachassistenzSprachassistenz von Apple – die dialogischenDialog Fähigkeiten von MaschinenMaschine zu wünschen übriglassen. Das zeigt sich u.a. daran, dass auf Fragen, die das System nicht einordnen kann, ausweichende Antworten oder Nonsense-Antworten gegeben werden (vgl. «Siri, wer sitzt neben mir?» – «Interessante Frage»).Alexa3 Doch es gibt bereits Szenarien, in denen Menschen mit MaschinenMaschine kommunizieren und dies nicht einmal bemerken. Wird man z.B. als Restaurantbesitzerin von einem VoicebotVoicebot angerufen, der einen Tisch reservieren will, erkennt man möglicherweise nicht, dass man nicht mit einem Menschen spricht.Google AssistantVoicebot4 Das kann auch in der Internetkommunikation der Fall sein. Man liest die Beiträge von einer Person, von der man glaubt, dass sie real existiert; es handelt sich aber nur um ein «Internetphänomen» (vgl. den Beitrag von Jenni i.d.B.).

Es ist also keineswegs so, wie der Psychiater und Philosoph Thomas Fuchs (2020: 13) in seinem Plädoyer für die «Verteidigung des Menschen» schreibt, dass «jede digitalKommunikationdigitale vermittelte Online -Kommunikation [Kursivierung i.O.] voraus[setzt], dass wir es jenseits aller Vermittlungen immer noch mit einem lebendigen Menschen aus Fleisch und Blut zu tun haben.» Wir vertrauen möglicherweise nur darauf, dass es Menschen «aus Fleisch und Blut» sind, mit denen wir kommunizieren. Thomas Fuchs führt weiter aus, dass eine InteraktionInteraktion immer auf einer leibhaftigen Begegnung basiere bzw. dass man «diese Begegnung zumindest als Möglichkeit immer schon vorweg» nehme (Fuchs 2020: 13). Doch auch das trifft unserer Erfahrung nach nicht immer zu. Man denke nur an das automatische Generieren von TweetsTweet über einen TwitterTwitter-BotBot. Auf solche Tweets kann man antworten, sie teilen oder weiterleiten, ohne zu merken, dass die Nachrichten von einem Bot stammen. Ist eine solche Täuschung vom Programm beabsichtigt, dann wird das VertrauenVertrauen der Internetnutzer*innen missbraucht.Bot5

Damit kommen wir zu einem weiteren wichtigen Punkt: Welche Faktoren spielen bei der Schaffung von VertrauenVertrauen eine Rolle und welche ethischenEthik Fragen stellen sich in der Mensch-Maschine-KommunikationMensch-Maschine-Kommunikation? Dies wird u.a. in den bereits erwähnten Arbeiten von Donick (2019), Remmers (2018) und König/Jucks (2019) diskutiert. So betont Peter Remmers den Unterschied zwischen MaschinenMaschine, die als WerkzeugeWerkzeug eingesetzt werden (z.B. Waschmaschinen), und solchen, die als (teilautonome) Agenten, d.h. als Handlungsinstanzen erscheinen (z.B. soziale RoboterRobotersozialer). Die äussere Gestalt der MaschineMaschine und die Frage, welche Handlungen sie ausführt, wirken sich hier unmittelbar auf die Beziehung des Menschen zur MaschineMaschine aus. Oder anders gesagt: Je menschenähnlichermenschenähnlich die MaschineMaschine gestaltet ist, desto mehr rücken technischeTechnik Aspekte (wie der WerkzeugcharakterWerkzeug) in den Hintergrund und es gewinnen soziale Aspekte an Bedeutung – und desto eher stellt sich die Frage, ob man der MaschineMaschine vertrauen kann.Roboterhumanoid6

Ist das Äussere eines RobotersRoboter der menschlichen Gestalt nachempfunden, wird er/sie als «humanoidhumanoid» bezeichnet. Ein Beispiel für einen solchen RoboterRoboter ist PepperPepper, der von dem französischen Unternehmen SoftBankRobotics und dem japanischen Telekommunikations- und Medienkonzern SoftBank Mobile Corp.entwickelt wurde. Wie Abb. 3 zeigt, hat Pepper zwar ansatzweise ein menschenähnlichesmenschenähnlich Aussehen (und vollführt auch ähnliche Bewegungsabläufe), das Ziel der Hersteller war es aber nicht, einen Menschen realistisch nachzuahmen. Peppers Kopf ist überdimensioniert, er ist nicht einmal 1.20 Meter gross, er trägt ein Tablet am KörperKörper und steht auf einem Sockel, der dem Beinbereich beim Menschen entspricht. Pepper ist also nur humanoidhumanoid, aber nicht androidandroid. So bezeichnet man RoboterRoboter, die dem Menschen so originalgetreu wie möglich nachgebaut wurden – mit dem Ziel, dass man sie für echte Menschen halten könnte. Das freilich hätte auf die Mensch-Maschine- bzw. Mensch-Roboter-Beziehung und damit auch auf das VertrauenVertrauen, das man der MaschineMaschine entgegenbringt, einen nachteiligen Effekt. Denn wie Untersuchungen zeigen, wird die Menschenähnlichkeitmenschenähnlich nur positiv gesehen, solange es sich um eine offensichtlich nachempfundene Ähnlichkeit handelt.menschenähnlichIndustrieIndustrie7

Abb. 3:

PepperPepper, https://www.servicedeskinstitute.com/2018/02/12/meet-pepper-humanoid-robot-sdi18/, (01.02.2021)

Menschenähnlichmenschenähnlich aussehende RoboterRoboter werden oft mit dem Attribut anthropomorph antropomorph (von griech. anthropos (‹Mensch›) und morphe (‹Gestalt›, ‹Form›)) beschrieben – ein Ausdruck, der synonym zu humanoid humanoid gebraucht wird, aber stärker auf die Zuschreibung menschlicher Eigenschaften (z.B. im äusseren Erscheinungsbild, im Verhalten, in der Stimme) fokussiert. In diesem Zusammenhang ist auch häufig von Anthropomorphisierung die Rede, d.h. von der Vermenschlichung nichtmenschlicher Entitäten (also z.B. Tieren, Pflanzen, MaschinenMaschine). In unserem Alltag gibt es dafür viele Beispiele: Man gibt seinem Auto einen Namen, man beschimpft seinen ComputerComputer, man spricht liebevoll mit den Zimmerpflanzen oder man schaut Filme, in denen Tiere menschenähnlich dargestellt werden und sprechen können (wie z.B. «Findet Nemo»). Doch wie weit darf eine solche Anthropomorphisierungantropomorph in der TechnikTechnik gehen? Soll man RoboterRoboter so konstruieren, dass sie immer menschenähnlichermenschenähnlich aussehen und auch so agieren? Manuela Marquardt weist in ihrem interessanten Beitrag zu diesem Thema darauf hin, «dass ein besseres Verständnis dieses Phänomens in die Konstruktion und das Design interaktionsfähiger RoboterRoboter mit einfließen könnte» (Marquardt 2017: 8). Sie betont aber auch, dass es nicht darum gehen könne, RoboterRoboter so humanoidhumanoid wie möglich zu gestalten. Wichtiger für die Mensch-Roboter-InteraktionInteraktion sei vielmehr eine optimale Passung, die sich darin zeige, dass das Design des RobotersRoboter zu seinen Aufgaben und dem jeweiligen Anwendungskontext passe (vgl. Marquardt 2017: 9). Dies mag in Bezug auf die mitunter mit Sorge diskutierte Frage beruhigen, ob sich künftig die Grenze zwischen Menschen und MaschinenMaschine überhaupt noch bestimmen lässt.

Die Ängste in diesem Bereich sind gross, und dies sowohl in der Gesellschaft als auch ansatzweise in der Wissenschaft, und sie werden möglicherweise durch Filme und Romane, in denen MaschinenMaschine an die Stelle von Menschen treten, noch weiter geschürt.Roboterandroid8 So schreibt Thomas Fuchs in seinem weiter oben bereits erwähnten Buch: «Die Fortschritte der Künstlichen Intelligenz Künstliche Intelligenz und der Robotik Robotik [Kursivierung i.O.] stellen die Unterscheidung zwischen Simulation und Realität der menschlichen Person zunehmend in Frage. […] Wir betrachten uns selbst immer mehr wie unsere MaschinenMaschine und umgekehrt unsere MaschinenMaschine wie uns selbst. Was also unterscheidet menschliche und künstliche IntelligenzKünstliche Intelligenz?» (Fuchs 2020: 14f.). Diese Frage knüpft indirekt an das Zitat an, das wir unserem Beitrag vorangestellt haben: Was bedeutet Menschsein im digitalen Zeitalter? Worin besteht das Alleinstellungsmerkmal des Menschen gegenüber der MaschineMaschine? Im ersten Beitrag seiner Textsammlung geht Thomas Fuchs ausführlich auf die Unterscheidung von Mensch und MaschineMaschine ein (vgl. «Menschliche und Künstliche Intelligenz. Eine Klarstellung», S. 21–70) und beschliesst seine Überlegungen mit dem Hinweis darauf, dass wir uns gerade angesichts unserer MaschinenMaschine «auf unsere eigentliche Menschlichkeit besinnen» sollten.Künstliche Intelligenz9