Jonathan Hinze - Haftungsrisiken des automatisierten und autonomen Fahrens

2Erstmals wurde der Begriff 1956 von John McCarthy auf einer Konferenz in Hanover, New Hampshire, verwendet, Konrad, in: Siefkes/Eulenhöfer/Stach/Städler, Sozialgeschichte der Informatik, S. 287. 3Für die juristische Literatur etwa Herberger, NJW 2018, 2825 (2826). 4So auch Jakl, MMR 2019, 711 (712). 5Aus dem Englischen „artificial intelligence“; teilweise wird eine zu ungenaue Übersetzung ins Deutsche kritisiert; vgl. John, Haftung für künstliche Intelligenz, S. 6; Herberger, NJW 2018, 2825 (2826). 6Vgl. Lohmann, ZRP 2017, 169 (169); zur Terminologie im Einzelnen Herberger, NJW 2018, 2825 (2825); Erhardt/Mona, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 62, 65. 7Viele Kritiker bevorzugen die Bezeichnung „Maschinenlernen“ (machine learning), vgl. Stroh, Markt&Technik 35/2019, 22 (24); Ramge, Mensch und Maschine, S. 18; Zech, in: Deutscher Juristentag, Verhandlungen des 73. Deutschen Juristentages, Band I, A 31. 8Vgl. Jakl, MMR 2019, 711 (712). 9Erhardt/Mona, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 65. 10Böhringer, RAW 2019, 13 (13). 11John, Haftung für künstliche Intelligenz, S. 62. 12Erhardt/Mona, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 65; Kirn, WI 2002, 53 (53ff.); Teubner, AcP 2018, 155 (156); Keßler, MMR 2017, 589 (589). 13Stroh, Markt&Technik 35/2019, 22 (24). 14Ramge, Mensch und Maschine, S. 19; Fraunhofer-Allianz Big Data, Zukunftsmarkt künstliche Intelligenz – Potenziale und Anwendungen, S. 5; Sesink, Menschliche und künstliche Intelligenz, unter 8.1. 15Ramge, Mensch und Maschine, S. 81ff. 16Stroh, Markt&Technik 35/2019, 22 (24). 17Scherk/Pöchhacker-Tröscher/Wagner, Künstliche Intelligenz – Artificial Intelligence, S. 20. 18V. Bünau, in: Breidenbach/Glatz, Rechtshandbuch Legal Tech, 47 (51); Moeser, Starke KI, schwache KI – was kann künstliche Intelligenz?, https://jaai.de/starke-ki-schwache-ki-waskann-kuenstliche-intelligenz-261/. 19Expertensysteme simulieren menschliches Expertenwissen auf einem eng begrenztem Aufgabengebiet, dazu Puppe, Einführung in Expertensysteme, S. 2. 20Bundesregierung, Strategie künstliche Intelligenz der Bundesregierung, S. 4f. 21Shala, Die Autonomie des Menschen und der Maschine, S. 33; vgl. auch Duden, https://www.duden.de/rechtschreibung/Intelligenz. 22Der Turing-Test besteht darin, dass ein menschlicher Fragensteller lediglich über Bildschirm und Tastatur mit zwei Gesprächspartnern kommuniziert, einem Menschen und einem Computer. Bestanden ist der Test, wenn der Fragensteller den Computer am Ende einer ausführlichen Befragung nicht eindeutig identifizieren kann, vgl. Rimscha, Algorithmen kompakt und verständlich, S. 129; Graevenitz, ZRP 2018, 238 (240); Lämmel/Cleve, Künstliche Intelligenz, S. 12. 23Sester/Nitschke, CR 2004, 548 (548); Wendt/Oberländer, InTeR 2016, 58 (59); Zech, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 170; Teubner, AcP 2018, 155 (170); Mayinger, Die künstliche Person, S. 14. 24Sester/Nitschke, CR 2004, 548 (549); Teubner, AcP 2018, S. 155 (169f.); Pieper, InTeR 2016, S. 190; Kirn/Müller-Hengstenberg, MMR 2014, 225 (227); v. Westphalen, ZIP 2019, 889 (889). 25Kirn/Müller-Hengstenberg, MMR 2014, 225 (226); Specht/Herold, MMR 2018, 40 (41); Lohmann, ZRP 2017, 168 (169); Grapentin, NJW 2019, 181 (183); Paulus/Matzke, ZfPW 2018, 431 (442); Wachenfeld/Winner, in: Maurer/Gerdes/Lenz/Winner, Autonomes Fahren, S. 468; Zech, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 170f. 26Brause, Neuronale Netze, S. 15; Rimscha, Algorithmen kompakt und verständlich, S. 157; Lämmel/Cleve, Künstliche Intelligenz, S. 190; Grapentin, NJW 2019, 181 (183); Matthias, Automaten als Träger von Rechten, S. 25. 27Biran/Cotton, Explanation and Justification in Machine Learning: A Survey, unter 1.; Miller, Explanation in Artificial Intelligence: Insights from the Social Sciences, S. 14. 28Käde/v. Maltzan, CR 2020, 66 (69); Zech, ZfPW 2019, 198 (201). 29Käde/v. Maltzan, CR 2020, 66 (69); Stiemerling, CR 2015, 762 (764). 30Käde/v. Maltzan, CR 2020, 66 (69); Zech, ZfPW 2019, 198 (202). 31Dazu eingehend Holzinger, Informatik-Spektrum 2018 (Vol. 41 Iss. 2), 138ff.; Zech, in: Deutscher Juristentag, Verhandlungen des 73. Deutschen Juristentages, Band I, A 33f. 32Käde/v. Maltzan, CR 2020, 66 (69).

Während sich die künstliche Intelligenz mit der Frage beschäftigt, welche Qualität das maschinelle Verhalten an den Tag legt und diese „Handlungsqualität“ mit der des Menschen verglichen wird, fragt der Grad der Automatisierung nach dem Umfang des menschlichen Einflusses auf diese Handlungen.33 Das höchste Maß an Automatisierung ist die Autonomie, wobei auch in der Wissenschaft nicht immer ganz trennscharf zwischen den Begrifflichkeiten differenziert wird. Die rechtswissenschaftliche Literatur jedenfalls nimmt die Begrifflichkeit des „autonomen Systems“ bislang eher als selbstverständlich und wenig diskussionswürdig an. Wenn überhaupt wird sie mit der Frage nach der Rechtssubjektivität („e-Person“) verknüpft.34 Sie darf (und sollte) sich dabei der Erkenntnisse anderer wissenschaftlicher Disziplinen bedienen, weil sie schlichtweg auf diese Befunde angewiesen ist.35 So wie sich geltendes Recht oftmals an wissenschaftlichen Tatsachen orientiert,36 so muss auch hier der interdisziplinäre Diskurs berücksichtigt werden.

Unter Automatisierung wird der Einsatz von Automaten verstanden.37 Seinen begrifflichen Ursprung hat der „Automat“ im altgriechischen Adjektiv „automatos“, das „Dinge, die sich von selbst bewegen“ bezeichnet.38 Strenggenommen begann die Automatisierung des Straßenverkehrs damit bereits mit dem Umstieg vom Pferd auf den Verbrennungsmotor.39 Heute verstehen wir unter „automatisch“ für gewöhnlich einen meist computerbasierten Vorgang, der von selbst abläuft und der keine oder nur wenig Überwachung benötigt.40 Die (softwarebasierten) Automaten befolgen dabei ein Computerprogramm und treffen anhand der Vorgaben dieser Software Entscheidungen.41 Automatische Systeme sind daher streng durch den Menschen determiniert. Ihr Verhalten lässt sich jederzeit auf die Software zurückführen, sei es durch Funktion oder Fehlfunktion ebendieser.42

„Autonomie“43 assoziieren wir dagegen mit Selbständigkeit und Freiheit von äußerlicher Fremdeinwirkung,44 wobei dieses Verständnis je nach wissenschaftlicher Disziplin ganz unterschiedliche Formen annehmen kann. Nach der Kant’schen Moralphilosophie ist Autonomie Ausdruck moralischer Freiheit, das „oberste Prinzip der Sittlichkeit.“45 Sie ist demzufolge das Handeln nach Maximen, die sich der Mensch selbst auferlegt und dadurch zum „Gesetz“ erhebt. Dieser Selbstgesetzgebung durch moralische Vernunft, die Kant als den „kategorischen Imperativ“ bezeichnet,46 steht ein Zustand der Abhängigkeit von Naturgesetzen gegenüber, der einzig und allein auf dem Prinzip von Ursache und Wirkung basiert, mithin fremdgesteuert ist (Heteronomie).47 Legt man diese Unterscheidung zugrunde, so ist die Existenz von autonomen Maschinen unmöglich. Zwar ist durchaus vorstellbar, dass selbstfahrende Kraftfahrzeuge in Dilemmasituationen zwangsweise zwischen mehreren Handlungsoptionen eine moralische bewertbare Entscheidung treffen müssen; allerdings basiert eine solche Entscheidung nicht auf einem freien Willensentschluss, sondern einzig und allein auf den Vorgaben des – wenn auch intransparenten – Algorithmus.48 Die Reaktion des Fahrzeugs ist also lediglich die naturgesetzliche Folge einer mathematischen Formel, die zu keiner moralischen Abwägung imstande ist.

Von moralischer Wertung gänzlich entkoppelt ist der technische Autonomiebegriff. Autonomie zeichnet sich in der Informatik und den Ingenieurswissenschaften zunächst durch die Fähigkeit aus, hochkomplexe Aufgaben ohne oder nur mit geringfügiger Hilfe durch den Menschen zu bewältigen.49 Bei mobilen Robotern kommt der räumliche Aspekt der Bewegungsfreiheit hinzu, also das Navigieren auch in unbekannter Umgebung ohne menschliche Steuerung.50 Auch das Europäische Parlament hat sich in seinen Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik vom 27.01.2017 für ein technisches Verständnis ausgesprochen.51 Danach ist Autonomie die Fähigkeit, „Entscheidungen zu treffen und diese in der äußeren Welt unabhängig von externer Steuerung oder Einflussnahme umzusetzen.“52