Jonathan Hinze - Haftungsrisiken des automatisierten und autonomen Fahrens

Es zeigt sich, dass das technische Konzept von Autonomie graduell ist. Es fragt nicht im Sinne einer Ausschließlichkeitsentscheidung danach, ob eine Maschine entweder autonom ist oder nicht, sondern in welchem Abhängigkeitsverhältnis sie zur menschlichen Kontrolle steht. Ausgehend von diesem Grundverständnis ist es im Ergebnis durchaus denkbar, dass technische Systeme autonom handeln können. Die menschliche Beherrschbarkeit endet nämlich dort, wo maschinelle Verhaltensweisen ex ante nicht mehr vollständig vorhersehbar und ex post nicht mehr vollständig nachvollziehbar sind.

33Voigt, Automatisierung, https://wirtschaftslexikon.gabler.de/definition/automatisierung-27138/version-25080; vgl. Simanski, in: VDE, Biomedizinische Technik, S. 9. 34Siehe unter § 8 D. 35Teubner, AcP 2018, 155 (171). 36Etwa bei emissionsrechtlichen Grenzwertregelungen, Teubner, AcP 2018, 155 (171). 37Voigt, Automatisierung, https://wirtschaftslexikon.gabler.de/definition/automatisierung-27138/version-250801. 38Dwds, https://www.dwds.de/wb/Automat. 39Feldle, Notstandsalgorithmen, S. 49. 40Vgl. Linke, in: Heinrich/Linke/Glöckler, Grundlagen Automatisierung, S. 2. 41Voigt, Automatisierung, https://wirtschaftslexikon.gabler.de/definition/automatisierung-27138/version-250801; Kagermann, in: 56. Deutscher Verkehrsgerichtstag, S. XXXIX. 42Siehe oben unter § 2 A. IV. 43Der ebenfalls aus dem altgriechischen stammende Begriff „autonomos“ setzt sich zusammen aus „autos“ (selbst) und „nomos“ (Ordnung, Gesetz), Dwds, https://www.dwds.de/wb/autonom; Müller-Hengstenberg/Kirn, Rechtliche Risiken autonomer und vernetzter Systeme, S. 97. 44Vgl. Nitschke, Verträge unter Beteiligung von Softwareagenten, S. 9; Müller-Hengstenberg/Kirn, Rechtliche Risiken autonomer und vernetzter Systeme, S. 97. 45Kant, Grundlegung zur Metaphysik der Sitten, S. 68, „Autonomie des Willens ist die Beschaffenheit des Willens, dadurch derselbe ihm selbst (unabhängig von aller Beschaffenheit der Gegenstände des Wollens) ein Gesetz ist. Das Prinzip der Autonomie ist also: nicht anders zu wählen, als so, daß die Maximen seiner Wahl in demselben Wollen zugleich als allgemeines Gesetz mit begriffen sein.“ 46Vgl. Kant, Grundlegung zur Metaphysik der Sitten, S. 69; Hilgendorf, in: 53. Deutscher Verkehrsgerichtstag, S. 56. 47Shala, Die Autonomie des Menschen und der Maschine, S. 13; Noller, Die Bestimmung der Freiheit: Kant und das Autonomie-Problem, S. 3; Erhardt/Mona, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 71. 48Vgl. Grunwald, SVR 2019, 81 (85). 49„Autonomous Robots are designed to perform high level tasks on their own, or with very limited external control.“, Bensalem/Gallien/Ingrand/Kahloul/Nguyen, Toward a More Dependable Software Architecture for Autonomous Robots, S. 1; vgl. Lämmel/Cleve, Künstliche Intelligenz, S. 20; Maier, Grundlagen der Robotik, S. 50; Bauer, Elektronische Agenten in der virtuellen Welt, S. 6. 50Vgl. Maier, Grundlagen der Robotik, S. 50. 51Das Europäische Parlament weist sogar explizit darauf hin, dass die Autonomie „rein technischer Art“ ist, Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103 (INL)), http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_DE.html, unter AA; vgl. auch Teubner, AcP 2018, 155 (174); Matthias, Automaten als Träger von Rechten, S. 35; Lohmann, ZRP 2017, 168 (169); Spindler, JZ 2016, 805 (816); Zech, in: Gless/ Seelmann, Intelligente Agenten und das Recht, S. 170; Erhardt/Mona, in: dies., Intelligente Agenten und das Recht, S. 68. 52Europäisches Parlament, Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103 (INL)), http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_DE.html, unter AA.

Nach alledem lässt sich folgender Zwischenstand festhalten: Die Maschine bleibt ein zweckgebundenes, „schwaches“ Werkzeug des Menschen und kann nur innerhalb der engen Grenzen der ihr zugewiesenen Nutzung agieren. Streng genommen ist sie daher bereits aus diesem Grund nicht selbstständig;53 jedenfalls nicht so, wie es der Mensch ist. Das schließt aber nicht unbedingt aus, dass sie – im Rahmen dieser Grenzen – eine von menschlicher Kontrolle freie Instanz sein kann. Ausgangspunkt und zentrale Voraussetzung dafür ist hochqualifizierte künstliche Intelligenz. Dennoch ist nicht jede KI gleichzeitig auch als autonom zu bezeichnen; hierfür muss zunächst unterschieden werden: Die Autonomie des Menschen wird vornehmlich unter philosophischen Gesichtspunkten diskutiert und erreicht weitaus vielfältigere Dimensionen als das technische Verständnis. Menschliche und maschinelle Autonomie sind daher niemals gleichzusetzten und somit nicht den gleichen Voraussetzungen unterworfen. Auch wenn sich durch jüngste technische Entwicklungen und den noch zu erwartenden Fortschritt Mensch und Maschine immer weiter annähern, ist (und bleibt) eine Unterscheidung von Autonomie im menschlichen und technischen Sinne unabdingbar.54

53Vgl. Freise, VersR 2019, 65 (73); Feldle, Notstandsalgorithmen, S. 47f. 54A. A. Mayinger, Die künstliche Person, S. 15.

Mediale und gesellschaftliche Aufmerksamkeit erhalten intelligente Systeme vor allem im Bereich des automatisierten und autonomen Fahrens. Das mag einerseits daran liegen, dass das Auto als Mobilitätsmittel unangefochten an der Spitze steht55 und sich ein technologischer Wandel somit auf sämtliche Bevölkerungsschichten auswirkt. Andererseits ist gerade das Automobil schon seinem begrifflichen Ursprung nach56 Sinnbild für eine „selbstständige“ Maschine und die Technologie unserer Zeit. Kaum eine andere Erfindung der letzten Jahrhunderte lässt den Fortschritt der Technik so anschaulich erkennen wie das Automobil, vom ersten Benz Patent-Motorwagen Nr. 157 bis zum autonomen Fahrzeug. Die Automatisierung trägt seit etwa 30 Jahren ihren Teil zu dieser Entwicklung bei.

Im folgenden Abschnitt soll zunächst gezeigt werden, welche Stadien die Automatisierung von Fahrzeugen bereits in der Vergangenheit erreicht hat, wo wir heute stehen und was die Zukunft bringen könnte. Anschließend erfolgt eine Einschätzung darüber, welche Chancen die Technologien bieten, aber auch, welche Gefahren und Risiken mit ihnen einhergehen.

5558 Prozent der Bürger über 18 Jahren fahren täglich mit dem eigenen PKW, Brandt, Auto weiterhin Fortbewegungsmittel Nr. 1, https://de.statista.com/infografik/2836/die-beliebtesten-verkehrsmittel-der-deutschen/. 56„Automobil“ setzt sich zusammen aus dem griechischen Wort „auto“ (selbst) und dem lateinischen Wort „mobilis“ (beweglich), Dwds, https://www.dwds.de/wb/Auto. 57Der Benz Patent-Motorwagen Nr. 1 von 1886 gilt als das erste Automobil mit Verbrennungsmotor, dazu Dietsche/Kuhlgatz/Reif, in: Reif, Grundlagen Fahrzeug- und Motorentechnik, S. 2.

Vor nicht allzu langer Zeit hatten Fachleute, Institutionen und Behörden noch ein sehr vielfältiges begriffliches Verständnis von den verschiedenen Ausprägungen automatisierter und autonomer Fahrfunktionen, was den wissenschaftlichen Diskurs deutlich erschwerte. Heute hat sich die internationale ingenieurs- und rechtswissenschaftliche Diskussion mittlerweile auf ein sechsstufiges Kategorisierungssystem58 verständigt, das auch dieser Arbeit als Grundlage dienen soll. Dieses System geht ursprünglich auf das Stufenmodell der US-amerikanischen Behörde für Straßen- und Fahrzeugsicherheit NHTSA (National Highway Traffic Safety Administration)59 zurück und wurde im Laufe der Zeit auch von nationalen europäischen Behörden wie der Bundesanstalt für Straßenwesen (Bast) übernommen.60