Susanne Mentel - Predictive Analytic und die Haftung für fehlerhafte Ergebnisse gegenüber betroffenen Einzelpersonen

Rechtlich relevant wird die mit einer Predictive Analytic verbundene Vorhersage dann, wenn sie zur Grundlage einer Entscheidung oder Handlung gegenüber der analysierten Person gemacht wird. Dies ist beispielsweise der Fall, wenn ein Rechtsgeschäft vom Erreichen eines bestimmten Wertes abhängig gemacht wird und bei einem dahinter zurück bleibenden Vorhersagewert ein Vertrag nicht geschlossen oder ein höherer Preis verlangt wird. Rechtliche Relevanz entfalten auch Situationen ohne rechtsgeschäftlichen Charakter, wenn die Predictive Analytic dazu führt, dass die analysierte Person auf andere Weise benachteiligt oder diskriminiert wird. Problematisch sind diese Situationen vor allem dann, wenn die Predictive Analytic einer automatisierten Entscheidung zugrunde liegt. Dies ist der Fall, wenn der Wert automatisch zu einer Entscheidung, einer Handlung oder einem Unterlassen führt, ohne dass eine natürliche Person diesen zuvor überprüft. Eingebettet in diesen Problemkreis widmet sich die Arbeit der Haftung für fehlerhafte Predictive Analytic-Ergebnisse.

Ausgangspunkt und Motivation für die Untersuchung der Haftung von Predictive Analytic sind die Konsequenzen, die entstehen können, wenn der ermittelte Vorhersagewert zu Ungunsten der analysierten Person von der Wirklichkeit abweicht. Von der Realität abweichende Vorhersageergebnisse führen nicht nur zu einem verfälschten Bild für die Nutzer solcher Analysen, sondern können auch fatale Auswirkungen151 auf die fehlerhaft eingestuften Einzelpersonen – im Folgenden: die Betroffenen – haben. Derartige Abweichungen werden in dieser Arbeit als fehlerhafte Ergebnisse bezeichnet, gleichwohl es dem Wesen einer Vorhersage entspricht, dass sie nicht richtig oder falsch ist. Ausgehend von der Höhe des Wertes trifft eine Vorhersage immer nur eine Aussage darüber, ob es wahrscheinlicher ist, dass eine bestimmte Situation oder ein Verhalten eintritt oder nicht. Nichtsdestotrotz ist es das Ziel einer jeden Vorhersage, die im Einzelfall bestehende Ungewissheit durch möglichst treffsichere Ergebnisse zu beseitigen. Eine Vorhersage kann deshalb auch „fehlerhaft“ sein, nämlich dann, wenn sich die anhand des Vorhersagewertes vorgenommene Kategorisierung nicht mit der Realität deckt. Eine Möglichkeit, Abweichungen der Vorhersage von der Wirklichkeit einzuordnen, entstammt den Grundlagen von Hypothesentests.152 Dabei wird die Güte des Modells bzw. der Klassifikation in vier verschiedene Fälle eingeordnet: richtig positiv, falsch positiv, richtig negativ und falsch negativ.153 Die Güte der bereits oben als Beispiel herangezogenen Hypothese „Der Kunde ist kündigungsbereit“ kann diesen Kategorien folgendermaßen zugeordnet werden:

– Richtig positiv: Der Kunde ist kündigungsbereit und das Modell hat dies richtig vorhergesagt.

– Falsch positiv: Der Kunde ist kündigungsbereit, das Modell hat den Kunden aber (fälschlicherweise) als nicht kündigungsbereit eingestuft.

– Richtig negativ: Der Kunde ist nicht kündigungsbereit und das Modell hat dies richtig vorhergesagt.

– Falsch negativ: Der Kunde ist nicht kündigungsbereit, das Modell hat ihn aber (fälschlicherweise) als kündigungsbereit eingestuft.

Stimmt die Vorhersage mit der Realität überein und ist das Ergebnis richtig (richtig positiv oder richtig negativ), kann nicht von einer fehlerhaften Vorhersage gesprochen werden. Weicht die Vorhersage jedoch wie im Falle falsch positiver oder falsch negativer Ergebnisse von der Realität ab, werden diese Fälle in der weiteren Untersuchung als fehlerhafte Predictive Analytic-Ergebnisse bezeichnet. Um eine Vorhersage als zutreffend oder fehlerhaft einzuordnen, bedarf es eines Einblickes in die realen Verhältnisse oder Verhaltensweisen der analysierten Person. Ein derartiger Nachweis ist zwar nicht immer, aber doch in vielen Fällen ex post möglich.

Die Charakterisierung einer Predictive Analytic als bloße Wahrscheinlichkeitsrechnung führt zu dem logischen Schluss, wonach Abweichungen von der Realität, und damit fehlerhafte Ergebnisse im hier verstandenen Sinne, naturgemäß zu erwarten sind. Diese Schwäche einer jeden Vorhersage darf jedoch nicht ohne Konsequenzen bleiben. Eine Haftung ist vor allem dann geboten, wenn gegen ein Gesetz oder eine Sorgfaltspflicht verstoßen wurde und die Predictive Analytic zu Benachteiligungen führt, die aus rechtsdogmatischer Sicht nicht hinnehmbar sind.154 In den folgenden Kapiteln sollen weitere Ausführungen die Auseinandersetzung mit einer Haftung für fehlerhafte Predictive Analytic vorbereiten. Dafür werden im nächsten Abschnitt mögliche Ursachen fehlerhafter Ergebnisse genannt und erörtert (III.). Das daran anschließende Kapitel über mögliche Folgen eines fehlerhaften Predictive Analytic-Ergebnisses für den Betroffenen (IV.) widmet sich ebenfalls der Einleitung der Haftungsfrage. Abschließend wird in vorgezogener Weise untersucht, ob die potenziellen Schäden, die durch fehlerhafte Predictive Analytic-Ergebnisse hervorgerufen werden können, überhaupt rechtlich ersatzfähig sind (V.).

Durch Predictive Analytic-Software generierte Vorhersagen sind das Ergebnis komplexer Prozesse. In der Folge können auch die Ursachen fehlerhafter Predictive Analytic-Ergebnisse vielfältig sein.

Eine naheliegende Ursache fehlerhafter Predictive Analytic-Ergebnisse kann in der verwendeten Datengrundlage liegen. Nachdem der Begriff der Daten noch nicht näher untersucht wurde, muss hier eine erste Differenzierung vorgenommen werden. Es kann sich bei dem Begriff der Daten sowohl um Input- als auch um Output-Daten handeln.155 Unter Output-Daten sind im Rahmen einer Predictive Analytic die Ergebnisse einer Analyse zu verstehen. Input-Daten sind die Daten, die der Analyse zugrunde gelegt werden. Um diese Datengrundlage geht es im Folgenden. Sowohl die Masse als auch die teils schlechte Qualität von Daten stellen einen Risikofaktor für Predictive Analytic-Verfahren dar. Durch die zuehmende Digitalisierung der letzten Jahrzehnte sowie insbesondere durch die Big Data-Entwicklung der letzten Jahre, sehen sich Analyse-Tools heute einer ganz anderen Datenmenge und -komplexität ausgesetzt.156 Dabei bedeutet die Menge an Daten nicht zugleich ein Mehr an korrekten und analysefähigen Daten. Dies wird bereits durch eine Aussage Mehrings deutlich, der schon im Jahre 1990 feststellte, dass die Qualität von Information mit zunehmender Dichte abnehme.157 Ganz anders lauten dagegen die Stimmen vieler pro Big Data eingestellter Analysten und Publizisten. So finden sich in der Presse seit Anfang 2010 regelmäßig Beiträge, denen zufolge gerade die Masse an ungenauen Daten als das entscheidende Erfolgskonzept von Big Data-Anwendungen suggeriert wird.158 Der Fokus liege demnach nicht auf richtigen, qualitativ hochwertigen Daten, sondern der Gewinn aus Datenanalysen wird allein auf die Menge an Daten zurückgeführt.159 Ähnliche Annahmen finden sich in der englisch-sprachigen Literatur, wenn darauf abgestellt wird, dass die Masse an Daten es möglich mache, auch aus weniger vertrauenswürdigen Daten wertvolle Einblicke zu erhalten: „Going beyond samples, additional valuable insights could be obtained from the massive volumes of less ‘trustworthy’ data.“160 Der Herausforderung, mit teils ungenauen und unsicheren Daten umzugehen, wird im Rahmen von Big Data mit der Verwendung von Verfahren begegnet, die speziell für die Arbeit mit solchen Daten entwickelt wurden.161 Fehlerhafte Input-Daten sind in Bezug auf solche Big Data-Verfahren als Ursache fehlerhafter Predictive Analytic-Ergebnisse im Folgenden genauer zu untersuchen.