Ralph-Miklas Dobler - Mensch und Künstliche Intelligenz

Nicole Brandstetter, Ralph-Miklas Dobler,

Daniel Jan Ittstein (Hg.)

Herausforderungen für Kultur, Wirtschaft und Gesellschaft

Umschlagabbildung: © Sylverarts Vectors · shutterstock

Bibliografische Information der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über < http://dnb.dnb.de> abrufbar.

Das Werk einschließlich aller seiner Teile ist urheberrechtlich geschützt.

Jede Verwertung außerhalb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlages unzulässig und strafbar. Das gilt insbesondere für Vervielfältigungen, Übersetzungen, Mikroverfilmungen und die Einspeicherung und Verarbeitung in elektronischen Systemen.

© UVK Verlag München 2021

– ein Unternehmen der Narr Francke Attempto Verlag GmbH + Co. KG Dischingerweg 5 · D-72070 Tübingen

Internet: www.narr.de

eMail: info@narr.de

ISBN 978-3-7398-3115-2 (Print)

ISBN 978-3-7398-8115-7 (ePDF)

ISBN 978-3-7398-0132-2 (ePUB)

Künstliche Intelligenz als Zukunftstechnologie verändert und beeinflusst bereits heute weite Bereiche des täglichen öffentlichen und privaten Lebens. Smarte Applikation, Cloud-Dienste und selbstlernende Systeme verändern und beeinflussen unsere Handlungen, Interaktionen und Wahrnehmungen. Damit einher gehen Veränderungen im sozialen Gefüge, im Menschenbild der digitalisierten Kulturen mit einer nie gekannten Geschwindigkeit, die sowohl zu Begeisterung und Euphorie als auch zu Angst und Unsicherheit bezüglich möglicher Auswirkungen und Kontrollfragen führen. Nicht nur weite Bereiche der Arbeitswelt befinden sich mitten in der Transformation, sondern auch unsere tägliche Kommunikation, Freizeitgestaltung und Alltag werden bewusst und unbewusst beeinflusst und verändert.

Für eine nachhaltige Betrachtung bedarf es einer interdisziplinären Perspektive, um die Komplexität des Phänomens sowie die Herausforderungen für Kultur, Wirtschaft und Gesellschaft zu erfassen. Die vernetzte digitale Welt kann nur in einem ebenso vernetzten Diskurs zwischen diversen Horizonten gestaltet werden. Wenn hierbei Unterschiede und Widersprüche zutage treten, dann sind sie essentieller Bestandteil des Erkenntnisgewinns.

Das vorliegende Buch möchte hierzu einen Beitrag leisten. Wissenschaftler*innen aus verschiedenen Disziplinen – Informatik, Bild- und Medienwissenschaften, Kulturwissenschaften, Wirtschaftswissenschaften, Literaturwissenschaften – nähern sich dem Phänomen und beleuchten Aspekte der Künstlichen Intelligenz, um programmatisch eine polyfokale und facettenreiche Diskussion zu unterstützen, ohne die eine dauerhafte und sinnvolle Anwendung von Künstlicher Intelligenz sowie deren gesellschaftliche Akzeptanz kaum gelingen dürfte.

Das Buch entstand aus einer interdisziplinären Vortragsreihe zum Thema „Künstliche Intelligenz Interdisziplinär“, zu der Kolleg*innen, Wissenschaftler*innen, Forscher*innen, Interessierte und Student*innen mit Vorträgen, Diskussionen und Ideen beitrugen. Wir möchten uns für die fruchtbaren Debatten, kontroversen Ansichten und inspirierenden Gedanken herzlich bedanken. Darüber hinaus sind wir zahlreichen Kolleg*innen aus der Wissenschaft sowie Partner*innen aus der Praxis für Hinweise und Diskussionsbeiträge zu Dank verpflichtet.

München, im Oktober 2021

Nicole Brandstetter Ralph-Miklas Dobler Daniel Jan Ittstein

Vorwort Vorwort Künstliche Intelligenz als Zukunftstechnologie verändert und beeinflusst bereits heute weite Bereiche des täglichen öffentlichen und privaten Lebens. Smarte Applikation, Cloud-Dienste und selbstlernende Systeme verändern und beeinflussen unsere Handlungen, Interaktionen und Wahrnehmungen. Damit einher gehen Veränderungen im sozialen Gefüge, im Menschenbild der digitalisierten Kulturen mit einer nie gekannten Geschwindigkeit, die sowohl zu Begeisterung und Euphorie als auch zu Angst und Unsicherheit bezüglich möglicher Auswirkungen und Kontrollfragen führen. Nicht nur weite Bereiche der Arbeitswelt befinden sich mitten in der Transformation, sondern auch unsere tägliche Kommunikation, Freizeitgestaltung und Alltag werden bewusst und unbewusst beeinflusst und verändert. Für eine nachhaltige Betrachtung bedarf es einer interdisziplinären Perspektive, um die Komplexität des Phänomens sowie die Herausforderungen für Kultur, Wirtschaft und Gesellschaft zu erfassen. Die vernetzte digitale Welt kann nur in einem ebenso vernetzten Diskurs zwischen diversen Horizonten gestaltet werden. Wenn hierbei Unterschiede und Widersprüche zutage treten, dann sind sie essentieller Bestandteil des Erkenntnisgewinns. Das vorliegende Buch möchte hierzu einen Beitrag leisten. Wissenschaftler*innen aus verschiedenen Disziplinen – Informatik, Bild- und Medienwissenschaften, Kulturwissenschaften, Wirtschaftswissenschaften, Literaturwissenschaften – nähern sich dem Phänomen und beleuchten Aspekte der Künstlichen Intelligenz, um programmatisch eine polyfokale und facettenreiche Diskussion zu unterstützen, ohne die eine dauerhafte und sinnvolle Anwendung von Künstlicher Intelligenz sowie deren gesellschaftliche Akzeptanz kaum gelingen dürfte. Das Buch entstand aus einer interdisziplinären Vortragsreihe zum Thema „Künstliche Intelligenz Interdisziplinär“, zu der Kolleg*innen, Wissenschaftler*innen, Forscher*innen, Interessierte und Student*innen mit Vorträgen, Diskussionen und Ideen beitrugen. Wir möchten uns für die fruchtbaren Debatten, kontroversen Ansichten und inspirierenden Gedanken herzlich bedanken. Darüber hinaus sind wir zahlreichen Kolleg*innen aus der Wissenschaft sowie Partner*innen aus der Praxis für Hinweise und Diskussionsbeiträge zu Dank verpflichtet. München, im Oktober 2021 Nicole Brandstetter Ralph-Miklas Dobler Daniel Jan Ittstein

Gudrun Schiedermeier

1Diskriminierende Systeme – Rassismus und Frauenfeindlichkeit in KI-Systemen 1Diskriminierende Systeme – Rassismus und Frauenfeindlichkeit in KI-Systemen Gudrun Schiedermeier

1.1Einleitung

1.2Definition Diskriminierung

1.3Rassismus in KI-Systemen

1.3.1Algorithmus zur Einschätzung der Rückfallwahrscheinlichkeit von Strafgefangenen

1.3.2Bewertungssysteme für Bewerber*innen

1.3.3Entscheidungssystem zur Kategorisierung von Arbeitslosen

1.3.4Fehlerhafte Klassifizierung durch Bildererkennung

1.3.5Vorurteile in Sprachmodellen

1.4Mögliche Quellen von Diskriminierung

1.5Frauenfeindlichkeit in KI-Anwendungen

1.5.1Sprachassistenz-Systeme

1.5.2Frauenfeindlichkeit in Sprachassistenz-Systemen

1.5.3Auswirkungen auf die Gesellschaft

1.5.4Empfehlungen

1.5.5Männliche Berufsbezeichnung bei maschineller Übersetzung

1.6Ansatzpunkte für diskiminierungsfreie Software-Entwicklung

1.6.1Diversitäre Entwicklerteams

1.6.2EqualAI Initiative

1.6.3Empfehlungen der AG3der Plattform Lernende Systeme

1.7Fazit

1.8Literaturverzeichnis

Josephine D'Ippolito

2Künstliche Intelligenzen im Film

2.1Einführung

2.2Ausgewählte Filmbeispiele zu KI im Film

2.2.1Maschinen-Mensch in Fritz Langs Metropolis (1927)

2.2.2Die Stepford-Frauen in Forbes Stepford Wives (1975) und Ozs Stepford Wives (2004)

2.2.3Die Nexus 6Replikanten in Scotts Blade Runner (1982)