KIT | KIT-Bibliothek | Impressum | Datenschutz

Mögliche Diskriminierung durch algorithmische Entscheidungssysteme und maschinelles Lernen – ein Überblick

Kolleck, Alma; Orwat, Carsten

Abstract:
Algorithmische Entscheidungssysteme (AES), also programmierte Verfahren, die aus einem bestimmten Input in verschiedenen, genau definierten Schrittfolgen einen Output berechnen und eine Entscheidung(sempfehlung) ableiten, begegnen uns im Alltag häufig: Sie bestimmen die beste Strecke für eine geplante Fahrt, den passenden Partner in einer Singlebörse oder die eigene Kreditwürdigkeit. Damit stellen sie mehr oder weniger bedeutsame Weichen und bestimmen somit möglicherweise über Lebenschancen – oft, ohne dass es der oder dem Betroffenen bewusst ist.
Aufgrund ihrer zahlenbasierten Regelhaftigkeit könnten AES zunächst als objektivere Entscheidungsinstanzen angenommen werden. Einige medienwirksame Fälle von verzerrten maschinellen Entscheidungen – beispielsweise als ein Onlineversandhändler neue Mitarbeitende suchte und sein lernendes AES fast ausschließlich Männer vorschlug – wecken jedoch Zweifel an der Objektivität algorithmischer Entscheidungsempfehlungen und werfen die Frage auf, ob AES (un)fairere Entscheidungen als Menschen treffen: Verändern sich Diskriminierungsrisiken durch den Einsatz von AES?
Dieser Frage geht das TAB in der als Hintergrundpapier Nr. ... mehr


Volltext §
DOI: 10.5445/IR/1000127166
Veröffentlicht am 04.12.2020
Cover der Publikation
Zugehörige Institution(en) am KIT Institut für Technikfolgenabschätzung und Systemanalyse (ITAS)
Publikationstyp Forschungsbericht/Preprint
Publikationsmonat/-jahr 10.2020
Sprache Deutsch
Identifikator ISSN: 2199-7128
KITopen-ID: 1000127166
HGF-Programm 48.01.02 (POF III, LK 01) Knowledge society and knowledge policy
Verlag Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB)
Umfang 78 S.
Serie TAB-Hintergrundpapier ; 24
Externe Relationen Siehe auch
Schlagwörter AI, Ungleichbehandlung, Diskriminierung, Algorithmen, Strafvollzug, Personalauswahl, Personenerkennung, medizinische Versorgung, AES
KIT – Die Forschungsuniversität in der Helmholtz-Gemeinschaft
KITopen Landing Page