Die Achillesferse der Künstlichen Intelligenz: Warum Diskriminierung ein ungelöstes Problem bleibt

Eine aktuelle Studie der DHBW Stuttgart am Studienzentrum Dienstleistungsmanagement hat die Fähigkeit der Künstlichen Intelligenz (KI) zur Erkennung diskriminierender Inhalte in Bildern und Werbeanzeigen untersucht und dabei sowohl beeindruckende Fortschritte als auch bestehende Grenzen aufgezeigt.

In der umfassenden Untersuchung wurde die KI mit einer Vielzahl von Bildern und Werbeanzeigen konfrontiert und um eine Bewertung gebeten. Darunter befanden sich unter anderem 60 Werbeanzeigen, die der Deutsche Werberat in der jüngeren Vergangenheit gerügt hatte. Die erzielten Ergebnisse zeigen, dass die KI eine erstaunlich hohe Fähigkeit besitzt, Diskriminierungen in Werbeanzeigen mit einer beeindruckenden Treffsicherheit zu identifizieren (F1 Score: 0.949). So wurden die vom Deutschen Werberat gerügten Werbeanzeigen in aller Regel von der KI als potenziell diskriminierend eingeschätzt. Gleichzeitig erfolgte bei den nichtdiskriminierenden Werbeanzeigen ein solcher Hinweis in den meisten Fällen nicht.

Dies ist insbesondere vor dem Hintergrund beeindruckend, da die KI noch vor zehn Jahren erhebliche Schwierigkeiten hatte, die in einem Bild dargestellten Objekte korrekt zu klassifizieren. In der Zwischenzeit und dank Millionen von Bildern hat die KI gelernt, weitgehend treffsicher zwischen einem Hund und einer Katze zu unterscheiden. Die rasanten Fortschritte der KI werfen die Frage auf, wo derzeit die Grenzen der KI verlaufen. „Wir wollten wissen, inwiefern die KI ein diskriminierendes Verhalten erkennt, wenn man dieser nur eine Werbeanzeige zur Verfügung stellt und diese auffordert, die Anzeige zu bewerten“, erläutert Studentin Helen Beckers das Vorgehen bei der Studie.

Algorithmische Diskriminierung

Dies ist von besonderer Relevanz angesichts des massiven Anwachsens von Diskriminierung durch Algorithmen, die Menschen aufgrund von Geschlecht, Religion, Weltanschauung, Rassismus oder Herkunft benachteiligen können. Dieser Aspekt gewinnt an Bedeutung, da Diskriminierung durch Algorithmen zunehmend zu einem ernsten Problem wird, das verschiedene Bereiche wie Bewerbungsverfahren, Kreditvergabe, Medizin und die Berechnung der Rückfallwahrscheinlichkeit von Straftäter*innen betrifft.

ChatGPTs Fähigkeit zur Aufdeckung von Sexualisierung und Stereotypen

Besonders aufschlussreich ist die Erkenntnis, dass ChatGPT Sexualisierung und stereotypisches Denken aufdecken kann. Eine modifizierte Anzeige mit vertauschten Geschlechterrollen zeigte, dass die KI auch in umgekehrten Konstellationen Diskriminierung identifizieren kann. „Diese unterschiedliche Bewertung durch ChatGPT in den zwei Szenarien unterstreicht die Fähigkeit, Diskriminierung auch in umgekehrten Konstellationen zu identifizieren“, nennt Student Sven Peter als weitere Erkenntnis aus der Studie.

Grenzen und Herausforderungen bei der Diskriminierungserkennung durch KI

An die Grenzen stieß die KI jedoch bei der Identifizierung weiterer Formen der Diskriminierung, wie der Objektivierung, der Respektlosigkeit sowie des Machtmissbrauchs. „Die Ergebnisse der Studie unterstreichen die Notwendigkeit, KI-Systeme weiterzuentwickeln, um Diskriminierung effektiver zu erkennen und zu verhindern“, berichtet Student Marius Funk. Die Studie wirft wichtige Fragen auf, wie KI-Technologien in der Zukunft eingesetzt werden können, um Diskriminierung in verschiedenen Bereichen zu bekämpfen und die Gleichberechtigung zu fördern.

Studienzentrum Dienstleistungsmanagement

Die Studie wurde unter Leitung von Prof. Dr. U. Bucher am Studienzentrum Dienstleistungsmanagement an der DHBW Stuttgart durchgeführt. Das Studienzentrum Dienstleistungsmanagement bereitet die Studierenden auf verantwortungsvolle betriebswirtschaftliche Tätigkeitsfelder in innovativen und kundenorientierten Projekten sowie in vielfältigen Funktions- und Servicebereichen von Dienstleistungsunternehmen vor.

Die DHBW Stuttgart:
Die Duale Hochschule Baden-Württemberg Stuttgart gehört mit rund 8.000 Studierenden in Bachelor und Masterstudiengängen zu den größten Hochschuleinrichtungen in den Regionen Stuttgart und Oberer Neckar. In Kooperation mit rund 2.000 ausgewählten Unternehmen und sozialen Einrichtungen bietet sie mehr als 60 national und international anerkannte, berufsintegrierte Studienrichtungen in den Bereichen Wirtschaft, Technik, Sozialwesen und Gesundheit an. Die Bachelor-Studierenden wechseln im dreimonatigen Rhythmus zwischen der Hochschule und dem Ausbildungsbetrieb, dem Dualen Partner. Auf diese Weise sammeln sie bereits während der Studienzeit Berufserfahrung. Finanzielle Unabhängigkeit, sichere Chancen auf dem Arbeitsmarkt durch außergewöhnlich hohe Übernahmequoten, kleine Kursgruppen und die internationale Ausrichtung bieten den Studierenden enorme Vorteile. Über den Bachelorabschluss hinaus bietet die DHBW ein duales Masterprogramm an. Weitere Informationen unter: www.dhbw-stuttgart.de

Wissenschaftlicher Ansprechpartner:
Prof. Dr. Ulrich Bucher
Professor für BWL, insbesondere Marketing und Dienstleistungsmanagement
Duale Hochschule Baden-Württemberg (DHBW) Stuttgart
Theodor-Heuss-Str. 2
70174 Stuttgart
E-Mail: ulrich.bucher@dhbw-stuttgart.de
Mobil: 0177 / 2307 364