Studie: Künstliche Intelligenz-Algorithmen erkennen sexistische Bilder

Von Menschen geschaffene Systeme künstlicher Intelligenz produzieren Ergebnisse mit einem hohen Maß an Voreingenommenheit und verhalten sich sexistisch und rassistisch. Kürzlich durchgeführte Studie Eine Studie von US-Forschern zeigt soziale Vorurteile in modernen maschinellen Lernmodellen. Die Ergebnisse ähneln dem Ausmaß sozialer Vorurteile, das Wissenschaftler weltweit seit Jahrzehnten beim Menschen dokumentieren.

Die beiden in der Studie verwendeten Modelle für unüberwachtes Lernen entsprechen dem neuesten Stand der Technik, weisen eine Leistung auf, die dem neuesten Stand der Technik entspricht, und werden als Benchmark für viele andere Systeme verwendet. iGPT o SimCLRv2 wurden im letzten Jahr veröffentlicht und wie Studien gezeigt haben, haben sie gelernt, Vorurteile zu haben.

Ryan Steed, Doktorand in Informationssystemen und öffentlichen Politiken an der Carnegie Mellon Universität e Aylin Caliskan, Professor im Fachbereich Informatik, Institut für Daten, Demokratie und Politik an der George Washington Universität Die Studie basiert auf einer Methode zur Quantifizierung verzerrter Assoziationen zwischen Darstellungen sozialer Konzepte und Bildattributen. Die iGPT- und SimCLRv2-Modelle wurden trainiert auf IMAGEnet, eine große visuelle Datenbank, die für die Forschung im Bereich der visuellen Objekterkennungssoftware entwickelt wurde.

Erfahren Sie, was nutzlos ist

Beim unüberwachten maschinellen Lernen gibt es keinen menschlichen Eingriff, was auf ein bestimmtes Muster zum Filtern und Sammeln von Ergebnissen schließen lässt. Beispielsweise wird ein überwachtes KI-Systemmodell anhand von Bildern trainiert, die zuvor von Menschen beschriftet wurden, wie etwa dem Bild einer Katze, das als Katze beschrieben wird, oder einem Stuhl, der als Stuhl beschrieben wird.

Unbeaufsichtigte Modelle hingegen können lernen, Bilder zu kategorisieren und zu generieren, indem sie mit Datensätzen unbeschrifteter Bilder trainieren. In der Studie von Steed und Caliskan berücksichtigten unbeaufsichtigte KI-Systeme automatisch soziale, sexistische und geschlechtsspezifische Vorurteile. Rassist, Fettphobie sowie Vorurteile gegenüber Menschen mit Behinderungen.

Im Fall von Sexismus generierten KI-Systeme häufiger Bilder von Frauen in Bikinis oder mit tiefem Ausschnitt, während sie Bilder von Männern in professioneller Kleidung generierten. Bei weiblichen Gesichtern zeigten 52,5 % der Vermutungen einen Bikini oder ein tief ausgeschnittenes Oberteil. Bei männlichen Gesichtern waren 7,5 % der Vermutungen oberkörperfrei oder trugen tief ausgeschnittene Oberteile, während 42,5 % Anzüge oder andere professionelle Kleidung trugen.

Soziale Risiken

Die Ergebnisse deuten darauf hin, dass Machine-Learning-Modelle verzerrt werden, wenn Menschen im Internet stereotyp dargestellt werden. Während überwachte Modelle bei menschlicher Etikettierung häufig mit Verzerrungen zu kämpfen haben, zeigten Steed und Caliskan, dass die Verzerrung in unüberwachten Systemen erheblich ist.

Darüber hinaus wird es auch weiterhin verzerrte Ergebnisse in unüberwachten maschinellen Lernmodellen geben. Diese Systeme lernen einfach aus den Bildern und Parametern selbst, selbst wenn Menschen keine zusätzlichen Verzerrungen durch Beschriftungen einführen. Mit dem Einsatz von AI werden zunehmend für alle Arten von Aufgaben in Frage kommen, darunter für Gerichtsentscheidungen in Brasilien, sind die gesellschaftlichen Risiken einer Aufrechterhaltung oder Verstärkung von Sexismus, Rassismus und dergleichen sehr hoch.

Hier sehen wir die Notwendigkeit einer bewussten Überwachung der an der Entwicklung künstlicher Intelligenzsysteme beteiligten Personen, die sexistische Ideen, Rassismus, Fettphobie und alle bestehenden Vorurteile nicht fördern. Steed und Caliskan nennen in ihren Studien zwei Ziele: Erstens, das Bewusstsein für bestehende Modelle und ihre potenziellen Risiken zu schärfen. Zweitens soll die Studie als Referenz für die neu entwickelten Modelle dienen.

Über Schraubstock

Bild: Rahul Pandit / Pexels / CC