Samy Bengio, Leiter der Forschung im Bereich künstliche Intelligenz (KI) bei Google Brain, ist zurückgetreten, um die Forscherinnen Timnit Gebru und Margaret Mitchell zu unterstützen. die entlassen wurden, nachdem sie an einer umstrittenen Rassismusbeschwerde beteiligt warenEr bleibt bis zum 28. April im Amt.

In einem Facebook-PostBengio sagte, er sei schockiert über die Ereignisse um das Unternehmen und seine Entscheidung beziehe sich auf sein Engagement für die Wertschätzung von Forschern und Fachleuten. Darüber hinaus wird geschätzt, dass Mindestens zwei weitere Ingenieure haben bei Google um ihre Entlassung gebeten zur Unterstützung der Forscher.

Bevor er zu Google kam, war Direktor Samy Bengio einer der Entwickler von Torch, einem Open-Source-Framework zur Entwicklung von KI-Algorithmen. Bei Google war er Teil des TensorFlow-Teams, einer proprietären Sprache, die den gleichen Prinzipien folgt wie seine Kreation. Sein Einfluss hat sich auch auf andere Projekte der künstlichen Intelligenz ausgewirkt, so dass die Grundlage von Facebook-Maschinenlernprojekt Verwenden Sie ein ähnliches System, PyTorch.

Verstehen Sie den Gebru-Fall

Gebru wurde im Dezember 2020 entlassen, nachdem die Forscherin eine wissenschaftliche Arbeit veröffentlicht hatte, in der sie vor den Risiken der künstlichen Intelligenz warnte, die einige Google-Suchergebnisse steuert. Sie behauptete, die Art und Weise, wie Googles KI programmiert ist, neige dazu, „marginalisierte Stimmen zum Schweigen zu bringen“. Dieses Argument wird in der Programmierwelt schon länger diskutiert und basiert im Wesentlichen darauf, dass Suchergebnisse weiße Männer tendenziell bevorzugen.

Sucht man beispielsweise in Google Bilder nach dem Begriff „Polizei“, werden in den Ergebnissen deutlich häufiger Fotos von Weißen als von schwarzen Berufstätigen angezeigt. Dasselbe passiert, wenn man nach ethnischen Minderheiten oder Frauen sucht. Mitglieder des Google Brain-Vorstands forderten Gebru auf, ihren Beitrag zurückzuziehen und die gegen das Unternehmen erhobenen Vorwürfe zurückzunehmen. Sie lehnte ab.

Mitchell war Berichten zufolge von der Entscheidung ihres Partners bewegt und verfasste Team-E-Mails, um nach Beweisen für Diskriminierung gegen Gebru zu suchen. Sie wurde im Februar 2021 entlassen und machte die Fakten öffentlich. Trotz der Entlassung sind Timnit Gebru und Margaret Mitchell weiterhin eine Referenz für die Sensibilisierung und den Einsatz künstlicher Intelligenz weltweit. Timnit hält sogar einen Ted Talk über Diskriminierung und wie der Einsatz von KI Gemeinschaften marginalisieren kann.

Über The Verge
Foto: Kai Wenzel/Unsplash