Директор сектора исследований искусственного интеллекта (ИИ) в Google Brain — исследовательском направлении Google — Сами Бенджио подал в отставку со своей должности в поддержку исследователей Тимнита Гебру и Маргарет Митчелл. которые были уволены после того, как были причастны к спорному обвинению в расизме. Он останется на своем посту до 28 апреля.

В сообщении в FacebookБенджио сказал, что он был шокирован событиями, связанными с компанией, и что его решение связано с его приверженностью ценить исследователей и специалистов. Кроме того, предполагается, что как минимум двое других инженеров призвали закрыть Google в поддержку исследователей.

До прихода в Google директор Сами Бенджио был одним из создателей Torch, платформы с открытым исходным кодом для разработки алгоритмов искусственного интеллекта. В Google он был частью команды TensorFlow — собственного языка, который следует тем же принципам, что и его создание. Его влияние также повлияло на другие проекты искусственного интеллекта до такой степени, что основа Проект машинного обучения Facebook используйте аналогичную систему PyTorch.

Разобраться в деле Гебру

Увольнение Гебру произошло в декабре 2020 года, когда исследователь опубликовал научную статью, предупреждающую мир о рисках, связанных с искусственным интеллектом, который лежит в основе некоторых результатов поиска Google. Она заявила, что способ программирования искусственного интеллекта Google имеет тенденцию «заставлять замолчать маргинализированные голоса». Этот аргумент уже некоторое время обсуждается в мире программирования и, по сути, он заключается в том, что результаты исследований имеют тенденцию отдавать предпочтение белым мужчинам.

Если вы выполняете поиск в Google Images, используя, например, термин «полиция», вероятность того, что в результатах будут указаны фотографии белых людей, намного выше, чем вероятность появления чернокожих профессионалов в этой роли. То же самое происходит при проведении исследований с участием этнических меньшинств или женщин. Таким образом, к Гебру обратились бы члены руководства Google Brain и потребовали бы от нее отозвать публикацию и отказаться от доводов, выдвинутых против компании. Она отказалась.

Сообщается, что Митчелл был тронут решением своего партнера и создал сценарий для электронных писем команды, ища доказательства дискриминации в отношении Гебру. Ее уволили в феврале 2021 года, и она обнародовала факты. Несмотря на свое увольнение, Тимнит Гебру и Маргарет Митчелл продолжают оставаться эталоном осведомленности и использования искусственного интеллекта во всем мире. Тимнит даже проводит Ted Talks, в котором рассказывает о дискриминации и о том, как использование ИИ может маргинализировать сообщества.

С помощью Грань
Фото: Кай Венцель/Unsplash