O diretor do setor de pesquisas com inteligência artificial (IA) do Google Brain – a área de pesquisas do Google -, Samy Bengio, renunciou ao cargo em apoio as pesquisadoras Timnit Gebru e Margaret Mitchell, que foram demitidas após se envolverem em uma polêmica denúncia de racismo.  Ele ficará no cargo até 28 de abril.

Em uma publicação no Facebook, Bengio disse que ficou chocado com os acontecimentos envolvendo a empresa e que a sua decisão envolve o seu comprometimento com a valorização de pesquisadores e profissionais. Além dele, estima-se que ao menos outros dois engenheiros tenham pedido o desligamento do Google em apoio as pesquisadoras.

Antes de integrar o Google, o diretor Samy Bengio foi um dos criadores do Torch, uma estrutura de código aberto para o desenvolvimento de algoritmos de IA. No Google, ele fez parte da equipe TensorFlow, uma linguagem proprietária que segue os mesmos princípios da sua criação. A sua influência também impactou outros projetos de inteligência artificial, ao ponto de a base do projeto de aprendizado de máquina do Facebook utilizar um sistema semelhante, o PyTorch.

Entenda o caso Gebru

A demissão de Gebru aconteceu em dezembro de 2020, quando a pesquisadora publicou um artigo acadêmico alertando o mundo sobre os riscos por trás da inteligência artificial que alimenta alguns dos resultados de pesquisa do Google. Ela afirmou que a forma como a IA do Google é programada tende a “silenciar vozes marginalizadas”. Este é um argumento que vem sendo debatido há certo tempo no mundo da programação e, basicamente, consiste no fato de que os resultados de pesquisas costumam privilegiar homens brancos.

Se você fizer uma pesquisa no Google Imagens utilizando o termo policial, por exemplo, a probabilidade de os resultados indicarem fotos de pessoas brancas é muito maior do que a ocorrência de profissionais negros na função.  O mesmo acontece ao efetuar pesquisas envolvendo minorias étnicas ou mulheres. Assim, Gebru teria sido procurada por membros da direção do Google Brain que exigiram que ela retirasse a publicação e se retratasse pelas considerações feitas contra a empresa. Ela se recusou.

Mitchell teria se comovido com a decisão da parceira e instaurado um script nos e-mails da equipe em busca de evidências de discriminação contra Gebru. Ela foi demitida em fevereiro de 2021 e tornou os fatos públicos. Apesar da demissão, Timnit Gebru  e Margaret Mitchell seguem sendo referência na conscientização e no uso de inteligência artificial ao redor do mundo. Timnit inclusive possui um Ted Talks falando sobre discriminação e como o uso de IA pode marginalizar comunidades.

Via The Verge
Foto: Kai Wenzel/Unsplash