Le directeur de l'IA quitte Google pour soutenir ses anciens employés

Le directeur du secteur de recherche sur l'intelligence artificielle (IA) chez Google Brain – le domaine de recherche de Google -, Samy Bengio, a démissionné de son poste pour soutenir les chercheurs Timnit Gebru et Margaret Mitchell, qui ont été licenciés après avoir été impliqués dans une accusation controversée de racisme. Il restera en fonction jusqu'au 28 avril.

Dans une publication Facebook, Bengio s'est dit choqué par les événements impliquant l'entreprise et que sa décision implique son engagement à valoriser les chercheurs et les professionnels. De plus, on estime que au moins deux autres ingénieurs ont demandé la fermeture de Google en soutien aux chercheurs.

Avant de rejoindre Google, le directeur Samy Bengio était l'un des créateurs de Torch, un framework open source pour développer des algorithmes d'IA. Chez Google, il faisait partie de l'équipe TensorFlow, un langage propriétaire qui suit les mêmes principes que sa création. Son influence a également impacté d'autres projets d'intelligence artificielle, au point que les bases de Projet d'apprentissage automatique Facebook utilisez un système similaire, PyTorch.

Comprendre le cas Gebru

Le licenciement de Gebru a eu lieu en décembre 2020, lorsque le chercheur a publié un article universitaire avertissant le monde des risques liés à l'intelligence artificielle qui alimente certains résultats de recherche de Google. Elle a déclaré que la façon dont l’IA de Google est programmée tend à « faire taire les voix marginalisées ». C’est un argument débattu depuis un certain temps dans le monde de la programmation et, fondamentalement, il s’agit du fait que les résultats de la recherche tendent à favoriser les hommes blancs.

Si vous effectuez une recherche sur Google Images en utilisant le terme police, par exemple, la probabilité que les résultats indiquent des photos de personnes blanches est bien plus grande que la présence de professionnels noirs dans ce rôle. La même chose se produit lorsque l’on mène des recherches impliquant des minorités ethniques ou des femmes. Ainsi, Gebru aurait été approchée par des membres de la direction de Google Brain qui lui auraient demandé de retirer la publication et de renoncer aux considérations formulées à l'encontre de l'entreprise. Elle a refusé.

Mitchell aurait été ému par la décision de son partenaire et aurait créé un script dans les courriers électroniques de l'équipe à la recherche de preuves de discrimination à l'encontre de Gebru. Elle a été licenciée en février 2021 et a rendu les faits publics. Malgré leur licenciement, Timnit Gebru et Margaret Mitchell continuent d'être une référence en matière de sensibilisation et d'utilisation de l'intelligence artificielle dans le monde. Timnit organise même un Ted Talks pour parler de la discrimination et de la manière dont l'utilisation de l'IA peut marginaliser les communautés.

Via The Verge
Photo : Kai Wenzel/Unsplash