El director del sector de investigación en inteligencia artificial (IA) de Google Brain -área de investigación de Google-, Samy Bengio, dimitió de su cargo en apoyo a los investigadores Timnit Gebru y Margaret Mitchell. que fueron despedidos tras verse involucrados en una polémica acusación de racismo. Permanecerá en el cargo hasta el 28 de abril.
En una publicación de FacebookBengio dijo que está conmocionado por los acontecimientos que involucran a la empresa y que su decisión implica su compromiso de valorar a los investigadores y profesionales. Además, se estima que Al menos otros dos ingenieros han pedido el cierre de Google en apoyo a los investigadores.
Antes de unirse a Google, el director Samy Bengio fue uno de los creadores de Torch, un marco de código abierto para desarrollar algoritmos de inteligencia artificial. En Google formó parte del equipo de TensorFlow, un lenguaje propietario que sigue los mismos principios que su creación. Su influencia también ha impactado otros proyectos de inteligencia artificial, hasta el punto de que la base de Proyecto de aprendizaje automático de Facebook Utilice un sistema similar, PyTorch.
Comprender el caso Gebru
El despido de Gebru se produjo en diciembre de 2020, cuando el investigador publicó un artículo académico advirtiendo al mundo sobre los riesgos detrás de la inteligencia artificial que impulsa algunos de los resultados de búsqueda de Google. Afirmó que la forma en que se programa la IA de Google tiende a "silenciar las voces marginadas". Este es un argumento que se viene debatiendo desde hace algún tiempo en el mundo de la programación y, básicamente, consiste en que los resultados de las investigaciones tienden a favorecer a los hombres blancos.
Si realiza una búsqueda en Google Imágenes utilizando el término policía, por ejemplo, la probabilidad de que los resultados indiquen fotos de personas blancas es mucho mayor que la aparición de profesionales negros en el puesto. Lo mismo ocurre cuando se realizan investigaciones que involucran a minorías étnicas o a mujeres. Así, Gebru habría sido abordada por miembros de la dirección de Google Brain quienes le exigieron que retirara la publicación y se retractara de las consideraciones formuladas contra la empresa. Ella se negó.
Según los informes, Mitchell se sintió conmovido por la decisión de su socio y creó un guión en los correos electrónicos del equipo en busca de pruebas de discriminación contra Gebru. Fue despedida en febrero de 2021 e hizo públicos los hechos. A pesar de su despido, Timnit Gebru y Margaret Mitchell siguen siendo un referente en el conocimiento y uso de la inteligencia artificial en todo el mundo. Timnit incluso tiene una Ted Talks que habla sobre la discriminación y cómo el uso de la IA puede marginar a las comunidades.
Vía The Verge
Foto: Kai Wenzel/Unsplash
