Google promete cambiar su forma de trabajar con la IA tras el despido de Timnit Gebru
Desde Google encendido El año pasado, el investigador negro de IA (inteligencia artificial) Timnit Gebru, la empresa de Silicon Valley se ha enfrentado a acusaciones de racismo y censura dentro y fuera de la empresa. Hace aproximadamente una semana, Google indicado La ejecutiva negra Marian Croak como líder de investigación con inteligencia artificial, en un intento por unificar su equipo. Ahora, según un audio obtenido por Reuters Desde una reunión el viernes pasado, los ejecutivos de Google están preparando cambios en la forma en que la empresa maneja su investigación de IA, para intentar “recuperar la confianza” de sus empleados.
Cuestionario de evaluación de riesgos y reglas definidas.
En uno de los cambios, Google está probando un cuestionario para evaluar el riesgo del proyecto y ayudar a los investigadores a navegar por las revisiones, dijo la directora de operaciones Maggie Johnson en la reunión. Además, Zoubin Ghahramani, profesor de la Universidad de Cambridge, ha sido nombrado director senior de investigación y tiene la tarea de aclarar las reglas y regulaciones en la investigación de IA en el caso de prejuicios raciales o de otro tipo.
En la reunión, Ghahramani dijo: “Necesitamos sentirnos cómodos con este malestar” con una investigación interna que critica a Google. Según los informes, Gebru fue despedida por un artículo que escribió sobre cómo la IA de Google podría terminar dañando a las minorías. Los ejecutivos de la empresa exigieron que retirara el artículo o eliminara los nombres de los empleados involucrados.
En un correo electrónico interno del 8 de febrero visto por Reuters, Nicholas Carlini, coautor de un estudio de inteligencia artificial llamado "Extracción de datos de entrenamiento de modelos de lenguaje grandes", llamó la atención de sus colegas sobre "ediciones profundamente insidiosas" realizadas por el departamento legal de Google. “Seamos claros”, escribió en el correo electrónico, “cuando nosotros, como académicos, escribimos que tenemos una 'preocupación' o encontramos algo 'preocupante' y un abogado de Google exige que lo cambiemos para que se vea mejor, es decir que el Gran Hermano se involucre”.
Vía Business Insider
Imagen: Dylan Carr (Unsplash)
