Google lover å endre måten det fungerer på med AI etter Timnit Gebrus oppsigelse
Siden Google sparken svart AI (kunstig intelligens)-forsker Timnit Gebru i fjor, har Silicon Valley-selskapet blitt møtt med anklager om rasisme og sensur i og utenfor selskapet. For omtrent en uke siden, Google indicou svart leder Marian Croak som forskningsleder med kunstig intelligens, i et forsøk på å forene teamet hennes. Nå, ifølge en lyd innhentet av Reuters Fra et møte forrige fredag forbereder Google-ledere endringer i hvordan selskapet håndterer AI-forskningen sin, for å prøve å "gjenvinne tilliten" til de ansatte.
Spørreskjema for risikovurdering og definerte regler
I en av endringene tester Google et spørreskjema for å vurdere prosjektrisiko og hjelpe forskere med å navigere i anmeldelser, sa COO Maggie Johnson på møtet. I tillegg er Zoubin Ghahramani, professor ved University of Cambridge, utnevnt til senior forskningsdirektør, og har i oppgave å klargjøre regler og forskrifter innen AI-forskning i tilfelle rasemessige eller andre skjevheter.
På møtet sa Ghahramani "Vi må bli komfortable med dette ubehaget" med intern forskning som kritiserer Google. Gebru ble angivelig sparket over en artikkel hun skrev om hvordan Googles AI kan ende opp med å skade minoriteter. Bedriftsledere krevde at hun skulle ta ned artikkelen eller fjerne navnene på de involverte selskapets ansatte.
I en intern e-post 8. februar sett av Reuters, trakk Nicholas Carlini, medforfatter av en AI-studie kalt «Extracting Training Data from Large Language Models», kollegers oppmerksomhet til «dypt lumske redigeringer» gjort av Googles juridiske avdeling. «La oss være klare her», skrev han i e-posten, «når vi som akademikere skriver at vi har en 'bekymring' eller finner noe 'angjeldende', og en Google-advokat krever at vi endrer det for å få det til å se bedre ut, dvs. at storebroren engasjerer seg.»
via Business Insider
Bilde: Dylan Carr (Unsplash)
