Direktøren for forskningssektoren for kunstig intelligens (AI) ved Google Brain – Googles forskningsområde – Samy Bengio, trakk seg fra sin stilling til støtte for forskerne Timnit Gebru og Margaret Mitchell, som ble sparket etter å ha vært involvert i en kontroversiell anklage om rasisme. Han blir sittende frem til 28. april.
I et Facebook-innlegg, sa Bengio at han var sjokkert over hendelsene som involverte selskapet, og at avgjørelsen hans innebærer hans forpliktelse til å verdsette forskere og fagfolk. I tillegg er det anslått at minst to andre ingeniører har bedt om å stenge Google til støtte for forskere.
Før han begynte i Google, var regissør Samy Bengio en av skaperne av Torch, et åpen kildekode-rammeverk for utvikling av AI-algoritmer. Hos Google var han en del av TensorFlow-teamet, et proprietært språk som følger de samme prinsippene som det ble opprettet. Dens innflytelse har også påvirket andre kunstig intelligens-prosjekter, til det punktet hvor grunnlaget for Facebook maskinlæringsprosjekt bruk et lignende system, PyTorch.
Forstår Gebru-saken
Gebrus oppsigelse fant sted i desember 2020, da forskeren publiserte en akademisk artikkel som advarte verden om risikoen bak den kunstige intelligensen som driver noen av Googles søkeresultater. Hun uttalte at måten Googles AI er programmert på har en tendens til å "dempe marginaliserte stemmer." Dette er et argument som har vært diskutert en stund i programmeringsverdenen, og i utgangspunktet består det av det faktum at forskningsresultater har en tendens til å favorisere hvite menn.
Hvis du for eksempel gjør et søk på Google Bilder ved å bruke begrepet politi, er sannsynligheten for at resultatene indikerer bilder av hvite mennesker mye større enn forekomsten av svarte fagpersoner i rollen. Det samme skjer når man utfører forskning som involverer etniske minoriteter eller kvinner. Dermed ville Gebru ha blitt oppsøkt av medlemmer av Google Brain-ledelsen som krevde at hun skulle trekke tilbake publiseringen og trekke tilbake vurderingene mot selskapet. Hun nektet.
Mitchell ble angivelig rørt av partnerens avgjørelse og laget et manus i teamets e-poster på jakt etter bevis på diskriminering av Gebru. Hun fikk sparken i februar 2021 og offentliggjorde fakta. Til tross for oppsigelsen, fortsetter Timnit Gebru og Margaret Mitchell å være en referanse i bevisstheten og bruken av kunstig intelligens rundt om i verden. Timnit har til og med en Ted Talks som snakker om diskriminering og hvordan bruk av AI kan marginalisere lokalsamfunn.
via Randen
Foto: Kai Wenzel/Unsplash
