Google'ın araştırma alanı olan Google Brain'de yapay zeka (AI) araştırma sektörünün yöneticisi Samy Bengio, araştırmacılar Timnit Gebru ve Margaret Mitchell'e destek amacıyla görevinden istifa etti. Tartışmalı bir ırkçılık suçlamasına karıştıktan sonra kovulanlar. 28 Nisan'a kadar görevde kalacak.

Bir Facebook gönderisindeBengio, şirketin karıştığı olaylar karşısında şok olduğunu ve kararının araştırmacılara ve profesyonellere değer verme taahhüdünü içerdiğini söyledi. Ayrıca tahmin edilmektedir ki en az iki mühendis daha Google'ın kapatılması çağrısında bulundu araştırmacılara destek vermek amacıyla.

Yönetmen Samy Bengio, Google'a katılmadan önce yapay zeka algoritmaları geliştirmeye yönelik açık kaynaklı bir çerçeve olan Torch'un yaratıcılarından biriydi. Google'da, yaratılışıyla aynı ilkeleri izleyen özel bir dil olan TensorFlow ekibinin bir parçasıydı. Etkisi aynı zamanda diğer yapay zeka projelerini de etkiledi; Facebook makine öğrenimi projesi benzer bir sistem kullanın, PyTorch.

Gebru vakasını anlayın

Gebru'nun görevden alınması, araştırmacının Google'ın bazı arama sonuçlarına güç veren yapay zekanın ardındaki riskler konusunda dünyayı uyaran akademik bir makale yayınladığı Aralık 2020'de gerçekleşti. Google'ın yapay zekasının programlanma şeklinin "ötekileştirilmiş sesleri susturma" eğiliminde olduğunu belirtti. Bu, programlama dünyasında bir süredir tartışılan bir argümandır ve temel olarak araştırma sonuçlarının beyaz erkeklerin lehine olduğu gerçeğinden oluşmaktadır.

Örneğin polis terimini kullanarak Google Görseller'de bir arama yaparsanız, sonuçların beyaz insanların fotoğraflarını gösterme olasılığı, bu rolde siyah profesyonellerin ortaya çıkmasından çok daha fazladır. Aynı şey etnik azınlıkları veya kadınları kapsayan bir araştırma yürütürken de oluyor. Bu nedenle, Google Brain yönetiminin üyeleri Gebru'ya başvurarak yayını geri çekmesini ve şirkete karşı ileri sürdüğü görüşlerden vazgeçmesini talep edebilirdi. Reddetti.

Mitchell'in ortağının kararından etkilendiği ve ekibin e-postalarında Gebru'ya karşı ayrımcılık yapıldığına dair kanıt arayan bir senaryo oluşturduğu bildirildi. Şubat 2021'de kovuldu ve gerçekleri kamuoyuna açıkladı. Timnit Gebru ve Margaret Mitchell, görevden alınmalarına rağmen dünya çapında yapay zekanın farkındalığı ve kullanımı konusunda referans olmaya devam ediyor. Timnit'in ayrımcılıktan ve yapay zeka kullanımının toplulukları nasıl ötekileştirebileceğinden bahseden bir Ted Konuşması bile var.

Üzerinden Verge
Fotoğraf: Kai Wenzel/Unsplash