Samy Bengio ผู้อำนวยการภาคการวิจัยปัญญาประดิษฐ์ (AI) ที่ Google Brain ซึ่งเป็นฝ่ายวิจัยของ Google ลาออกจากตำแหน่งเพื่อสนับสนุนนักวิจัย Timnit Gebru และ Margaret Mitchell ที่ถูกไล่ออกหลังมีส่วนเกี่ยวข้องกับข้อกล่าวหาเรื่องการเหยียดเชื้อชาติ- เขาจะดำรงตำแหน่งจนถึงวันที่ 28 เมษายน

ในโพสต์เฟซบุ๊กBengio กล่าวว่าเขารู้สึกตกใจกับเหตุการณ์ที่เกี่ยวข้องกับบริษัท และการตัดสินใจของเขาเกี่ยวข้องกับความมุ่งมั่นของเขาที่จะให้ความสำคัญกับนักวิจัยและผู้เชี่ยวชาญ นอกจากนี้ก็มีการประมาณว่า วิศวกรอีกอย่างน้อยสองคนเรียกร้องให้ Google ปิดตัวลง เพื่อสนับสนุนนักวิจัย

ก่อนที่จะมาร่วมงานกับ Google ผู้กำกับ Samy Bengio เป็นหนึ่งในผู้สร้าง Torch ซึ่งเป็นเฟรมเวิร์กโอเพ่นซอร์สสำหรับการพัฒนาอัลกอริทึม AI ที่ Google เขาเป็นส่วนหนึ่งของทีม TensorFlow ซึ่งเป็นภาษาที่เป็นกรรมสิทธิ์ซึ่งมีหลักการเดียวกันกับการสร้างสรรค์ อิทธิพลของมันยังส่งผลกระทบต่อโครงการปัญญาประดิษฐ์อื่น ๆ จนถึงจุดที่พื้นฐานของ โครงการการเรียนรู้ของเครื่อง Facebook ใช้ระบบที่คล้ายกัน PyTorch

ทำความเข้าใจกับกรณีเกบรู

การเลิกจ้างของ Gebru เกิดขึ้นในเดือนธันวาคม 2020 เมื่อนักวิจัยตีพิมพ์บทความวิชาการเตือนโลกเกี่ยวกับความเสี่ยงเบื้องหลังปัญญาประดิษฐ์ที่ขับเคลื่อนผลการค้นหาบางส่วนของ Google เธอกล่าวว่าวิธีการตั้งโปรแกรม AI ของ Google มีแนวโน้มที่จะ "ปิดปากเสียงของคนชายขอบ" นี่เป็นข้อโต้แย้งที่ได้รับการถกเถียงกันในโลกแห่งการเขียนโปรแกรมมาระยะหนึ่งแล้ว และโดยพื้นฐานแล้วประกอบด้วยข้อเท็จจริงที่ว่าผลการวิจัยมีแนวโน้มที่จะสนับสนุนคนผิวขาว

ตัวอย่างเช่น หากคุณค้นหาใน Google Images โดยใช้คำว่าตำรวจ ความน่าจะเป็นที่ผลการค้นหาที่ระบุรูปถ่ายของคนผิวขาวจะมากกว่าการปรากฏของมืออาชีพผิวดำในบทบาทนี้มาก สิ่งเดียวกันนี้เกิดขึ้นเมื่อทำการวิจัยที่เกี่ยวข้องกับชนกลุ่มน้อยหรือสตรี ดังนั้น Gebru จึงจะได้รับการติดต่อจากสมาชิกฝ่ายบริหารของ Google Brain ซึ่งเรียกร้องให้เธอถอนการตีพิมพ์และเพิกถอนการพิจารณาที่มีต่อบริษัท เธอปฏิเสธ

มีรายงานว่า Mitchell รู้สึกประทับใจกับการตัดสินใจของคู่หูของเขา และสร้างสคริปต์ในอีเมลของทีมเพื่อค้นหาหลักฐานการเลือกปฏิบัติต่อ Gebru เธอถูกไล่ออกในเดือนกุมภาพันธ์ 2021 และเปิดเผยข้อเท็จจริงต่อสาธารณะ แม้ว่าพวกเขาจะถูกไล่ออก Timnit Gebru และ Margaret Mitchell ยังคงเป็นบุคคลอ้างอิงในการรับรู้และการใช้ปัญญาประดิษฐ์ทั่วโลก Timnit ยังมี Ted Talks ที่พูดถึงการเลือกปฏิบัติและการใช้ AI เพื่อทำให้ชุมชนชายขอบได้อย่างไร

ผ่านทาง Verge
ภาพ: ไค เวนเซล/Unsplash