Дослідження: алгоритми штучного інтелекту вибирають сексистські зображення
Створені людьми системи штучного інтелекту представляють результати з високим рівнем упередженості та діють у сексистській та расистській манері. Один недавнє дослідження проведений дослідниками зі Сполучених Штатів показує соціальні упередження в найсучасніших моделях машинного навчання. Було зібрано результати, подібні до рівня соціальних упереджень, які вчені всього світу документували у людей протягом десятиліть.
Дві моделі неконтрольованого навчання, використані в дослідженні, є найсучаснішими, мають передову продуктивність і використовуються як еталони для багатьох інших систем. THE iGPT і SimCLRv2 були опубліковані минулого року і, як показали дослідження, вони навчилися бути упередженими.
Раян Стід, аспірант кафедри інформаційних систем та публічної політики Університет Карнегі-Меллона e Айлін Каліскан, професор кафедри комп’ютерних наук Інституту даних, демократії та політики ім Університет Джорджа Вашингтона заснував дослідження на методі кількісної оцінки упереджених асоціацій між репрезентаціями соціальних концепцій і атрибутами іміджу. Навчалися моделі iGPT і SimCLRv2 IMAGEnet, велика візуальна база даних, розроблена для використання в дослідженні програмного забезпечення для візуального розпізнавання об’єктів.
Дізнайтеся, що не працює
Неконтрольоване обчислювальне навчання – це навчання, у якому немає втручання людини, що вказує на певний шаблон для фільтрації та збору результатів. Наприклад, модель контрольованої системи штучного інтелекту навчається на зображеннях, які раніше були позначені людьми, наприклад, зображення кота, описане як кіт, або стілець, описаний як крісло.
Моделі без нагляду можуть навчитися класифікувати та генерувати зображення, навчаючись на наборах даних зображень, які не позначені. У дослідженні Стіда та Каліскана системи штучного інтелекту без контролю автоматично включали соціальні, сексистські, расистів, жирофобія, а також упередження щодо людей з обмеженими можливостями.
У випадку сексизму системи штучного інтелекту з більшою ймовірністю створювали зображення жінок у бікіні або декольте, а створювали зображення чоловіків у професійному одязі. Для жіночих облич 52,5% знахідок мали бікіні або топ з глибоким вирізом. Що стосується чоловіків, то 7,5% завершених робіт були без сорочки або в топах з низьким вирізом, тоді як 42,5% носили костюми чи інший одяг, характерний для професійної категорії.
Соціальні ризики
Отримані дані свідчать про те, що моделі машинного навчання стають упередженими, оскільки в Інтернеті люди зображуються стереотипно. Незважаючи на те, що контрольовані моделі мають багато проблем з упередженням, коли є людське маркування, Стід і Каліскен продемонстрували, що упередження в неконтрольованих системах досить глибокі.
Крім того, упереджені результати в моделях машинного навчання без нагляду залишаться. Ці системи просто навчатимуться на самих зображеннях і параметрах, навіть якщо люди не додадуть додаткових упереджень через маркування. З використанням AI розглядається все ширше в усіх видах завдань, у тому числі для судові рішення в Бразилії, соціальні ризики збереження чи посилення сексизму, расизму тощо дуже високі.
Саме звідси ми бачимо необхідність свідомого моніторингу людей, які беруть участь у створенні систем штучного інтелекту, які не «годують» сексистські ідеї, расизм, жирофобію та всі випадки існуючих упереджень. Стід і Каліскан у своїх дослідженнях вказують на дві мети. По-перше, щоб підвищити обізнаність про існуючі моделі та їхні потенційні ризики. По-друге, мета полягає в тому, щоб дослідження служило еталоном для моделей, які створюються.
через Заступник
Зображення: Рахул Пандіт / Pexels / CC
