Исследование: Алгоритмы искусственного интеллекта выбирают сексистские изображения

Созданные людьми системы искусственного интеллекта предоставляют результаты с высоким уровнем предубеждений и действуют в сексистской и расистской манере. Один недавнее обучение Исследование, проведенное исследователями из США, показывает социальные предубеждения в современных моделях машинного обучения. Были собраны результаты, аналогичные уровню социальных предрассудков, которые ученые всего мира документировали у людей на протяжении десятилетий.

Две модели обучения без учителя, использованные в исследовании, являются самыми современными, обладают высочайшей производительностью и используются в качестве эталонов для многих других систем. ТО iGPT о СимCLRv2 были опубликованы в прошлом году и, как показали исследования, они научились относиться к ним предвзято.

Райан Стидаспирант кафедры информационных систем и государственной политики Университет Карнеги Меллон e Айлин Калискан, профессор кафедры компьютерных наук Института данных, демократии и политики Университет Джорджа Вашингтона Основали исследование на методе количественной оценки предвзятых ассоциаций между представлениями социальных концепций и атрибутами изображения. Модели iGPT и SimCLRv2 были обучены на IMAGEnet, большую визуальную базу данных, предназначенную для использования в исследованиях программного обеспечения для распознавания визуальных объектов.

Узнайте, что не работает

Вычислительное обучение без учителя — это обучение, при котором отсутствует вмешательство человека, что указывает на конкретный шаблон фильтрации и сбора результатов. Например, контролируемая модель системы искусственного интеллекта обучается на изображениях, которые ранее были помечены людьми, например, изображение кошки, описанное как кошка, или стул, описанный как стул.

Модели без присмотра могут научиться классифицировать и генерировать изображения, обучаясь на наборах данных изображений, которые не были помечены. В исследовании Стида и Калискана неконтролируемые системы искусственного интеллекта автоматически включают социальные, сексистские, расисты, фэтфобия, а также предубеждение в отношении людей с ограниченными возможностями.

В случае сексизма системы искусственного интеллекта с большей вероятностью генерировали изображения женщин в бикини или декольте, а также изображения мужчин в одежде профессиональной категории. Что касается женских лиц, то в 52,5% случаев было бикини или топ с глубоким вырезом. Что касается лиц мужского пола, 7,5% завершенных работ были без рубашки или в топах с глубоким вырезом, а 42,5% носили костюмы или другую одежду, специфичную для профессиональной категории.

Социальные риски

Результаты показывают, что модели машинного обучения становятся предвзятыми, поскольку люди в сети изображаются стереотипно. Хотя контролируемые модели имеют множество проблем с предвзятостью при навешивании ярлыков человеком, Стид и Калискан продемонстрировали, что предвзятость в неконтролируемых системах весьма глубока.

Более того, предвзятые результаты в моделях машинного обучения без учителя будут продолжать существовать. Эти системы просто будут учиться на самих изображениях и параметрах, даже если люди не вносят дополнительных предубеждений посредством маркировки. С использованием AI все более широко рассматривается во всех типах задач, в том числе для судебные решения в Бразилии, социальные риски сохранения или усиления сексизма, расизма и тому подобного очень высоки.

Именно оттуда мы видим необходимость осознанного мониторинга людей, участвующих в создании систем искусственного интеллекта, не «подпитывающих» сексистские идеи, расизм, фэтфобию и все случаи существующих предрассудков. Стид и Калискан в своих исследованиях преследуют две цели. Во-первых, повысить осведомленность о существующих моделях и их потенциальных рисках. Во-вторых, цель состоит в том, чтобы исследование послужило эталоном для создаваемых моделей.

С помощью Заместитель

Изображение: Рахул Пандит / Pexels / CC