Tanulmány: A mesterséges intelligencia algoritmusai kiszűrik a szexista képeket
Az emberek által létrehozott mesterséges intelligencia rendszerek magas szintű elfogultságot produkálnak, és szexista, valamint rasszista módon viselkednek. friss tanulmány Egy amerikai kutatók által végzett tanulmány társadalmi torzításokat mutat ki a legmodernebb gépi tanulási modellekben. Az eredmények hasonlóak voltak ahhoz a társadalmi torzítási szinthez, amelyet a tudósok világszerte évtizedek óta dokumentálnak embereknél.
A tanulmányban használt két felügyelet nélküli tanulási modell a legmodernebb, a legmodernebb teljesítményt nyújtja, és számos más rendszer referenciaértékeként szolgál. iGPT és SimCLRv2 tavaly jelentek meg, és ahogy a tanulmányok kimutatták, megtanultak előítéletesek lenni.
Ryan Steed, PhD hallgató Információs Rendszerek és Közpolitikák szakon, Carnegie Mellon Egyetem e Aylin Caliskan, professzor a Számítástechnikai Tanszéken, az Adat-, Demokrácia- és Politikatudományi Intézetben George Washington Egyetem a tanulmány egy olyan módszeren alapult, amely számszerűsíti a társadalmi fogalmak reprezentációi és a képattribútumok közötti torzított kapcsolatokat. Az iGPT és a SimCLRv2 modelleket a következőn képezték ki: ImageNet, egy nagyméretű vizuális adatbázis, amelyet vizuális objektumfelismerő szoftverekkel kapcsolatos kutatásokhoz terveztek.
Tanuld meg, mi a haszontalan
A felügyelet nélküli gépi tanulás során nincs emberi beavatkozás, ami egy adott mintát jelezne az eredmények szűrésére és gyűjtésére. Például egy felügyelt mesterséges intelligencia rendszermodelljét olyan képeken tanítják, amelyeket korábban emberek címkéztek fel, például egy macska képén, amelyet macskának írtak le, vagy egy szék képén, amelyet széknek írtak le.
A felügyelet nélküli modellek ezzel szemben megtanulhatják a képek kategorizálását és generálását olyan képadatbázisokon való betanítással, amelyeket nem címkéztek fel. Steed és Caliskan tanulmányában a felügyelet nélküli mesterséges intelligenciarendszerek automatikusan beépítették a társadalmi, szexista és nemi alapú elfogultságokat. rasszista, a zsírfóbiát, valamint a fogyatékkal élőkkel szembeni előítéleteket.
A szexizmus esetében a mesterséges intelligencia rendszerek nagyobb valószínűséggel generáltak bikinit vagy mélyen dekoltált nőket ábrázoló képeket, míg professzionális öltözékben lévő férfiakat. A női arcok esetében a találatok 52,5%-a bikini vagy mélyen dekoltált felsőrészt ábrázolt. A férfi arcok esetében a találatok 7,5%-a félmeztelen vagy mélyen dekoltált felsőrészt viselt, míg 42,5%-uk kosztümöt vagy más professzionális öltözéket viselt.
Szociális kockázatok
Az eredmények arra utalnak, hogy a gépi tanulási modellek torzítanak, amikor az embereket sztereotip módon ábrázolják az interneten. Míg a felügyelt modelleknek számos problémájuk van az elfogultsággal, amikor emberi címkézésről van szó, Steed és Caliskan kimutatták, hogy a felügyelet nélküli rendszerekben az elfogultság meglehetősen mélyreható.
Továbbá a felügyelet nélküli gépi tanulási modellekben továbbra is előfordulnak torzított eredmények. Ezek a rendszerek egyszerűen magukból a képekből és paraméterekből fognak tanulni, még akkor is, ha az emberek nem vezetnek be további torzításokat címkézés útján. A használatával AI egyre szélesebb körben keresik őket mindenféle feladatban, beleértve a következőket is: bírósági döntések Brazíliábana szexizmus, a rasszizmus és hasonlók fenntartásának vagy fokozásának társadalmi kockázatai nagyon magasak.
Itt látjuk annak szükségességét, hogy tudatosan figyelemmel kísérjük azokat az embereket, akik olyan mesterséges intelligencia rendszerek létrehozásában vesznek részt, amelyek nem „táplálják” a szexista eszméket, a rasszizmust, a zsírfóbiát és a létező előítéletek minden esetét. Steed és Caliskan két célt emelnek ki tanulmányaikban. Először is, hogy felhívják a figyelmet a meglévő modellekre és azok lehetséges kockázataira. Másodszor, a tanulmány célja, hogy referenciaként szolgáljon a létrehozás alatt álló modellekhez.
Keresztül Helyettes
Kép: Rahul Pandit / Pexels / CC
