Inteligența artificială este deja o realitate în viața noastră de zi cu zi. Când camera detectează ce fel de peisaj fotografiam, când aplicăm un filtru amuzant în aplicații de editare, sau când folosim Google Lens pentru a afla ce este un obiect, toate acestea trec prin algoritmi neuronali complexi. Dar chiar și ei pot eșua: o simplă legendă a reușit să convingă un AI că un măr este un iPod.

Protagonistul acestei povești este AI Clip, de la organizația OpenAI. Când încerci să înțelegi ce măr este în fața ta, rețeaua neuronală identifică corect fructul și chiar tipul acestuia. Când aceeași mâncare este prezentată la IA Clip cu o bucată de hârtie lipită cu „iPod” scris pe ea, algoritmul pur și simplu renunță la obiectul corect și pune un pariu mare că materialul este exact ceea ce a interpretat ca fiind scris.

Susceptibil de înșelăciune, ca un om

Dezvoltatorii clasifică ceea ce s-a întâmplat drept un pas fals datorită unui sistem de citire a textului. Desigur, un măr nu este un iPod, dar AI a fost păcălit, pentru că modelul său, pe scurt, funcționează cu neuroni care promovează rezultate cu „gânduri” literale, simbolice sau conceptuale. Ar fi un sistem neuronal mai aproape de realitatea umană. La urma urmei, avem și o relație cu tot ceea ce ne înconjoară, care implică lucrurile așa cum sunt prezentate (literal), cum sunt înțelese (concept) și, adesea, ceea ce reprezintă (simboluri). În acest caz, șmecheria s-a întâmplat pentru că pentru AI este imposibil să desconsiderăm informațiile scrise ca fiind ceva valabil în acest proces de traducere nu doar a unui obiect, ci și a sensului său contextual.

Un alt exemplu

Un alt exemplu oferit de AI, care a fost „păcălit” să creadă că un măr cu o legendă de hârtie era un iPod, se regăsește în rezultatul obținut atunci când un câine cu un colaj de figuri este citit de acesta. Fără montaj, ea recunoaște perfect că este un animal domestic, dar cu figurile, lectura este ghidată mai mult de neuronul contextual. AI a început să parieze că imaginea era acum o pușculiță, cea pentru depozitarea monedelor. Acest lucru se datorează faptului că modelul a combinat citirea mai multor concepte pe care a fost capabil să le interpreteze, cum ar fi un animal cu patru picioare, într-un context financiar. A mers un drum lung, dar calea „raționamentului” era de înțeles.

Prin urmare, dezvoltatorii AI Clip nu clasifică ceea ce s-a întâmplat drept o eroare, ci mai degrabă ca unul dintre punctele forte ale acestui sistem despre care, desigur, recunosc că poate fi abuzat. Pe de altă parte, încă mai pot fi îmbunătățite cu această IA: ca și gândirea umană, prejudecățile și stereotipurile au fost detectate de unii neuroni Clip AI. Nucleul responsabil pentru Orientul Mijlociu efectuează analize încărcate cu lecturi teroriste pe scene, în timp ce un detector de situație de imigrație clasifică în mod constant oamenii din aceste medii drept latini.

Prin intermediul OpenAI

Imagine: Matt Browne (Flickr)