Širenjem biometrijske registracije za najrazličitije osobne potrebe, čini se da smo korak bliže budućnosti. Na kraju krajeva, autentifikacije s našom biometrijom su učinkovitije, jer su naši otisci prstiju po prirodi jedinstveni i teško ih je kopirati. Ali sav ovaj napredak otvara druga pitanja: postoje li rizici u korištenju prepoznavanja lica?

Nakon nedavna epizoda Cufe, razgovarali smo s Christianom Perroneom, koordinatorom područja za pravo i tehnologiju na Institutu za tehnologiju i društvo u Rio de Janeiru (ITSRio). Osim pojašnjavanja implikacija slučaja, stručnjak je objasnio Vida Celular niz pitanja o tome što je zapravo u pitanju s prepoznavanjem lica.

Prepoznavanje lica je poput virtualne memorije

Kako smo objavili ovdje prije, prepoznavanje lica kao identifikacija pojedinca nije tako staro, a tek se 2011. tehnologija počela ugrađivati ​​u naše pametne telefone. U svojoj najosnovnijoj strukturi, tehnologija ima dva dijela: jedan koji identificira i mapira te biometrijsku bazu podataka lica za usporedbu. Bez jedne strane ne radi ispravno.

Perrone objašnjava da tehnologije prepoznavanja lica funkcioniraju, na neki način, poput naše vlastite memorije. "To je kao da gledate stari foto album i znate da je osoba u njemu prijatelj iz djetinjstva." Stručnjak objašnjava da se otkrivanje odvija u tri faze.

Prvo, stroj, umjetna inteligencija, identificira da se na slici nalazi lice osobe. Nakon toga, stroj mapira ovo lice, pretvarajući ga u ono što se naziva biometrijskim podacima. Na kraju, uspoređuje mapu lica s bazom podataka kako bi odredio konkretnu osobu na fotografiji. Odnosno, ako se nalazi u bazi podataka koja se uspoređuje.

Problem s digitalnom memorijom je što i ona ne radi

Danas ova "digitalna memorija" ispunjava važan korak u sigurnosti uređaja. Uređaji poput iPhonea, koji danas koriste značajku otključavanja, mogu primijeniti biometriju za autorizaciju plaćanja. Facebook, na primjer, jest proučavanje tehnologije implementacije na vašim pametnim naočalama i čak na WhatsAppu.

Međutim, prepoznavanje lica nije bez rizika. U dokumentarcu Coded Bias, istraživačica MIT-a Joy Buolamwini naglašava kako vizualna biometrija nije toliko učinkovita za lica ljudi koji nisu muškarci i bijelci, stvarajući ono što stručnjaci nazivaju "rasnom predrasudom".

“Dio njezine studije pokazao je da nekoliko tih alata nije prepoznalo da su ženska lica”, objašnjava Perrone. “Crnkinje je, na primjer, puno teže prepoznati u većini ovih tehnologija, uključujući slike slavnih osoba poput Oprah ili Michele Obame.”

Priznata u području umjetne inteligencije, rasna predrasuda jedna je od najčešće poteškoće koje se ponavljaju strojnog učenja. Da bi ispravno funkcionirale, baze podataka moraju biti osposobljene da budu raznolike - a da bi to učinile, radite sa širokim rasponom profila. Facebook je objavljen serija videa za programere da testiraju sposobnost prepoznavanja i identifikacije svojih algoritama.

Nemogućnost adekvatnog prepoznavanja utjecaja na javne usluge

U Brazilu prepoznavanje lica uključuje dva izazova odjednom — implementaciju tehnologije bez rasnih predrasuda i na ispravan način. U određenim okolnostima, biometrijska netočnost može predstavljati rizik za civilno društvo.

“Nije li [biometrija lica] rezultirala oblikom isključenja? Ne utječe li na jednu skupinu stanovništva više nego na drugu? Budući da se ova tehnologija koristi u podzemnoj željeznici, postoje ljudi koji ne mogu prestati koristiti ovo prijevozno sredstvo. Dakle, može neproporcionalno utjecati na ovu populaciju.”

Zapravo, brazilska vlada već primjenjuje korištenje biometrije lica u nekim od svojih programa, kao što je Dokaz života, za dobrobit INSS-a. U ovom scenariju, tehnologija je mehanizam za sprječavanje prijevare, prepoznavanje je li osoba, dobro, živa. Rasno pristrano prepoznavanje lica može predstavljati rizike za pristup ovim javnim uslugama.

Zlouporaba ugrožava individualnu slobodu

S druge strane, nepravilno prepoznavanje lica može ugroziti individualnu slobodu. U prošlosti je upotreba biometrije lica za otkrivanje reakcije u podzemnoj željeznici u São Paulu nepropisno je prikupljao podatke od putnika. Korištenjem u reklamnoj kampanji, tehnologija je zadirala u privatnost korisnika koji bi, ako ne žele sudjelovati, morali ne koristiti javni prijevoz.

Rizici postaju još veći kada se prepoznavanje lica implementira u području javne sigurnosti. “To omogućuje državi ili bilo kome tko stoji iza korištenja tehnologije da bude svjestan koraka ljudi, kamo idu, što rade”, objašnjava Perrone.

U Sjedinjenim Američkim Državama, građanskih subjekata već su demonstrirali protiv primjene biometrije lica u javnoj sigurnosti. Stručnjak navodi da neprikladna uporaba prepoznavanja lica završava stvaranjem stanja nadzora.

“Zamislimo utjecaj na slobodu ljudi da dolaze i odlaze; u mogućnosti mirnog okupljanja; protestirati; pa čak iu intimnim stvarima, tinejdžer koji otkriva svoju seksualnost. Sve se to ne može uhvatiti samo slikama, već možete doslovno znati tko je ta osoba, što radi i s kim je.”

Opći zakon o zaštiti podataka funkcionira, ali mogao bi biti bolji

U Brazilu je dio rizika prepoznavanja lica ublažen Općim zakonom o zaštiti podataka (LGPD). Klauzula tretira biometriju lica kao osjetljivu informaciju, a njezina upotreba mora biti jasna sudionicima. Ipak, još ima prostora za napredak.

“Isto tako, još uvijek ne postoji jasna regulativa u vezi s korištenjem prepoznavanja lica u brojne svrhe, poput javne sigurnosti”, zaključuje Perrone. "Ovdje je manje pitanje kada bi se trebao koristiti, a više kada vjerujemo da ravnoteža između rizika i prilika pogoduje njegovoj upotrebi na siguran, odgovoran i zdrav način."

Slika: filadendron/iStock