Recunoașterea facială live urmărește copiii suspectați de infracțiuni

Într-o bază de date națională din Argentina, zeci de mii de intrări detaliază numele, zilele de naștere și ID-urile naționale ale persoanelor suspectate de infracțiuni.

Baza de date, cunoscută sub numele de Consulta Nacional de Rebeldías y Capturas sau CONARC, a început în 2009 ca parte a unui efort de îmbunătățire a aplicării legii pentru infracțiuni grave.

Însă CONARC vine cu câteva probleme serioase. În primul rând, este un fișier de calcul tabelar fără protecție prin parolă, care poate fi găsit cu ușurință printr-o căutare Google și descărcat de oricine.

Pe de altă parte, multe dintre presupusele infracțiuni pentru care sunt înregistrate anumite persoane, nu sunt atât de grave, în timp ce altele nu sunt deloc specificate.

Întrebare de cultură generală: ce este Africa, țară sau continent? Greșeala pe care o fac din ce în ce mai mulți români

Testul optic pe care elevii de clasa a II-a îl rezolvă în 10 secunde. Găsește toate diferențele dintre cele două imagini

Cu toate acestea, cea mai alarmantă este vârsta celui mai tânăr presupus infractor, identificat doar ca M.G., care este citat pentru “infracțiuni împotriva persoanelor (rău intenționate) – răni grave”. M.G. s-a născut aparent pe 17 octombrie 2016, ceea ce înseamnă că are aproximativ patru ani.

Ce este sistemul de recunoașterea facială live a infractorilor?

O investigație de la Human Rights Watch a constatat că nu numai că copiii sunt adăugați în mod regulat la CONARC, dar baza de date alimentează, de asemenea, un sistem de recunoaștere facială live în Buenos Aires, implementat de guvernul orașului.

Buenos Aires a început testarea recunoașterii faciale live pe 24 aprilie 2019. Implementat fără nicio consultare publică, sistemul a stârnit rezistență imediată.

În octombrie, o organizație națională pentru drepturile civile a intentat un proces pentru contestarea acestuia. Ca răspuns, guvernul a elaborat un nou proiect de lege – care trece acum prin procese legislative – care să legalizeze recunoașterea facială în spațiile publice.

Sistemul a fost conceput pentru a se conecta la CONARC de la început. În timp ce CONARC în sine nu conține nicio fotografie a presupușilor infractori, sistemul este combinat cu acte de identitate și fotografii din registrul național.

Software-ul folosește fotografiile suspecților pentru a căuta în timp real persoanele, prin intermediul camerelor de metrou ale orașului. Odată ce sistemul semnalizează o persoană, aceasta avertizează poliția să facă o arestare.

Riscurile sistemului de recunoaștere facială

Sistemul a condus de atunci la numeroase arestări false, pentru care poliția nu a stabilit protocolul de gestionare.

“Se pare că nu există niciun mecanism pentru a putea corecta greșelile nici în algoritm, nici în baza de date”, spune Hye Jung Han, avocat pentru drepturile copiilor la Human Rights Watch, care a condus cercetarea.

“Acesta este un semnal pentru noi că guvernul a procurat o tehnologie pe care nu o înțelege prea bine în ceea ce privește toate implicațiile tehnice și drepturile omului”.

Toate acestea sunt deja profund îngrijorătoare, dar adăugarea copiilor la ecuație face lucrurile mult mai grave. Deși guvernul a negat public că CONARC include minori, Human Rights Watch a găsit cel puțin 166 de copii enumerați în diferite versiuni ale bazei de date între mai 2017 și mai 2020.

Spre deosebire de cazul M.G., majoritatea dintre ei sunt identificați prin nume complet, ceea ce este ilegal. Conform legislației internaționale privind drepturile omului, copiii acuzați de o infracțiune trebuie să aibă protecția vieții private pe tot parcursul procedurii.

Tot spre deosebire de M.G., majoritatea aveau 16 sau 17 ani la momentul intrării – deși, în mod misterios, au existat câțiva copii cu vârsta cuprinsă între unu și trei ani.

Vârstele nu sunt singurele erori aparente în sistem. Există detalii conflictuale și uneori mai multe ID-uri naționale listate pentru aceeași persoană. Deoarece copiii se schimbă fizic mai repede decât adulții, ID-urile lor cu fotografie sunt mai expuse riscului de a fi depășite.

Toți acești factori pun copiii într-un risc crescut de a fi identificați greșit și arestați în mod fals. Acest lucru ar putea crea un cazier judiciar nejustificat, cu repercusiuni potențial de lungă durată pentru oportunitățile lor de educație și de angajare. Ar putea avea, de asemenea, un impact asupra comportamentului lor.

“Argumentul potrivit căruia recunoașterea facială produce un efect îngrozitor asupra libertății de exprimare este mai amplificat pentru copii”, spune Han.

“Vă puteți imagina că un copil, care a fost arestat în mod fals, ar fi extrem de autocenzurat sau atent cu privire la modul în care se comportă în public. Și este încă devreme să încercăm să ne dăm seama de impactul psihologic pe termen lung”.

Sistemul argentinian nu este unicat

În timp ce Buenos Aires este primul oraș pe care Han l-a identificat ca folosind recunoașterea facială live pentru a urmări copiii, ea își face griji că multe alte exemple sunt ascunse publicului.

În ianuarie, Londra a anunțat că va integra recunoașterea facială live în operațiunile sale de poliție. În câteva zile, Moscova a spus că a lansat un sistem similar în tot orașul.

Este adesea ușor să uităm în dezbaterile despre aceste sisteme că în cazul copiilor, este nevoie de o atenție specială. Dar acesta nu este singurul motiv de îngrijorare, adaugă Han.

“Faptul că acești copii ar fi sub acest tip de supraveghere invazivă – drepturile omului și implicațiile sociale ale acestei tehnologii sunt încă necunoscute”.

Însă este de așteptat ca acțiunile care afectează copiii să ajungă să fie, în cele din urmă, rele pentru întregul public.