Hainele care te fac invizibil în fața camerelor cu recunoaștere facială. Cercetătorul care vrea să păcălească inteligența artificială

Într-o lume în care camerele de supraveghere devin tot mai inteligente, iar sistemele de recunoaștere facială sunt folosite în spații publice, un cercetător propune o soluție neașteptată: haine create special pentru a deruta algoritmii. Nu este vorba despre materiale futuriste care fac oamenii invizibili, ci despre tricouri, hanorace și accesorii cu modele grafice capabile să încurce rețelele neuronale care încearcă să identifice persoane.

Ideea vine de la Bill Swearingen, cunoscut online sub numele de @hevnsnt, care consideră că tehnologiile actuale de supraveghere au ajuns să fie folosite fără acordul oamenilor. Cercetătorul susține că utilizatorii nu au ales să participe la aceste sisteme, dar sunt analizați automat de camere și baze de date biometrice, scrie Dark Reading.

Cum încearcă hainele să păcălească inteligența artificială

Pentru a înțelege metoda, Swearingen pornește de la modul în care funcționează un sistem de recunoaștere facială. Procesul pare complex, dar are câțiva pași principali: camera captează imaginea, algoritmul detectează corpul și fața, extrage caracteristicile vizuale și apoi compară datele cu informațiile existente într-o bază de date.

Dacă una dintre aceste etape este afectată, întregul sistem poate deveni mai puțin precis. Cercetătorul spune că nu este realist să blochezi camerele sau să intervii direct în infrastructura lor, așa că a ales să atace o etapă mai vulnerabilă: detectarea corpului.

Problema este că multe dintre aceste procese sunt realizate direct pe camere, nu pe servere puternice. Pentru a funcționa rapid în timp real, algoritmii trebuie să facă compromisuri, iar această limitare poate fi exploatată.

Experimentul său a presupus testarea mai multor modele de inteligență artificială extrase din echipamente reale. Acolo unde nu a avut acces direct la tehnologie, a analizat informațiile disponibile și a recreat condițiile de funcționare în medii virtualizate.

Primele încercări au inclus tricouri cu multe fețe imprimate, ideea fiind ca algoritmul să fie derutat de prea multe elemente asemănătoare cu un chip uman. Metoda funcționa într-o anumită măsură, dar avea o problemă evidentă: puțini oameni ar vrea să poarte haine acoperite cu zeci de chipuri.

Vezi și:

Google Home primește funcții AI noi. Camerele inteligente pot acum să recunoască mașini, persoane și livrări

Camerele inteligente și soneriile video devin gadgeturile esențiale pentru siguranța casei. Cum dă eufy PoE NVR Security System S4 Max o mână de ajutor

Soluția mai discretă a venit sub forma unor modele geometrice complexe, asemănătoare cu arta abstractă sau zgomotul digital. Aceste imprimeuri nu par neapărat ciudate pentru ochiul uman, dar pot crea confuzie pentru algoritmi.

Swearingen explică faptul că rețelele neuronale învață să recunoască anumite tipare: margini, texturi și forme asociate cu ochii, nasul sau structura unui corp. Modificări vizuale foarte mici, invizibile pentru oameni, pot fi suficiente pentru ca un sistem automat să devină nesigur în privința imaginii analizate.

Poate exista cu adevărat o protecție împotriva supravegherii AI?

Conceptul nu este complet nou. În zona de securitate există deja ideea de „CV dazzle”, unde machiajul sau accesoriile sunt folosite pentru a ascunde anumite caracteristici ale feței în fața algoritmilor. Proiectul lui Swearingen încearcă să ducă aceeași idee către haine, folosind corpul ca punct de atac.

Cercetătorul continuă să testeze modele noi, generând diferite imprimeuri și măsurând cât de mult scade încrederea algoritmilor în identificarea unei persoane. Modelele care funcționează sunt păstrate și îmbunătățite, iar cele ineficiente sunt eliminate.

Totuși, metoda are limite. Nu toate sistemele de recunoaștere facială funcționează la fel, iar un model care păcălește o cameră poate să nu aibă același efect asupra alteia. În plus, un design testat digital poate avea rezultate diferite în lumea reală, unde lumina, materialul și poziția corpului schimbă imaginea.

Există și o problemă inevitabilă: tehnologia evoluează. Chiar dacă o serie de haine ar putea păcăli sistemele actuale, o actualizare software ar putea reduce eficiența lor.

Swearingen crede însă că lupta nu este doar despre haine, ci despre oferirea unui anumit control oamenilor într-o perioadă în care inteligența artificială analizează tot mai multe aspecte ale vieții de zi cu zi.

În viitor, el ia în calcul dezvoltarea unor modele care să afecteze direct partea de identificare facială, folosind elemente precum glugi sau gulere înalte pentru a altera modul în care algoritmii interpretează chipul unei persoane.

Când poate banca să îți ceară explicații pentru banii din cont. Tranzacțiile verificate mai atent, tabel explicativ