Kaspersky avertizează: AI-ul poate modifica complet chipurile oamenilor, dar sistemele biometrice îi recunosc în continuare

Kaspersky avertizează: AI-ul poate modifica complet chipurile oamenilor, dar sistemele biometrice îi recunosc în continuare
Experiment Kaspersky / Foto: Profimedia

Un nou experiment realizat de Kaspersky arată că tehnologiile moderne de recunoaștere facială sunt capabile să identifice persoane chiar și după ce fotografiile lor sunt transformate radical cu ajutorul inteligenței artificiale. Cercetarea a fost prezentată în cadrul conferinței europene Kaspersky HORIZONS și ridică noi semne de întrebare despre viitorul securității biometrice în era AI.

În ultimii ani, instrumentele bazate pe inteligență artificială au devenit suficient de avansate încât să poată modifica realist chipurile oamenilor, simulând îmbătrânirea, întinerirea sau schimbări majore de aspect. Unele imagini generate sunt atât de convingătoare încât pot părea complet autentice pentru ochiul uman.

Tocmai acest fenomen i-a determinat pe cercetătorii companiei să testeze dacă sistemele biometrice actuale mai pot identifica persoanele atunci când fețele lor sunt alterate masiv de AI.

Fețele modificate de AI păreau alte persoane, dar algoritmii le-au identificat corect

Experimentul a fost realizat de echipa Kaspersky Global Research and Analysis Team folosind software open-source specializat în computer vision și recunoaștere facială.

Cercetătorii au luat fotografii reale și le-au trecut prin instrumente AI generative capabile să producă transformări spectaculoase ale fețelor. În unele cazuri, imaginile rezultate arătau atât de diferit încât păreau să prezinte alte persoane.

Cu toate acestea, sistemul de verificare facială a continuat să asocieze corect imaginile modificate cu identitatea originală în toate cele zece scenarii analizate.

Potrivit specialiștilor, tehnologiile moderne de recunoaștere facială nu se bazează doar pe asemănările evidente observate de oameni. Algoritmii analizează structura feței, proporțiile și alte caracteristici biometrice profunde care rămân relativ stabile chiar și după modificări generate artificial.

Rezultatul sugerează că AI-ul poate schimba foarte ușor percepția vizuală a unei persoane fără să elimine complet elementele biometrice folosite de sistemele automate pentru identificare.

Specialiștii avertizează asupra noilor fraude digitale generate de AI

Deși testul demonstrează o anumită rezistență a sistemelor biometrice la manipulările vizuale, cercetătorii spun că situația creează și noi riscuri serioase pentru securitatea digitală.

Maher Yamout, specialist în cadrul Kaspersky, afirmă că experimentul reprezintă un exemplu practic despre modul în care inteligența artificială poate complica procesele moderne de verificare a identității.

În opinia sa, apariția unor imagini sintetice extrem de realiste poate deschide drumul către tentative mai sofisticate de fraudă, spoofing biometric și crearea unor identități digitale false.

Cercetătorii subliniază că studiul nu reprezintă încă o analiză extinsă la scară globală, ci mai degrabă o demonstrație a unui posibil scenariu de atac bazat pe AI. Totuși, concluziile sunt suficiente pentru a atrage atenția industriei asupra vulnerabilităților care pot apărea pe măsură ce tehnologiile generative evoluează.

În prezent, recunoașterea facială este deja folosită în numeroase domenii, inclusiv în securitate, sisteme bancare, aeroporturi, aplicații mobile și verificări de identitate online. Pe măsură ce imaginile generate artificial devin tot mai greu de diferențiat de cele reale, experții cred că dezvoltatorii de sisteme biometrice vor fi obligați să își adapteze rapid tehnologiile pentru a face față noilor tipuri de amenințări.