Crezi că poți recunoaște un chip creat de AI? Cele șase semne care trădează un deepfake

Imaginile generate cu inteligență artificială au devenit atât de realiste, încât greșelile evidente din trecut – degete în plus, ochi de dimensiuni diferite sau accesorii deformate – nu mai sunt suficiente pentru a descoperi un fals. Un test prezentat de BBC le propune utilizatorilor să analizeze mai multe portrete și să decidă care dintre ele prezintă oameni reali și care au fost create integral de un computer.

Exercițiul face parte dintr-o cercetare internațională care încearcă să afle dacă oamenii pot fi antrenați să identifice mai ușor un deepfake. Rezultatele sunt încurajatoare: după ce au primit câteva explicații și au analizat numeroase exemple, participanții și-au îmbunătățit considerabil performanțele, ajungând de la o rată medie de succes de aproximativ 40% la aproape 80%.

De ce sunt imaginile generate de AI atât de greu de recunoscut

Cercetarea este coordonată de profesoara Amy Dawel, directoarea Emotions and Faces Lab din cadrul Australian National University, împreună cu specialiști din Australia, Canada și Marea Britanie. În Regatul Unit, studiul este condus de psihologul Clare Sutherland, de la Universitatea din Aberdeen.

Pentru experimente, cercetătorii au creat o bază de date cu mii de fețe artificiale folosind StyleGAN3, un instrument performant de generare a portretelor. Participanții au fost testați înainte și după o sesiune de pregătire, în care au văzut atât fotografii autentice, cât și chipuri fabricate de inteligența artificială.

Vezi și:

Ce s-a întâmplat la bordul avionului Ryanair după ce un geam s-a spart în timpul zborului. Soția pasagerului rănit: „L-am apucat de picioare, am crezut că vom muri amândoi”

În trecut, imaginile false puteau fi observate relativ ușor. Unele prezentau mâini cu șase degete, cercei care nu se potriveau, ochelari deformați sau fundaluri imposibile. Modelele moderne au învățat însă să corecteze o mare parte dintre aceste probleme, iar creatorii de fraude evită, de regulă, să folosească imagini care conțin anomalii evidente.

Din acest motiv, cercetătorii nu le-au cerut participanților să caute o greșeală precisă, ci să observe impresia generală transmisă de fiecare chip. Cu suficientă practică, oamenii pot ajunge să dezvolte un fel de intuiție pentru identificarea portretelor sintetice, chiar dacă nu pot explica întotdeauna exact ce element le-a atras atenția.

Cele șase semne care pot trăda un chip fals

Participanții au fost învățați să urmărească șase caracteristici: simetria, proporționalitatea, atractivitatea, caracterul distinctiv, expresivitatea și memorabilitatea. Niciuna dintre acestea nu demonstrează singură că o fotografie este falsă, dar combinația lor poate ridica semne de întrebare.

Vezi și:

Precomenzile pentru GTA 6 au declanșat un val de fraude online. Avertismentul Kaspersky pentru toți jucătorii care vor jocul înainte de lansare

Amazon plătește o amendă de 2,25 milioane de dolari după acuzațiile potrivit cărora nu și-a ajutat clienții victime ale furtului de identitate

Primul indiciu este simetria. Fețele oamenilor reali nu sunt perfect egale pe ambele părți. Un ochi poate fi ușor mai coborât, un colț al gurii poate avea o formă diferită, iar sprâncenele nu sunt întotdeauna poziționate identic. Inteligența artificială tinde să creeze fețe mai echilibrate și mai apropiate de un ideal estetic.

Proporționalitatea funcționează într-un mod asemănător. Chipurile create de AI au frecvent nasuri, urechi, buze și ochi de dimensiuni considerate obișnuite. Trăsăturile exagerate sau neobișnuite apar mai rar, deoarece modelele tind să genereze persoane apropiate de media imaginilor pe care au fost antrenate.

Cercetătorii au observat și că fețele artificiale par, în general, mai atrăgătoare. Ele sunt adesea plăcute vizual, dar în același timp mai puțin distinctive. O persoană reală poate avea o cicatrice, o asimetrie sau o trăsătură neobișnuită care o face ușor de recunoscut. Chipurile artificiale par mai generice și se pierd mai ușor într-o mulțime.

Alte indicii sunt expresivitatea și memorabilitatea. Fețele generate cu AI tind să transmită mai puține emoții și pot fi mai greu de reținut. Chiar dacă persoana zâmbește, expresia poate părea vagă sau lipsită de naturalețe. După câteva minute, privitorului îi poate fi dificil să-și amintească un element concret al chipului.

Cercetătorii avertizează că AI-ul poate avea dificultăți mai mari în reproducerea realistă a persoanelor în vârstă, a copiilor sau a persoanelor care nu sunt albe. Una dintre explicații este lipsa unui volum suficient de divers în datele folosite pentru antrenarea anumitor modele.

Antrenamentul poate dubla rata de succes

Înainte de pregătire, participanții identificau corect imaginile în aproximativ 40% dintre cazuri. După ce au analizat exemple și li s-a spus care portrete erau reale și care erau artificiale, rata de succes a crescut la aproximativ 80%. Câteva persoane s-au apropiat chiar de un scor perfect.

Procesul seamănă, în mod ironic, cu felul în care sunt antrenate modelele generative. Oamenii primesc numeroase exemple, află unde au greșit și își ajustează treptat modul în care privesc imaginile. Practica nu oferă o metodă infailibilă, dar poate îmbunătăți semnificativ capacitatea de a recunoaște falsurile.

Studiul a analizat și nivelul de încredere al participanților. Cercetările anterioare arătau că persoanele cele mai convinse că pot identifica un deepfake erau, uneori, cele care făceau cele mai multe greșeli. După antrenament, participanții au devenit nu doar mai exacți, ci și mai capabili să estimeze când răspunsul lor era probabil corect.

Capacitatea de a identifica astfel de imagini devine tot mai importantă, deoarece tehnologia este folosită în fraude online, furturi de identitate, campanii politice și escrocherii financiare. Deloitte a estimat că pierderile provocate de fraudele deepfake în Statele Unite ar putea ajunge la echivalentul a aproximativ 40 de miliarde de lire sterline, comparativ cu circa 12 miliarde în 2023.

Unul dintre cele mai cunoscute cazuri a avut loc în Hong Kong, unde un angajat a transferat aproximativ 25 de milioane de lire sterline unor infractori. Acesta participase la un apel video în care credea că discută cu directorul financiar și cu alți colegi, însă toate persoanele din conferință erau recreări realizate cu ajutorul tehnologiei deepfake.

Chiar dacă antrenamentul vizual te poate ajuta, nu ar trebui să te bazezi exclusiv pe aspectul unei imagini sau pe ceea ce vezi într-un apel video. Atunci când cineva îți cere urgent bani, parole sau date bancare, verifică solicitarea printr-un alt canal și contactează direct persoana sau instituția implicată.

Singurătatea devine ținta inteligenței artificiale. China prezintă un robot companion pentru acasă