Creierul nostru detectează deepfake-urile: ce spun cercetătorii

Creierul nostru detectează deepfake-urile: ce spun cercetătorii

Pe măsură ce deepfake-urile – potriviri ale fețelor și vocilor umane bazate pe inteligență artificială – devin din ce în ce mai răspândite, capacitatea de a le detecta devine mai imperativă.

Dar un nou studiu provocator susține că creierul nostru poate detecta subconștient deepfakes, chiar dacă mințile noastre conștiente sunt înșelate.

Conduse de o echipă de cercetători de la Universitatea din Sydney, descoperirile indică faptul că, în cadrul studiului, creierul subiecților care au fost monitorizați prin electroencefalografie (EEG), au fost capabili să detecteze cu succes deepfake-urile în 54 la sută din timp. Dar când unui grup anterior i s-a cerut să identifice verbal aceleași deepfake-uri, rata lor de succes a fost de doar 37 la sută.

Deși sunt necesare mai multe cercetări, descoperirile prevestesc posibilitatea intrigantă a tehnologiei care valorifică imensa putere de procesare a propriului nostru creier – prin identificarea cunoștințelor de care nici măcar nu suntem conștienți.

Deepfake-urile, detectate de subconștient

Așadar, cercetătorii au efectuat două experimente. În primul, subiecților li s-a arătat o serie de 50 de imagini care înfățișau atât chipuri umane reale, cât și deepfake, pe care le identificau verbal. Apoi, cercetătorii au adus un nou lot de subiecți care s-au uitat la același amestec de 50 de imagini, dar de data aceasta creierul lor a fost monitorizat utilizând neuroimagini EEG.

„Deși rata de precizie a creierului din acest studiu este scăzută – 54 la sută – este fiabilă din punct de vedere statistic”, a declarat cercetătorul principal și profesor asociat Thomas Carlson, într-un comunicat de presă.

Uzurparea identității persoanelor care folosesc tehnologia nu este nouă, dar relativa ușurință cu care se poate face acum este inedită.

Dar cu deepfakes, ei bine, aproape oricine poate face unul. Oamenii de știință nu cred că acest lucru va duce la o metodă definitivă de identificare a deepfake-urilor, dar este un început.

„Trebuie făcute mai multe cercetări”, a adăugat Carlson. „Ceea ce ne dă speranță este că deepfake-urile sunt create de programe pe calculator, iar aceste programe lasă „amprente” care pot fi detectate”.

Între timp, și până când sunt dezvoltate tehnici mai bune de detectare a deepfake-ului, rămâneți vigilenți. Există o serie întreagă de deepfake-uri care abundă online, reprezentând totul, de la dezinformare rău intenționată până la imitații ciudate ale celebrităților.