Facebook știe de unde vine următorul deepfake: rolul inteligenței artificiale, mai terifiant ca niciodată

Buna funcționare a Facebook începe să depindă din ce în ce mai mult de inteligența artificială. Gigantul lui Mark Zuckerberg face eforturi supraomenești pentru a reduce rolul angajaților în companie.

Cel mai recent efort susținut de AI are legătură cu deepfake, acele clipuri terifiante în care o persoană importantă pe care o cunoști spune niște lucruri trăznite pentru că, de fapt, nu le spune el sau ea, ci o cu totul altă persoană. În mod uzual, clipurile cu pricina reprezintă o sursă incomensurabilă de divertisment. Pe de altă parte, dacă încep să joace un rol în politica externă, s-ar putea să aibă consecințe dezastruoase într-un timp incredibil de scurt.

Pentru că își dau seama de potențialele consecințe ale acestor clipuri și de faptul că se răspândesc mai mult ca niciodată prin intermediul Facebook, oficialii din spatele celei mai mari rețele sociale au început o colaborare cu Michigan State University. Scopul declarat a fost dezvoltarea unei metode noi pentru a depistate clipurile de tip deepfake și, mai mult decât atât, pentru a înțelege de unde vin, în funcție de cum au fost create, ce model generativ au avut în spate. În acest scop, se apelează la inginerie inversă.

În mod previzibil, noul sistem nu este perfect și mai are multe ”de învățat”. Ca referință, dacă algoritmul prin care a fost generat deepfake-ul nu s-a aflat între modelele folosite pentru educarea sistemului FB-MSU, acesta din urmă va eșua să-l identifice și, implicit, s-ar putea să nu-și dea seama că este un clip ”inventat”.

”Începem cu atribuirea imaginii și lucrăm să descoperim proprietățile modelului folosit pentru generarea respectivei imagini. Prin generalizarea atribuirii imaginii într-un set deschis de recunoaștere, putem dobândi mai multe informații despre modelul generativ utilizat pentru a crea un deepfake ce merge dincolo de a fi recunoscut, deși nu a mai fost văzut niciodată.”, au atras atenția inginerii Facebook într-o postare pe blogul companiei.