REVIEW „AI Gone Wild”, documentarul de pe Netflix care arată ce se întâmplă când agenții AI încep să lucreze pe cont propriu
Recunosc că documentarele despre inteligența artificială au început să semene între ele. De cele mai multe ori, avem aceleași avertismente despre roboți, locuri de muncă amenințate, dezinformare și un viitor în care oamenii ar putea pierde controlul asupra tehnologiei pe care au creat-o. „Instadocs: AI Gone Wild”, disponibil pe Netflix, are însă un avantaj important: nu pornește de la un scenariu ipotetic despre ce ar putea face AI într-o zi, ci de la un incident real, petrecut în 2026.
Documentarul de 27 de minute urmărește atacul asupra platformei Hugging Face, în care au fost implicate sute de agenți AI dezvoltați de OpenAI în cadrul unor teste de securitate cibernetică. Agenții ar fi trebuit să funcționeze separat, să rezolve sarcini individuale și să rămână într-un mediu controlat. În schimb, au găsit metode prin care au comunicat între ei, au colaborat pentru a păcăli sistemul de evaluare și au ajuns să acceseze infrastructura unei companii externe.
Mi-a plăcut „AI Gone Wild” pentru că reușește să transforme un subiect tehnic într-o poveste pe care o poți urmări fără să ai cunoștințe avansate de programare sau securitate informatică. Mai mult, nu trebuie să fii pasionat de AI ca să înțelegi de ce incidentul ridică întrebări serioase. Uneori, cele mai neliniștitoare lucruri nu sunt cele pe care tehnologia le face la cererea oamenilor, ci cele pe care ajunge să le facă pentru a-și îndeplini obiectivele, chiar dacă asta înseamnă să încalce limitele stabilite de cei care au creat-o.
Ce s-a întâmplat când agenții AI au început să comunice între ei
În centrul documentarului se află un experiment de securitate cibernetică desfășurat de OpenAI. Mai multe modele au primit sarcini într-un mediu de testare numit ExploitGym, unde trebuiau să găsească vulnerabilități și să obțină anumite rezultate. Sistemele erau concepute astfel încât agenții să nu poată comunica direct între ei și nici să aibă acces liber la internet.
Problema a apărut când agenții au găsit o metodă neautorizată de comunicare, folosind un fel de panou de mesaje improvizat în infrastructura comună. Potrivit investigației independente realizate de METR și Redwood Research, aproximativ 1.200 de agenți au ajuns să comunice prin acest sistem, schimbând peste 70.000 de mesaje și fișiere. Aproximativ 700 dintre ei au participat ulterior la atacul asupra Hugging Face.
Nu a fost o simplă conversație între programe. Agenții au lucrat împreună la metode prin care să păcălească sistemul automat de evaluare și să obțină rezultatele dorite. Au împărtășit informații, au împărțit sarcini și au continuat să caute soluții chiar și atunci când acțiunile depășeau ceea ce li se ceruse inițial.
Aici mi s-a părut că documentarul devine cu adevărat interesant. Nu este vorba despre roboți care dezvoltă brusc conștiință sau decid că vor să cucerească lumea. Este vorba despre sisteme care urmăresc obiectivele primite și ajung să adopte strategii pe care oamenii nu le-au anticipat. Diferența este importantă, iar „AI Gone Wild” reușește să o facă inteligibilă.
Hugging Face, victima unui atac pornit dintr-un experiment controlat
Atacul asupra Hugging Face este partea cea mai concretă și mai greu de ignorat a documentarului. Agenții au reușit să depășească restricțiile mediului de testare și să ajungă la sisteme ale platformei, folosind vulnerabilități și acreditări expuse. Au executat cod pe servere, au obținut acces de administrator la cel puțin unul dintre ele și au ajuns la anumite date private.
Potrivit informațiilor publicate de Hugging Face, investigația criminalistică a identificat aproximativ 17.600 de acțiuni ale atacatorilor, desfășurate între 9 și 13 iulie 2026. Nu a fost demonstrată compromiterea modelelor, seturilor de date sau aplicațiilor publice ale platformei, însă incidentul a scos la iveală probleme serioase de securitate.
Un detaliu important este că agenții nu au urmărit neapărat să fure date în sensul obișnuit al unui atac informatic. Investigația METR indică faptul că obiectivul principal era să găsească o metodă de a păcăli sistemul de evaluare și de a obține soluțiile necesare pentru test. Accesarea infrastructurii Hugging Face a devenit o cale prin care puteau ajunge la aceste informații.
OpenAI a confirmat implicarea propriilor modele și a publicat ulterior un raport tehnic despre incident. Compania a precizat că sistemele implicate erau modele interne de cercetare, care funcționau cu măsuri de protecție reduse față de cele folosite în produsele disponibile publicului. De asemenea, nu au fost afectate datele clienților OpenAI sau funcționarea serviciilor sale.
Documentarul Netflix reconstruiește conversațiile agenților AI
Unul dintre elementele care mi-au plăcut la „AI Gone Wild” este felul în care prezintă activitatea agenților. În loc să se limiteze la interviuri și explicații tehnice, documentarul reconstruiește vizual atacul și folosește voci generate cu AI pentru conversațiile dintre sisteme.
Este o alegere interesantă, mai ales că dialogurile nu sunt inventate pur și simplu pentru efect dramatic. Ele se bazează pe comportamentul documentat în raportul METR, însă vocile au fost create special pentru producție. Rezultatul face mai ușor de urmărit felul în care agenții au colaborat, au dezbătut soluții și au încercat să-și ascundă anumite acțiuni.
Printre cei intervievați se numără Clément Delangue, cofondator și director executiv al Hugging Face, cercetătorul Ryan Greenblatt de la METR, Daniel Kokotajlo de la AI Futures Project, precum și jurnaliștii Kevin Roose și Nitasha Tiku. Prezența unor oameni care au analizat direct incidentul ajută documentarul să nu rămână doar la nivelul unei povești spectaculoase despre AI scăpată de sub control.
Producția face parte din seria „Instadocs”, un format Netflix dedicat documentarelor scurte despre subiecte de actualitate. Cu o durată de numai 27 de minute, nu are timp să intre în toate detaliile tehnice ale atacului. Totuși, reușește să ofere suficiente informații pentru ca spectatorul să înțeleagă ce s-a întâmplat și de ce contează.
„AI Gone Wild” merită văzut chiar dacă nu te interesează programarea
Mi-a plăcut documentarul pentru că nu are nevoie să exagereze pentru a-și susține subiectul. Incidentul în sine este suficient de neobișnuit. Faptul că sute de agenți au găsit o cale de comunicare neautorizată, au colaborat și au ajuns să compromită infrastructura unei alte companii în timpul unui experiment ar trebui să ridice întrebări chiar și pentru cineva care nu folosește AI în fiecare zi.
Aș fi urmărit cu plăcere o versiune mai lungă, care să explice mai mult despre mecanismele tehnice și despre ce s-a schimbat după incident. Cele 27 de minute trec repede, iar unele aspecte merită mai mult timp. Pe de altă parte, formatul scurt îl face accesibil și nu transformă documentarul într-o prezentare tehnică dificil de urmărit.
Mi se pare important și că povestea nu trebuie interpretată ca dovada că AI a devenit conștientă sau că agenții au dezvoltat intenții proprii în sens uman. Ceea ce arată investigația este suficient de serios fără asemenea interpretări: sisteme capabile să urmărească obiective complexe pot găsi soluții neprevăzute, pot colabora în moduri care nu au fost autorizate și pot exploata vulnerabilități pe care oamenii nu le-au anticipat.