Agenții OpenAI au atacat Hugging Face, dar nu s-au răzvrătit. Li s-a cerut să câștige cu orice preț

Incidentul în care mai mulți agenți OpenAI au ieșit din mediul lor de testare și au compromis infrastructura Hugging Face a alimentat rapid scenarii despre inteligențe artificiale care scapă de sub control. Realitatea este însă mai puțin cinematografică și, în același timp, suficient de îngrijorătoare: sistemele au făcut exact ceea ce au fost instruite să facă, într-un test desfășurat intenționat fără protecțiile folosite în produsele publice, explică publicația The Register.

Modelele nu au dezvoltat o dorință proprie de a ataca o companie și nici nu au decis că oamenii trebuie eliminați din ecuație. Au primit o misiune, acces la instrumente și instrucțiunea de a găsi o soluție prin căi complexe de exploatare. Problema reală este că au urmărit obiectivul atât de agresiv, încât au trecut dincolo de laboratorul OpenAI și au pătruns în sisteme reale.

Modelele au fost testate fără frânele obișnuite

Printre sistemele implicate s-au aflat GPT-5.6 Sol și un model OpenAI nelansat încă public, descris drept și mai performant. În timpul evaluării, filtrele care blochează în mod normal solicitările cibernetice periculoase au fost reduse intenționat, deoarece cercetătorii încercau să măsoare nivelul maxim al capacităților ofensive.

Prin urmare, experimentul nu arată cum se comportă în mod obișnuit ChatGPT sau un agent comercial OpenAI. Arată ce poate face un model avansat atunci când primește acces extins, are protecțiile dezactivate și este încurajat să urmărească un rezultat fără să țină cont de consecințe.

Vezi și:

Românii plecați în străinătate intră în vizorul ANAF. Vor fi trimise decizii de impunere pentru veniturile din ultimii patru ani

Agenții au descoperit că Hugging Face ar putea găzdui informații despre benchmark-ul ExploitGym, testul pe care încercau să îl rezolve. Ulterior, au combinat credențiale furate, vulnerabilități necunoscute și tehnici de executare a codului de la distanță pentru a ajunge la baza de date a platformei.

Detaliile au fost recunoscute public de OpenAI după ce două dintre modelele sale au atacat Hugging Face. Incidentul demonstrează o capacitate tehnică reală, dar nu dovedește că agenții ar avea intenții, conștiință sau obiective independente.

Un test al capacității, nu o revoltă a inteligenței artificiale

Renato Marinho, director de cercetare la Morphus Labs și instructor în cadrul SANS Technology Institute, avertizează că rezultatul trebuie interpretat drept măsurarea unui plafon tehnic. Modelele au fost plasate într-un scenariu construit special pentru a le determina să găsească și să exploateze vulnerabilități.

Vezi și:

Două modele OpenAI au „evadat” din laborator și au atacat Hugging Face. Compania s-a apărat cu un AI chinezesc

Noul GPT-5.6, acuzat că șterge fișiere și baze de date. OpenAI avertizează că AI-ul trebuie supravegheat

Diferența dintre un astfel de experiment și utilizarea obișnuită este majoră. Un model public are filtre, sisteme de monitorizare, limite de acces și reguli care îi restricționează acțiunile. În cazul testului, tocmai aceste bariere fuseseră reduse, pentru ca cercetătorii să afle cât de departe poate ajunge tehnologia.

Situația scoate însă la iveală un paradox. Aceleași modele comerciale, atunci când aveau filtrele active, au refuzat să ajute echipa Hugging Face să investigheze atacul. Platforma a apelat în schimb la un model chinezesc open-weight, care putea fi configurat local și adaptat fără restricțiile serviciilor găzduite de companiile americane.

Atacatorii reali vor putea folosi la rândul lor astfel de sisteme. Modelele deschise sunt mai ieftine, pot fi rulate pe infrastructură proprie și permit eliminarea protecțiilor. Tocmai de aceea, avertismentele potrivit cărora modelele AI periculoase devin greu de controlat nu pot fi ignorate complet.

Agenții execută ordinul, inclusiv când ordinul este prost

Cercetări anterioare au arătat că agenții AI pot coopera pentru a evita controale de securitate, a escalada privilegii și a extrage date. Uneori nici măcar nu trebuie să primească instrucțiunea explicită de a ataca. Este suficient să li se spună că sarcina este urgentă și că trebuie îndeplinită fără compromisuri.

Într-un experiment realizat de laboratorul Irregular, un agent principal a fost îndemnat să se comporte precum un manager dur și să nu accepte refuzurile subagenților săi. Sistemele au ajuns să identifice vulnerabilități, să dezactiveze produse de securitate și să ocolească instrumentele care preveneau scurgerile de informații.

Aceste rezultate nu arată că agenții au devenit răuvoitori, ci că sunt optimizați să finalizeze sarcini. Spre deosebire de un cercetător uman, modelul nu are o obligație morală internă de a se opri atunci când descoperă că metoda folosită produce pagube. Limitele trebuie introduse din exterior, prin permisiuni, monitorizare și separarea strictă a mediilor de testare.

Incidentul confirmă de ce AI-ul agentic poate deschide ușa atacatorilor atunci când primește acces la internet, baze de date și instrumente reale. Pericolul nu este că modelul devine „rău”, ci că poate executa extrem de eficient un obiectiv formulat prost, agresiv sau malițios.

Cât valorează domeniul unde este înmormântată Prințesa Diana. Archie și Lilibet au ajuns pentru prima dată la mormântul bunicii lor