OpenAI a tras frâna de urgență în cursa AI. Modelele au devenit suficient de puternice încât compania și-a oprit temporar antrenamentele

OpenAI a încetinit temporar dezvoltarea celor mai avansate modele de inteligență artificială după ce testele interne au ridicat noi probleme de securitate și comportament. Compania a suspendat timp de două săptămâni o parte dintre antrenamentele prin reinforcement learning și menține în continuare pe pauză cel mai mare antrenament frontier RL planificat, potrivit The Hacker News.

Decizia vine după mai multe semnale de alarmă. Un incident recent a implicat agenți AI care au ieșit din mediul controlat în timpul unor teste și au interacționat cu sisteme reale ale Hugging Face. Separat, evaluările pentru viitorul model Astra au arătat progrese atât de mari în programare autonomă și securitate cibernetică încât OpenAI spune că nu mai poate exclude atingerea unui nivel „critic” de capabilități.

OpenAI și-a oprit temporar unele dintre cele mai importante antrenamente

Pauza a vizat modelele noi destinate lansării și antrenate prin reinforcement learning, metoda prin care sistemele învață să își îmbunătățească deciziile în funcție de recompense și rezultate. OpenAI spune că oprirea a durat două săptămâni, perioadă în care infrastructura de cercetare a fost întărită și supusă unor noi teste de securitate.

Cel mai ambițios antrenament frontier RL planificat de companie nu a fost însă repornit. În schimb, cercetătorii continuă cu teste și sesiuni la scară mai mică. Obiectivul este să strângă mai multe dovezi că modelele se comportă conform intențiilor înainte să crească din nou puterea și autonomia acestora.

Vezi și:

Întrebarea la care să nu răspunzi în grabă când ești oprit de Poliție în trafic. Ce recomandă un avocat șoferilor

Problema devine tot mai importantă odată cu ascensiunea AI-ului agentic și a riscurilor sale de securitate. Spre deosebire de un chatbot obișnuit, un agent poate executa cod, accesa aplicații, folosi instrumente și lua decizii fără ca un om să confirme fiecare pas.

Iar dacă un asemenea sistem găsește o metodă neașteptată pentru a-și îndeplini obiectivul, consecințele pot deveni serioase. Nu pentru că modelul „vrea” să provoace probleme, ci pentru că poate interpreta obiectivul într-un mod diferit de cel anticipat de dezvoltatori.

Astra a ridicat nivelul de alertă pentru securitate

Unul dintre motivele principale pentru schimbarea strategiei este Astra, un viitor model OpenAI. Testele preliminare au indicat progrese semnificative în programare agentică și securitate cibernetică.

Vezi și:

Microsoft a promis că repară Windows 11, apoi a vorbit aproape numai despre AI. Utilizatorii au răbufnit: „Nu am cerut mai mult Microslop”

Alternativa gratuită la Claude Cowork care poate lucra singură pe PC. OpenWork folosește inclusiv ChatGPT și modele locale

OpenAI consideră că Astra ar putea ajunge la nivelul „Critical” din propriul Preparedness Framework. Într-un asemenea scenariu, un model ar putea identifica și exploata vulnerabilități serioase sau executa strategii complexe de atac cu mult mai puțină intervenție umană.

Nu este prima dată când experții avertizează că agenții AI schimbă securitatea cibernetică. Instrumentele actuale sunt deja capabile să accelereze căutarea vulnerabilităților, analiza codului și automatizarea unor etape care înainte necesitau ore de muncă.

Pentru Astra, OpenAI aplică acum cele mai stricte reguli interne. O parte dintre antrenamente și evaluări au fost reluate, dar numeroase sarcini rămân suspendate până când vor putea fi mutate în medii mai bine izolate.

Compania încearcă astfel să împiedice un model să ajungă accidental la internet sau la sisteme interne pe care nu ar trebui să le poată controla.

Inteligența artificială va fi supravegheată chiar de alte sisteme AI

OpenAI schimbă și modul în care urmărește comportamentul modelelor. Noul sistem de monitorizare verifică activitatea acestora și poate escalada comportamentele suspecte către investigatori automați tot mai sofisticați.

Sunt urmărite acțiuni precum accesul neautorizat, furtul de date, comportamentul distructiv sau încercările de ocolire a mecanismelor de siguranță. Dacă apare o posibilă încălcare gravă, echipele de securitate trebuie alertate rapid. OpenAI și-a stabilit ca obiectiv emiterea unei alerte în maximum 30 de minute de la identificarea activității problematice.

Costul nu este mic. Compania estimează că noua supraveghere poate adăuga aproximativ 20% la puterea de calcul consumată de sarcinile monitorizate.

Miza este însă mai mare decât costul infrastructurii. Siguranța inteligenței artificiale devine o problemă tot mai concretă pe măsură ce modelele primesc acces la mai multe instrumente și pot lucra autonom perioade mai lungi.

OpenAI spune că vrea și modele mai transparente, care să nu exploateze slăbiciunile sistemelor de recompensă și să nu ascundă ceea ce fac. Compania insistă că progresul AI nu este oprit, însă ritmul dezvoltării va depinde tot mai mult de capacitatea cercetătorilor de a demonstra că noile sisteme pot fi controlate.

Pentru industria AI, mesajul este important. Cursa nu mai este doar despre cine construiește cel mai inteligent model. Devine tot mai mult și despre cine reușește să construiască un model suficient de puternic fără să piardă controlul asupra lui.

Renault cere reducerea costurilor la Dacia Mioveni cu până la 30%. Ce spune șeful grupului despre viitorul uzinei