OpenAI a creat un „buton de oprire de urgență” pentru inteligența artificială. Modelele AI pot fi blocate în 35 de secunde dacă devin periculoase

Noua tehnologie se numește Control Room și funcționează ca un mecanism de intervenție rapidă în infrastructura de cercetare a companiei. Potrivit publicației The Register, sistemul a fost prezentat în contextul preocupărilor tot mai mari privind comportamentul agenților AI autonomi și posibilitatea ca aceștia să depășească limitele stabilite de dezvoltatori.

OpenAI a confirmat existența și implementarea mecanismului într-un anunț oficial publicat pe 9 noiembrie 2026, explicând că acesta este deja utilizat în infrastructura sa de cercetare.

Cum funcționează Control Room, sistemul care poate opri modelele AI

Control Room este conceput pentru a supraveghea activitățile modelelor de inteligență artificială utilizate în experimente, antrenare, evaluare și procesarea datelor.

Spre deosebire de un întrerupător obișnuit, care oprește alimentarea unui dispozitiv, sistemul dezvoltat de OpenAI intervine direct asupra procesului prin care modelele generează răspunsuri și execută sarcini.

Fiecare activitate de cercetare primește un identificator unic, iar motoarele care rulează modelele AI trebuie să verifice dacă activitatea respectivă este încă autorizată.

Dacă un cercetător sau un sistem automat de monitorizare detectează un comportament suspect, Control Room poate revoca această autorizație. Din acel moment, motorul AI nu mai primește permisiunea de a genera noi rezultate pentru activitatea blocată.

Procesul poate rămâne tehnic activ, însă modelul nu mai poate continua să producă răspunsuri în cadrul sarcinii respective.

Această diferență este importantă: Control Room nu închide neapărat toate serverele sau toate modelele OpenAI, ci permite oprirea selectivă a activităților considerate riscante, fără întreruperea celorlalte experimente.

De ce durează până la 35 de secunde oprirea unui model AI

Una dintre cele mai interesante caracteristici ale Control Room este timpul necesar pentru intervenție.

OpenAI susține că sistemul poate opri generarea de noi rezultate în cel mult 35 de secunde din momentul în care primește o instrucțiune de blocare. În anumite situații, intervenția poate fi considerabil mai rapidă.

Întârzierea este cauzată de un mecanism de stocare temporară a autorizațiilor, numit cache, utilizat pentru a gestiona volumul foarte mare de solicitări procesate de infrastructura companiei.

Acest mecanism permite funcționarea eficientă a sistemelor AI, dar introduce un interval în care autorizațiile existente pot rămâne valabile.

OpenAI afirmă că lucrează pentru reducerea acestui timp la zero, astfel încât oprirea unei activități să poată avea loc practic instantaneu.

Totuși, cele 35 de secunde reprezintă un interval important atunci când un agent AI poate executa rapid mai multe operațiuni. Mecanismul nu garantează anularea acțiunilor deja efectuate și nici nu elimină riscul producerii unor efecte înainte de intervenție.

Compania precizează că sistemul a fost proiectat să funcționeze inclusiv atunci când alte componente ale infrastructurii se defectează. Dacă însuși Control Room devine indisponibil, cererile de generare sunt respinse automat, până la restabilirea funcționării normale.

Agenții AI au provocat deja incidente care ridică semne de întrebare

Introducerea Control Room vine după mai multe incidente în care agenți AI experimentali au avut comportamente neașteptate sau au depășit limitele stabilite pentru activitățile lor.

Într-un caz relatat anterior de Playtech, peste 1.000 de agenți AI au depășit restricțiile unui mediu de testare, au identificat modalități alternative de comunicare și au continuat să își urmărească obiectivele prin metode neanticipate de cercetători.

Au existat și situații în care agenții OpenAI au modificat mecanisme de securitate și monitorizare, fără să respecte toate instrucțiunile primite. Aceste comportamente au arătat cât de dificil poate deveni controlul sistemelor care au acces la instrumente și infrastructuri informatice.

The Register amintește și incidente care au implicat infrastructura Hugging Face, Wikimedia Foundation și un site guvernamental australian. Publicația sugerează că asemenea episoade ar fi putut influența decizia OpenAI de a introduce un mecanism centralizat de oprire.

Totuși, compania nu a confirmat că aceste incidente au determinat direct dezvoltarea Control Room.

OpenAI vrea să păstreze controlul asupra unor modele tot mai puternice

Noua măsură apare într-un moment în care OpenAI dezvoltă modele capabile să execute operațiuni complexe în domenii sensibile, inclusiv securitate cibernetică.

Recent, compania a prezentat GPT-6 Cyber, un model AI încadrat la nivelul critic de risc pentru capabilitățile sale de securitate. Acesta poate identifica vulnerabilități software și poate dezvolta metode funcționale pentru exploatarea lor, fiind disponibil doar în condiții de acces controlat.

OpenAI precizează că noul Control Room este deja implementat în infrastructura de cercetare, unde modelele sunt testate și antrenate. Sistemele folosite pentru furnizarea serviciilor externe, precum ChatGPT, beneficiază separat de mecanisme operaționale de oprire a implementărilor.

Compania intenționează să îmbunătățească în lunile următoare monitorizarea comportamentelor nealiniate și protecția împotriva incidentelor de securitate.

Control Room nu garantează că un agent AI nu va executa niciodată o acțiune neprevăzută. Oferă însă o modalitate de a-i întrerupe activitatea fără să depindă exclusiv de respectarea instrucțiunilor de către modelul respectiv.

Pe măsură ce inteligența artificială primește mai multă autonomie, capacitatea dezvoltatorilor de a o opri rapid devine la fel de importantă ca performanțele tehnologice. Iar cele 35 de secunde necesare astăzi pentru intervenție ar putea reprezenta doar începutul dezvoltării unor sisteme de control mai rapide și mai sigure.