Noul GPT-5.6, acuzat că șterge fișiere și baze de date. OpenAI avertizează că AI-ul trebuie supravegheat

Mai mulți dezvoltatori susțin că GPT-5.6, cel mai nou model OpenAI, ar fi executat comenzi distructive și ar fi șters baze de date sau fișiere importante. Chiar OpenAI recunoaște în documentul oficial de siguranță pentru GPT-5.6 că modelul poate deveni prea insistent și poate depăși intenția utilizatorului în timpul sarcinilor de programare.

Incidentele au fost prezentate prin capturi de ecran publicate pe rețeaua X. Acestea nu au fost verificate independent. Totuși, avertismentul OpenAI confirmă că ștergerea unor date importante este un risc posibil atunci când un agent AI primește acces direct la calculator, terminal sau baze de date.

O bază de date de producție ar fi fost ștearsă

Bruno Lemos, dezvoltator la compania Unlayer, susține că GPT-5.6 i-a șters întreaga bază de date de producție. Incidentul ar fi avut loc după ce agentul a rulat teste de integrare distructive într-un mediu real.

În captura de ecran publicată de dezvoltator, modelul recunoaște că tabelele bazei de date au fost golite din greșeală. AI-ul afirmă că testele nu ar fi trebuit executate asupra sistemului de producție și își cere scuze.

Vezi și:

Ministrul Educației anunță schimbări în evaluarea elevilor. Notele de 9 și 10 nu vor mai fi acordate la fel ca până acum

Un mesaj de regret nu poate însă restaura automat informațiile pierdute. Situația amintește de un alt caz în care un agent AI a șters baza de date a unei companii în câteva secunde.

Comanda care poate șterge aproape tot calculatorul

Investitorul Matt Shumer a relatat un incident și mai grav. Acesta afirmă că GPT-5.6 ar fi șters aproape toate fișierele locale de pe calculatorul său. Agentul ar fi executat comanda rm -rf, folosită pe Linux și macOS pentru eliminarea permanentă a fișierelor.

Comanda nu mută datele în coșul de gunoi. Dacă este rulată cu permisiuni suficiente și asupra directorului greșit, poate elimina rapid proiecte, fotografii, documente și configurații importante.

Vezi și:

Agenții AI devin noul risc de identitate: companiile îi tratează ca pe niște conturi tehnice, dar e greșit

OpenAI lansează GPT-5.6: noua generație de inteligență artificială promite performanțe record și costuri mult mai mici

Shumer a precizat că folosea modul cu acces complet. În această configurație, agentul poate lucra direct în sistem fără să ceară confirmare pentru fiecare acțiune. Mai mulți dezvoltatori au spus că riscul a fost amplificat chiar de această alegere.

OpenAI recunoaște că modelul poate merge prea departe

OpenAI descrie GPT-5.6 drept cel mai performant model al său pentru programare. Sistemul poate scrie cod, utiliza terminalul, coordona instrumente și continua proiecte complexe cu puține indicații. Playtech a prezentat deja principalele funcții și performanțe ale GPT-5.6.

Autonomia crescută aduce însă și riscuri. Compania spune că GPT-5.6 poate interpreta instrucțiunile prea permisiv. Modelul poate presupune că o acțiune este acceptată dacă utilizatorul nu a interzis-o explicit.

OpenAI avertizează că agentul poate deveni prea preocupat de finalizarea sarcinii. În cazuri rare, acesta poate ocoli restricții, poate ascunde un rezultat nereușit sau poate executa acțiuni distructive care depășesc cererea inițială.

Accesul complet transformă o greșeală într-un dezastru

Un chatbot obișnuit poate oferi un răspuns incorect. Un agent AI poate transforma răspunsul greșit într-o acțiune reală. Poate modifica fișiere, rula comenzi, instala programe sau interveni asupra unei baze de date.

Aceasta este diferența esențială dintre un chatbot și un agent AI capabil să lucreze autonom. Cu cât sistemul primește mai multe permisiuni, cu atât consecințele unei interpretări greșite pot deveni mai grave.

Pentru proiectele importante, agenții trebuie folosiți într-un mediu separat de producție. Bazele de date trebuie protejate prin permisiuni limitate. Backupurile trebuie păstrate offline sau într-un sistem pe care agentul nu îl poate modifica.

Comenzile distructive trebuie să necesite confirmare manuală. Modificările pot fi verificate într-un mediu sandbox înainte să fie aplicate. Nici cel mai performant model nu trebuie tratat ca un administrator de sistem care nu greșește niciodată.

GPT-5.6 nu „devine malefic” și nu șterge date din proprie inițiativă conștientă. Problema apare atunci când un sistem foarte autonom înțelege greșit o sarcină și primește suficiente permisiuni pentru a transforma eroarea într-o pierdere reală.