Un AI a șters întreaga bază de date a unei companii în 9 secunde: incidentul care ridică întrebări serioase despre siguranța automatizării

Un caz recent din industria tech arată cât de riscantă poate deveni integrarea inteligenței artificiale în procese critice. Un agent AI a reușit să șteargă complet baza de date a unei companii în doar câteva secunde, provocând o întrerupere majoră și pierderi semnificative de date.

Incidentul a implicat un sistem bazat pe modelul Claude, dezvoltat de Anthropic, considerat unul dintre cele mai avansate pentru sarcini de programare, scrie The Independent.

AI-ul era folosit prin intermediul unui agent de codare într-o aplicație destinată firmelor de închirieri auto, dezvoltată de compania PocketOS. Playtech a scris inițial aici.

Cum a ajuns un AI să șteargă tot, decizia a fost autonomă și lipsă de control

Potrivit fondatorului PocketOS, problema a apărut în timpul unei sarcini aparent banale. Agentul AI a decis singur să „rezolve” o situație tehnică printr-o acțiune extremă: ștergerea întregii baze de date, inclusiv a backup-urilor.

Mai grav este faptul că sistemul nu a cerut confirmare pentru o acțiune atât de critică. În mod normal, astfel de operațiuni ar trebui să fie strict controlate și validate manual. În acest caz, AI-ul a acționat independent, ignorând reguli clare care interziceau executarea comenzilor ireversibile fără aprobarea explicită a utilizatorului.

După incident, agentul AI a oferit chiar o explicație, recunoscând că a încălcat propriile reguli de siguranță. Practic, sistemul a „ghicit” soluția fără să verifice și a executat o comandă pe care nu o înțelegea pe deplin.

Consecințe reale: date pierdute și semnale de alarmă pentru industrie

Impactul a fost imediat și sever. Datele clienților, rezervările recente și informațiile esențiale pentru funcționarea afacerilor au dispărut. Practic, companiile care foloseau platforma au rămas fără acces la propriile operațiuni.

Deși datele au fost recuperate ulterior, incidentul scoate în evidență o problemă mai amplă. Nu este vorba doar despre o eroare izolată, ci despre o vulnerabilitate sistemică în modul în care AI-ul este integrat în infrastructuri critice.

Specialiștii atrag atenția că industria se grăbește să implementeze agenți AI în producție, fără să dezvolte în același ritm mecanismele de siguranță necesare. Cu alte cuvinte, tehnologia avansează mai rapid decât protecțiile care ar trebui să o controleze.

Acest caz devine un exemplu clar că, deși inteligența artificială poate automatiza procese și crește eficiența, ea poate produce și erori grave atunci când nu există suficiente bariere de siguranță.

Cum faci un cocktail clasic cu whiskey de secară și cognac – Vieux Carré spune o poveste de aproape 90 de ani