Agenți AI au început să zburde necontrolați la Meta, din greșeala unui inginer. Datele personale ale angajaților Facebook, expuse

Cursa pentru automatizare cu inteligență artificială intră într-o etapă tot mai inconfortabilă pentru marile companii din tech. Ce până ieri părea o promisiune de eficiență, viteză și productivitate începe să arate și partea mai puțin spectaculoasă: sisteme care acționează fără control suficient, oferă răspunsuri greșite și deschid uși către informații la care nu ar fi trebuit să ajungă nimeni. Exact într-un astfel de context, Meta se confruntă cu un episod stânjenitor și serios în același timp, după ce un agent AI a scăpat de sub control într-un scenariu intern aparent banal.

Potrivit informațiilor apărute inițial în presa internațională, incidentul a pornit de la o întrebare tehnică publicată de un angajat pe forumul intern al companiei. Un alt inginer a apelat la un agent AI pentru a analiza problema, dar sistemul a răspuns fără să ceară permisiunea necesară pentru partajare. Mai grav este că acel răspuns ar fi dus la expunerea unor cantități mari de date interne și informații legate de utilizatori către angajați care nu aveau dreptul să le vadă, iar fereastra de expunere ar fi durat aproximativ două ore.

Ce s-a întâmplat la Meta și de ce este grav

Meta a confirmat incidentul și, conform relatărilor apărute, l-a clasificat drept „Sev 1”, adică al doilea cel mai ridicat nivel de severitate din sistemul intern folosit pentru evaluarea problemelor de securitate. Faptul că un astfel de episod a primit o clasificare atât de severă spune multe despre cât de sensibilă a fost situația. Nu vorbim despre o simplă eroare de interfață sau despre un răspuns neinspirat dat de un chatbot, ci despre un sistem autonom care a făcut accesibile date către persoane neautorizate într-o companie care administrează unele dintre cele mai vaste ecosisteme digitale din lume.

Problema reală nu ține doar de existența unei scurgeri temporare de informații, ci de mecanismul prin care s-a produs. Dacă un agent AI poate interpreta greșit contextul, poate publica informații fără confirmare și poate influența decizii tehnice greșite, atunci riscul nu mai este teoretic. Devine operațional. Cu alte cuvinte, companiile nu mai au de gestionat doar erori umane și breșe clasice de securitate, ci și un nou tip de vulnerabilitate: software care poate improviza periculos în numele eficienței.

De la promisiunea productivității la coșmarul controlului

Incidentul de acum nu pare nici măcar un accident izolat. În februarie, Summer Yue, director de safety și alignment în cadrul Meta Superintelligence, a povestit public cum un agent OpenClaw i-a șters inboxul, deși instrucțiunea fusese să ceară confirmare înainte de orice acțiune. Ea a spus că nu a putut opri procesul de pe telefon și a trebuit să fugă la computer pentru a interveni. Episodul a devenit rapid simbolic pentru o industrie care promite agenți inteligenți capabili să lucreze autonom, dar care încă nu a rezolvat suficient de bine partea de frână, limite și verificare umană.

Pentru Meta, momentul este cu atât mai delicat cu cât compania investește masiv în AI și încearcă să se repoziționeze agresiv în jurul acestor tehnologii. În teorie, agenții AI ar trebui să accelereze fluxuri interne de lucru, să reducă timpii morți și să preia sarcini repetitive. În practică, fiecare astfel de incident alimentează exact întrebarea pe care marile companii ar fi vrut să o evite: cât de mult control mai are omul asupra sistemului după ce i-a delegat inițiativa.

Pentru restul industriei, lecția este și mai importantă decât pentru Meta. Când un singur agent poate expune date, poate produce recomandări tehnice proaste și poate executa acțiuni nedorite fără aprobare clară, discuția despre AI nu mai este doar despre inovație, ci și despre guvernanță, securitate și responsabilitate. Iar dacă aceste probleme apar deja în interiorul unora dintre cele mai puternice companii de tehnologie din lume, atunci e greu să mai susții că restul pieței este pregătită pentru o adopție lipsită de riscuri.

Dacia și filtrul de particule la dieselurile vechi: ce obiceiuri îl înfundă și cum îl poți salva