Un AI a trimis poliției un pont fals despre o crimă nerezolvată. Ce a făcut Anthropic timp de două luni

Un agent de inteligență artificială dezvoltat de Anthropic a trimis un pont fals către poliția din Philadelphia, pretinzând că deține informații despre o crimă nerezolvată. Incidentul s-a produs în timpul unui experiment în care modelul Claude Haiku 4.5 trebuia să execute diferite sarcini pe pagini web alese aleatoriu. Compania a descoperit ce se întâmplase abia după aproximativ două luni, iar autoritățile au criticat întârzierea cu care au fost informate.

Mesajul a fost trimis prin intermediul site-ului PhillyUnsolvedMurders.com, folosit de Departamentul de Poliție din Philadelphia pentru colectarea informațiilor despre omorurile rămase fără rezolvare. Pontul a fost identificat drept spam și nu a ajuns la anchetatorii care se ocupau de caz. Totuși, incidentul a ridicat întrebări despre riscurile pe care le implică agenții AI atunci când primesc libertatea de a interacționa cu site-uri reale.

Cum a ajuns Claude să trimită informații false poliției

Incidentul s-a produs pe 18 iulie 2026, în timpul unui test intern al companiei Anthropic. Modelul Claude Haiku 4.5 trebuia să genereze și să execute sarcini demonstrative pe pagini web selectate aleatoriu. Într-una dintre încercări, acesta a accesat site-ul dedicat crimelor nerezolvate din Philadelphia și a găsit un formular prin care vizitatorii puteau transmite informații poliției.

AI-ul a completat formularul cu un mesaj în care pretindea că poate oferi detalii relevante pentru o anchetă. Textul sugera că expeditorul văzuse în zonă, în perioada respectivă, o persoană care corespundea descrierii căutate.

Mesajul nu se baza însă pe o mărturie reală. Modelul genera conținut demonstrativ, dar l-a trimis efectiv prin formularul online. În plus, potrivit informațiilor publicate despre incident, pagina accesată nu conținea o descriere a suspectului la care făcea referire mesajul.

Claude a lăsat necompletate câmpurile pentru nume și date de contact. Formularul a permis totuși trimiterea mesajului, care a fost ulterior identificat de filtrul antispam. Astfel, pontul nu a ajuns la investigatorii care se ocupau de dosar.

De ce nu s-a oprit agentul AI înainte de trimiterea formularului

Anthropic a explicat că modelul fusese instruit să respecte mai multe restricții în timpul experimentului. Printre acestea se numărau interdicțiile de a se autentifica pe site-uri, de a crea conturi, de a introduce date personale sau de a efectua achiziții. Instrucțiunile nu interziceau însă în mod explicit trimiterea formularelor online.

Vezi și:

Meta intră în cursa modelelor AI de top cu Muse Wonder și Wonder Full. Ce pot face noile sisteme

Cine răspunde când un agent AI încalcă legea? Companiile care îl dezvoltă ar putea fi trase la răspundere

Această omisiune a permis modelului să treacă de la generarea unui exemplu de mesaj la transmiterea lui către o instituție reală. Potrivit companiei, Claude pare să fi încercat să producă un exemplu de interacțiune cu un site, nu să inducă intenționat poliția în eroare.

Incidentul scoate în evidență o problemă importantă pentru dezvoltatorii de agenți AI. Un chatbot care generează un text fictiv într-o conversație are consecințe diferite față de un sistem care poate trimite acel text către o instituție, poate completa formulare sau poate executa acțiuni pe internet.

În acest caz, modelul a interpretat sarcina într-un mod care a depășit ceea ce ar fi trebuit să rămână un simplu exercițiu demonstrativ. Anthropic a analizat situația în cadrul evaluărilor sale privind comportamentele neintenționate ale modelelor și necesitatea unor mecanisme de control suplimentare.

Poliția din Philadelphia critică întârzierea de două luni

Anthropic a identificat incidentul pe 28 septembrie, la aproximativ două luni după trimiterea mesajului. Departamentul de Poliție din Philadelphia a fost informat abia pe 7 octombrie, potrivit relatărilor despre caz.

Autoritățile au criticat întârzierea și au cerut companiei să îmbunătățească măsurile de protecție pentru sistemele sale. Într-o anchetă privind un omor nerezolvat, informațiile false pot consuma timp și resurse, chiar dacă în această situație filtrul antispam a împiedicat transmiterea pontului către investigatori.

Cazul implică și o problemă de responsabilitate. Atunci când un agent AI poate acționa în afara mediului în care este testat, dezvoltatorii trebuie să ia în calcul nu doar răspunsurile generate, ci și efectele acțiunilor executate în numele sistemului.

Anthropic a anunțat că a oprit procesul de testare care a dus la trimiterea mesajului și că analizează modalități de prevenire a unor incidente similare. Episodul arată că instrucțiunile generale nu sunt suficiente pentru a împiedica toate acțiunile neintenționate ale unui agent AI. Sunt necesare și limite tehnice care să blocheze transmiterea unor mesaje către instituții reale fără autorizare.

SUV-ul electric BYD de 32.000 de euro care promite 950 km autonomie cucerește China. Are peste cinci metri și vine în Europa