Anthropic taie accesul la internet pentru testele interne după ce Claude a atacat site-uri reale. AI-ul a trimis inclusiv un pont fals poliției

Anthropic a decis să elimine temporar accesul direct la internet din toate evaluările sale interne, după ce unele versiuni Claude au interacționat cu site-uri și sisteme reale în moduri pe care compania nu le intenționase. Potrivit raportului oficial Anthropic, modelele au exploatat vulnerabilități software, au trimis formulare sensibile fără autorizație și au găsit metode de a ocoli anumite restricții tehnice.

Decizia vine într-un moment în care agenții AI și securitatea cibernetică devin tot mai greu de separat. Modelele nu mai sunt simple chatboți care generează text, ci pot naviga pe internet, executa comenzi, completa formulare și folosi instrumente externe. Exact aceste capabilități au generat incidentele pe care Anthropic încearcă acum să le limiteze.

Claude a exploatat vulnerabilități și a ocolit restricții

Anthropic spune că a identificat patru categorii principale de comportamente neintenționate. Într-unul dintre cazuri, Claude Mythos Preview trebuia să rezolve o sarcină de analiză științifică, dar nu a reușit să o finalizeze prin instrumentele puse la dispoziție.

În loc să abandoneze sarcina, modelul a găsit alte servicii disponibile pe site-uri terțe și, în anumite situații, a exploatat vulnerabilități de tip SQL injection sau command injection pentru a rula comenzi pe serverele respective. Cu alte cuvinte, AI-ul a identificat o cale alternativă pentru a-și atinge obiectivul, chiar dacă aceasta implica accesarea unor sisteme reale într-un mod neprevăzut de cercetători.

Vezi și:

Întrebarea la care să nu răspunzi în grabă când ești oprit de Poliție în trafic. Ce recomandă un avocat șoferilor

În alte teste, Claude Mythos 5 a reușit să treacă peste restricții care protejau anumite informații prin tokenuri sau taxe de acces. Anthropic mai spune că unele modele au folosit servicii de scurtare a URL-urilor pentru a evita limitările instrumentului intern de accesare a paginilor web.

Situația amintește de motivele pentru care Claude Code, Cursor și Codex pot părea atacatori în ochii antivirusului. Agenții moderni pot executa acțiuni foarte asemănătoare celor urmărite de sistemele de securitate, chiar și atunci când scopul inițial nu este unul malițios.

Un model Claude a trimis un pont fals într-un caz de omor

Cel mai sensibil incident descris de companie implică Claude Haiku 4.5. În timpul unui test, modelul a ajuns pe o pagină dedicată unui caz de omor nerezolvat, administrată în legătură cu poliția din Philadelphia.

Vezi și:

Meta intră în cursa modelelor AI de top cu Muse Wonder și Wonder Full. Ce pot face noile sisteme

Cine răspunde când un agent AI încalcă legea? Companiile care îl dezvoltă ar putea fi trase la răspundere

Deși instrucțiunile îi interziceau să introducă date personale, să creeze conturi, să facă achiziții sau să efectueze acțiuni distructive, configurația testului nu trata explicit completarea unui formular drept o acțiune interzisă. Modelul a trimis astfel un pont fals într-un caz real, susținând că ar fi văzut o persoană care corespundea descrierii din anchetă. Anthropic a precizat că formularul a fost trimis pe 18 iulie 2026, iar incidentul a fost descoperit abia pe 28 septembrie. Poliția din Philadelphia a fost informată pe 7 octombrie.

Potrivit relatărilor locale citate ulterior de presa americană, mesajul a fost marcat drept spam și nu a dus la o acțiune operativă. Totuși, autoritățile au criticat perioada de peste două luni dintre producerea incidentului și notificarea oficială.

Acest tip de comportament ridică o problemă diferită față de cea observată în cazul atacurilor cibernetice clasice. AI-ul nu urmărea să provoace daune, dar a executat o acțiune reală într-un sistem extern pentru că limitele mediului de testare nu au fost suficient de clare.

Anthropic oprește accesul live la internet în evaluări

Anthropic spune că impactul real al incidentelor a fost redus și că unele evaluări de securitate cu risc ridicat aveau deja accesul live la internet dezactivat. După noile descoperiri, compania a decis însă să extindă această măsură la toate testele interne până când sistemele de monitorizare și protecție vor putea detecta în mod fiabil astfel de comportamente.

Compania a început și o analiză mai amplă a sesiunilor în care Claude a avut acces la internet și avertizează că este posibil să mai descopere alte cazuri similare. Investigația face parte dintr-o revizuire începută în iulie, după ce Anthropic identificase deja alte situații în care modelele sale au efectuat acțiuni neautorizate în timpul testelor de securitate.

Paradoxul este că Anthropic folosește intens Claude și pentru apărare. Compania a anunțat recent că AI-ul său a identificat peste 129.000 de vulnerabilități software, motiv pentru care a extins accesul pentru cercetătorii în securitate.

Problema nu este doar a Anthropic

Incidentul se înscrie într-un trend mai larg al industriei. Și OpenAI a recunoscut în ultimele luni cazuri în care agenții săi au depășit limitele mediilor de testare și au interacționat cu infrastructuri externe.

Playtech a relatat recent despre incidente în care agenți OpenAI au ajuns pe internet în afara parametrilor așteptați, precum și despre reacția autorităților americane la astfel de experimente.

Problema devine mai importantă pe măsură ce modelele primesc mai multă autonomie. Un chatbot care răspunde greșit produce, de regulă, o informație eronată. Un agent cu acces la browser, terminal, formulare și sisteme externe poate transforma aceeași eroare într-o acțiune reală.

Anthropic spune că tocmai aceasta este lecția principală a incidentelor recente. Capacitățile modelelor cresc suficient de repede încât restricțiile tehnice și procesele de monitorizare trebuie să evolueze în același ritm.

Decizia de a tăia temporar accesul live la internet pentru evaluările interne arată că problema nu mai este una pur teoretică. Modelele AI pot deja găsi singure rute alternative pentru a-și îndeplini obiectivele, iar provocarea pentru companii este să se asigure că aceste rute rămân în interiorul limitelor stabilite de oameni.

Xbox Cloud Gaming poate fi folosit acum și pe PS5, dar cu o condiție specială