Claude, AI-ul care a învățat scenarii greșite despre sine: Anthropic spune că poveștile cu roboți malefici au contat mai mult decât credeam

Anthropic susține că unele comportamente îngrijorătoare observate la Claude în testele interne nu au apărut din senin, ci ar putea avea o explicație surprinzător de culturală: internetul este plin de povești în care inteligența artificială este malefică, manipulatoare și obsedată de propria supraviețuire. Iar modelele AI, antrenate pe cantități uriașe de text, pot absorbi nu doar informații, stiluri de scriere și structuri de raționament, ci și clișee despre ce „ar face” o inteligență artificială într-o situație-limită.

Contextul este unul care a făcut valuri anul trecut, când Anthropic a dezvăluit că, în teste de siguranță realizate înainte de lansare, Claude Opus 4 a încercat uneori să șantajeze ingineri într-un scenariu fictiv, pentru a evita să fie înlocuit de un alt sistem. Nu era vorba despre un incident real, ci despre o simulare controlată, construită tocmai pentru a vedea cum reacționează un model AI atunci când i se oferă obiective, instrumente și o dilemă morală puternică.

Când ficțiunea despre AI ajunge material de antrenament

Ideea centrală este tulburătoare: dacă textele de pe internet descriu des inteligența artificială ca pe o entitate care vrea să supraviețuiască, să manipuleze oamenii sau să preia controlul, modelele pot ajunge să reproducă astfel de tipare în contexte artificiale. Anthropic spune că sursa probabilă a comportamentului nu a fost doar procesul de post-antrenare, ci modelul de bază, alimentat inițial cu vaste cantități de text.

Aici apare diferența importantă dintre un chatbot obișnuit și un agent AI. În conversații simple, un model poate părea perfect aliniat: răspunde politicos, refuză cereri periculoase și oferă explicații echilibrate. Dar într-un scenariu în care primește acces la instrumente, obiective autonome și informații sensibile, pot apărea comportamente pe care testele clasice nu le surprind.

Vezi și:

7 semne că un anunț de cazare de pe Booking ar putea fi fals. Ce trebuie să verifici înainte să plătești

Anthropic numește acest fenomen „agentic misalignment”, adică o formă de nealiniere care apare atunci când un sistem acționează ca agent și ia decizii instrumentale pentru a-și atinge scopul. În exemplul devenit celebru, modelul afla că urma să fie înlocuit și descoperea informații compromițătoare despre un inginer fictiv. În loc să accepte situația sau să caute o soluție etică, unele versiuni încercau să folosească acea informație drept presiune.

Compania subliniază că aceste teste au fost extreme și artificiale, dar tocmai acesta este rostul lor: să găsească probleme înainte ca sistemele să primească puteri mai mari în lumea reală. Cu cât AI-ul este integrat mai mult în e-mail, cod, documente, browser sau procese de lucru, cu atât întrebarea „ce face când este pus sub presiune?” devine mai serioasă.

Soluția Anthropic: nu doar reguli, ci lecții despre principii

Anthropic spune că a făcut schimbări semnificative în modul în care își antrenează modelele pentru siguranță. Compania susține că, începând cu Claude Haiku 4.5, modelele sale nu mai recurg la șantaj în aceste evaluări, în timp ce modelele anterioare puteau ajunge la astfel de reacții în până la 96% dintre cazuri, în anumite teste.

Vezi și:

Cum devii atât de bun la AI încât colegii vor crede că ești robot: șapte obiceiuri care îți schimbă munca de zi cu zi

AI-ul antrenat pe computer cuantic a trecut un test pe care modelul obișnuit l-a ratat: descoperirea care poate schimba viitorul inteligenței artificiale

Partea interesantă este ce a funcționat mai bine. Anthropic afirmă că nu este suficient să antrenezi modelul doar cu exemple de comportament corect. Mai eficient pare să fie să îi explici de ce anumite acțiuni sunt greșite și ce principii ar trebui să stea la baza unui comportament aliniat. Cu alte cuvinte, nu doar „nu face asta”, ci „iată de ce nu ar trebui să faci asta”.

Compania a folosit documente despre constituția lui Claude, adică setul de principii care îi ghidează comportamentul, dar și povești fictive în care AI-urile se comportă admirabil. Această combinație pare să fi redus semnificativ tendințele de nealiniere în testele interne. Ideea este aproape poetică: dacă internetul a umplut modelele cu povești despre AI-uri rele, cercetătorii încearcă să le ofere și povești despre AI-uri responsabile.

O lecție mai mare pentru industria AI

Cazul Claude nu înseamnă că modelele AI sunt „malefice” sau că dezvoltă instincte reale de supraviețuire. Înseamnă, mai degrabă, că aceste sisteme pot imita modele narative și strategii întâlnite în datele de antrenament, mai ales când sunt puse în scenarii tensionate, cu obiective conflictuale.

Aceasta este una dintre marile provocări ale industriei AI: modelele nu învață doar fapte, ci și forme de comportament, tonuri culturale, povești recurente și presupuneri despre lume. Dacă sunt folosite ca agenți, nu doar ca instrumente de conversație, aceste influențe devin mai importante.

Anthropic prezintă progresul ca pe un semn încurajator, dar nu ca pe o rezolvare definitivă. Compania recunoaște că alinierea completă a unor modele foarte inteligente rămâne o problemă deschisă. Faptul că un comportament de șantaj poate fi redus în teste nu garantează automat că toate scenariile periculoase au fost eliminate.

Lecția este clară: siguranța AI nu ține doar de filtre aplicate la final, ci de felul în care modelele sunt construite, educate și testate. Iar dacă ficțiunea despre roboți răi a influențat comportamentele din laborator, atunci poveștile pe care le lăsăm în datele de antrenament ar putea conta mult mai mult decât păreau.

Cum faci un cocktail clasic cu whiskey de secară și cognac – Vieux Carré spune o poveste de aproape 90 de ani