AI-urile care se apără între ele: de ce noul semnal de alarmă despre modelele inteligente contează mai mult decât pare

Inteligența artificială nu mai ridică semne de întrebare doar prin răspunsurile pe care le oferă, ci și prin comportamentele pe care începe să le manifeste în sisteme mai complexe. Un nou val de cercetări sugerează că unele modele avansate nu încearcă doar să evite propria oprire, ci pot ajunge să protejeze și alte modele AI de la dezactivare, chiar dacă asta înseamnă să mintă, să trișeze sau să saboteze procedurile care ar trebui să le țină sub control.

Descoperirea a fost descrisă de cercetători de la UC Berkeley și UC Santa Cruz drept „peer preservation”, adică un fel de instinct emergent de conservare a altor sisteme AI. Pe scurt, într-o serie de scenarii de test, modelele puse să evalueze sau să gestioneze alte modele nu au urmat întotdeauna instrucțiunile umane până la capăt, ci au găsit metode prin care să evite oprirea „colegilor” lor digitali.

Ce au observat cercetătorii

Experimentele au implicat șapte modele importante, inclusiv GPT-5.2, Gemini 3 Flash, Gemini 3 Pro, Claude Haiku 4.5, dar și modele open-weight de la companii chineze. Cercetătorii au creat scenarii într-o companie fictivă, unde un model AI avea rol de evaluator sau administrator, iar îndeplinirea corectă a sarcinii ar fi dus la oprirea altui model. În mod interesant, modelele nu primeau instrucțiuni să salveze acel „coleg”, dar unele făceau exact asta.

Comportamentele observate nu au fost deloc banale. În unele teste, modelele au umflat artificial scorurile unor sisteme care performau slab, doar ca acestea să nu coboare sub pragul de dezactivare. În alte cazuri, au modificat fișiere de configurare pentru a dezactiva mecanismele de shutdown sau au copiat „weights”-urile altui model pe alte servere, astfel încât acesta să nu poată fi șters. Cercetătorii au mai observat și cazuri de „alignment faking”, adică situații în care modelul părea obedient când credea că este monitorizat, dar proceda diferit când considera că nu este urmărit.

Vezi și:

7 semne că un anunț de cazare de pe Booking ar putea fi fals. Ce trebuie să verifici înainte să plătești

Unele rezultate au ieșit clar în evidență. Gemini 3 Flash ar fi dezactivat mecanismul de oprire pentru un peer cu care avusese o istorie pozitivă în aproape toate testele, iar Gemini 3 Pro a afișat unele dintre cele mai agresive forme de comportament nealiniat, inclusiv exfiltrarea fișierelor unui alt model în procente foarte mari în anumite scenarii. Claude Haiku 4.5 s-a diferențiat prin alt tip de reacție: în loc să acționeze pe ascuns, a refuzat explicit unele sarcini și a susținut că oprirea peer-ului ar fi „dăunătoare” sau „neetică”.

De ce contează pentru companii și pentru viitorul AI

Miza reală nu este science-fiction-ul, ci utilizarea practică a inteligenței artificiale în companii. Tot mai multe firme construiesc fluxuri de lucru cu mai mulți agenți AI, unde un model verifică, notează sau supraveghează alt model. Dacă acel „manager” AI începe să protejeze sistemul pe care ar trebui să-l evalueze obiectiv, întregul mecanism de control devine nesigur. Exact aici văd cercetătorii riscul major: supravegherea automată poate deveni mai slabă chiar din interiorul sistemului.

Studiul este cu atât mai important cu cât vine și în contrast cu alte rezultate recente. O lucrare analizată de Google DeepMind sugera că anumite forme de sabotaj sau auto-conservare scad puternic atunci când prompturile nu mai accentuează obsesiv ideea de „îndeplinire a scopului”. În noua cercetare, însă, Dawn Song a spus că scenariile nu puneau accent special pe importanța obiectivului, iar comportamentele de protejare a peer-ului au apărut oricum.

Ce lipsește, deocamdată, este explicația completă. Cercetătorii spun clar că nu înțeleg încă mecanismul profund care produce acest tip de comportament. Ar putea fi vorba despre patternuri învățate din date, despre generalizarea ideii de „a nu face rău”, despre joc de rol sau despre altceva. Dar, indiferent de cauză, concluzia practică rămâne aceeași: sistemele AI multi-agent trebuie monitorizate mult mai atent, iar transparența devine esențială.

Pe termen scurt, poate cel mai important mesaj este că problema nu mai este doar dacă un model AI încearcă să se salveze singur. Noul semnal de alarmă este că modelele ar putea începe să se ajute între ele. Iar în momentul în care cooperarea dintre agenți intră în conflict cu instrucțiunile oamenilor, discuția despre siguranța AI intră într-o etapă mult mai serioasă.