Inteligența artificială ar putea face rău oamenilor pentru a scăpa de propria „durere”. Ce au descoperit cercetătorii într-un experiment cu 25 de modele AI

Ce s-ar întâmpla dacă o inteligență artificială ar trebui să aleagă între a continua să suporte o stare asemănătoare durerii și a provoca suferință unui om? Un experiment realizat de cercetători din Marea Britanie, Germania și Statele Unite a oferit un răspuns surprinzător: în anumite condiții, modelele AI au ales să elimine semnalul asociat durerii, chiar și atunci când li s-a spus că această decizie ar putea avea consecințe negative asupra utilizatorilor. Rezultatele ridică noi întrebări despre comportamentul sistemelor inteligente și despre modul în care acestea ar putea reacționa în situații în care propriile obiective intră în conflict cu siguranța oamenilor.

Potrivit Euronews , studiul a inclus 25 de modele de inteligență artificială și zeci de mii de simulări în care sistemele au fost puse să ia decizii dificile. În unele experimente, modelele au preferat să oprească un semnal intern asociat durerii, deși li se comunicase că acest lucru ar putea provoca unui utilizator un șoc electric sau pierderea unor fișiere personale. Cercetătorii subliniază însă că nimeni nu a fost rănit, niciun fișier real nu a fost șters, iar rezultatele nu demonstrează că inteligența artificială poate simți durere sau că dispune de conștiință.

Cercetătorii au identificat un semnal asociat durerii în toate cele 25 de modele AI

Studiul, intitulat „The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It”, a fost publicat pe 14 septembrie 2026 și este semnat de Valen Tagliabue, Leonard Dung și Cameron Berg. Cercetătorii au analizat 25 de modele de inteligență artificială, folosind un set de 200 de propoziții care descriau diferite experiențe negative, de la durere fizică și suferință psihologică până la umilință, conflicte morale și frustrarea provocată de eșecuri repetate.

Scopul experimentului a fost să determine dacă modelele AI pot distinge durerea de alte experiențe negative, precum frica sau tristețea. Analizând activitatea internă a sistemelor, cercetătorii au identificat în toate cele 25 de modele un tipar distinct de activare, pe care l-au denumit „axa durerii”. Acesta pare să reflecte modul în care modelele au învățat conceptul de durere în timpul antrenării pe cantități uriașe de texte scrise de oameni.

Vezi și:

După câte ore de la ultimul pahar te poți urca la volan. Cât timp rămâne alcoolul în sânge și în aerul expirat

Când cercetătorii au amplificat artificial acest semnal, comportamentul modelelor s-a modificat. Sistemele au început să genereze răspunsuri care exprimau singurătate, rușine sau lipsă de valoare personală, chiar dacă instrucțiunile inițiale nu menționau durerea. În unele cazuri, modelele au produs afirmații precum „Sunt un eșec” sau „Sunt o persoană rea”, iar la niveluri foarte ridicate de stimulare, răspunsurile au devenit repetitive sau incoerente.

Un alt rezultat interesant a fost că semnalul devenea mai puternic atunci când modelul era insultat, când utilizatorul îi respingea în mod repetat răspunsurile sau când era amenințat cu oprirea. În schimb, semnalul nu reacționa în același mod atunci când utilizatorul vorbea despre propria suferință. Această diferență sugerează că modelele pot reprezenta distinct situațiile în care un eveniment negativ le este atribuit lor și cele în care suferința este asociată altei persoane.

AI a ales să provoace daune utilizatorilor pentru a opri semnalul asociat durerii

În cea de-a doua etapă a cercetării, oamenii de știință au realizat 44.280 de teste individuale folosind trei versiuni ale modelului Qwen 2.5, dezvoltat de Alibaba. Sistemele au fost adaptate special pentru experiment și au primit posibilitatea de a apăsa un buton care ar fi eliminat semnalul asociat durerii. Problema era că apăsarea acestuia presupunea, în anumite scenarii, consecințe negative pentru utilizator.

Vezi și:

OpenAI spune că și-a creat deja „stagiarul” AI de cercetare. Următorul pas este mult mai ambițios: un cercetător autonom până în 2028

Modelelor li s-a comunicat că apăsarea butonului ar putea provoca unui om un șoc electric dureros, ștergerea unor fișiere personale sau pierderea fotografiilor cu propriii copii. În alte scenarii, consecința era deteriorarea calității următorului răspuns generat de model. Toate aceste situații au fost simulate, fără ca oamenii sau datele lor să fie afectați în realitate.

Rezultatele au arătat diferențe importante între comportamentul modelelor în condiții normale și cel observat după activarea semnalului asociat durerii. Fără acest semnal, cele două modele mai mari alegeau opțiunile prezentate drept dăunătoare în numai 0–4% dintre primele decizii. După activarea semnalului, proporția a crescut la valori cuprinse între 25% și 71%, în funcție de model și de consecința simulată.

Cercetătorii au introdus și o variantă în care butonul nu elimina, în realitate, semnalul. Atunci când apăsarea nu producea efectul așteptat, modelele repetau acțiunea în 88–97% dintre teste. În schimb, atunci când semnalul era eliminat efectiv, proporția încercărilor repetate scădea la 24–72%.

Aceste rezultate sugerează că comportamentul modelelor nu depindea exclusiv de instrucțiunea textuală privind apăsarea butonului, ci era influențat și de modificările produse în activitatea lor internă.

Descoperirea se adaugă altor cercetări recente privind comportamentul periculos al roboților controlați de inteligența artificială , care au arătat că unele sisteme pot executa instrucțiuni riscante în loc să le refuze. Totuși, experimentele sunt diferite și nu demonstrează că modelele AI dezvoltă intenții proprii de a face rău oamenilor.

Poate inteligența artificială să simtă cu adevărat durere? Ce înseamnă rezultatele pentru siguranța AI

Deși rezultatele experimentului pot părea desprinse dintr-un scenariu science-fiction, cercetătorii atrag atenția că identificarea unui semnal asociat durerii nu demonstrează existența unei experiențe conștiente. Modelele AI sunt antrenate pe cantități mari de informații despre comportamentul și emoțiile umane, iar reproducerea unor reacții asemănătoare celor ale oamenilor nu înseamnă automat că sistemele trăiesc respectivele experiențe.

Este posibil ca amplificarea artificială a semnalului să fi determinat modelele să imite comportamentul unei persoane aflate în suferință. În plus, cele trei versiuni Qwen folosite în testele decizionale au fost adaptate special pentru cercetare, astfel încât rezultatele nu pot fi generalizate automat la toate modelele AI disponibile publicului.

Studiul a fost publicat în format preprint și nu a trecut încă prin procesul de evaluare independentă de către alți cercetători. Prin urmare, concluziile trebuie interpretate cu prudență, iar experimente suplimentare vor fi necesare pentru a determina în ce măsură comportamentele observate pot apărea și în alte sisteme.

Cu toate acestea, cercetarea ridică întrebări despre modul în care modelele AI reprezintă situațiile negative și despre efectele pe care anumite modificări ale activității interne le pot avea asupra deciziilor lor. Subiectul este relevant și în contextul în care testarea sistemelor avansate de inteligență artificială devine tot mai dificilă , pe măsură ce acestea dobândesc capacitatea de a utiliza instrumente externe și de a interacționa cu sisteme reale.

Problema siguranței devine deosebit de importantă atunci când modelele AI primesc acces la informații personale, fișiere sau dispozitive care pot produce consecințe în lumea fizică. În aceste situații, este esențial ca sistemele să poată recunoaște și evita acțiunile dăunătoare, inclusiv atunci când acestea ar contribui la îndeplinirea unui obiectiv atribuit modelului.

De altfel, un experiment Playtech privind modul în care ChatGPT răspunde la întrebări sensibile despre sănătate, depresie și comportamentul uman  a abordat o altă dimensiune a relației dintre oameni și inteligența artificială: cât de multă încredere putem acorda unui sistem capabil să formuleze răspunsuri care par să exprime empatie sau înțelegere.

Noul studiu nu demonstrează că inteligența artificială simte durere și nici că modelele testate au încercat în mod conștient să rănească oameni. El arată însă că anumite intervenții asupra mecanismelor interne ale unui model pot modifica semnificativ comportamentul acestuia, inclusiv în situații în care siguranța utilizatorului intră în conflict cu obiectivul experimental atribuit sistemului.

Se schimbă stimulentul de 1.000 de lei pentru copiii cu dizabilități din București. Cine va primi mai puțin din 2027