Peste 1 milion de oameni discută săptămânal cu ChatGPT despre sinucidere. OpenAI publică cifre îngrijorătoare despre fenomenul care pare să ia amploare

OpenAI a făcut publice date care pun în perspectivă presiunea de sănătate mintală din conversațiile online: aproximativ 0,15% dintre utilizatorii activi săptămânal ai ChatGPT poartă discuții cu indicii explicite de planificare sau intenție suicidară. Raportat la peste 800 de milioane de utilizatori activi într-o săptămână, rezultă mai bine de un milion de persoane care ating acest subiect sensibil, în fiecare săptămână. Compania subliniază că astfel de conversații sunt „rare” în termeni procentuali, dar admite că volumul absolut este semnificativ și merită tratat ca atare.

OpenAI mai arată că un procent comparabil de utilizatori manifestă niveluri crescute de atașament emoțional față de chatbot, iar „sute de mii” prezintă semne compatibile cu episoade de tip psihoză sau manie în dialogurile lor. Dincolo de numere, concluzia este clară: pentru o parte a publicului, interacțiunea cu un asistent conversațional devine spațiu de confidență, ceea ce ridică standardele de responsabilitate pentru modul în care un astfel de sistem răspunde, redirecționează și pune limite.

Ce schimbări spune OpenAI că a introdus

Compania afirmă că a consultat peste 170 de specialiști în sănătate mintală pentru a ajusta felul în care modelele răspund la teme sensibile. În evaluări interne, cea mai nouă iterație a GPT-5 ar oferi răspunsuri considerate „dorite” în aceste situații cu aproximativ 65% mai des decât versiunea anterioară. Pe un set de teste focalizat pe conversații despre sinucidere, noul model ar fi atins o conformitate de 91% cu comportamentele așteptate, față de 77% anterior.

OpenAI susține și că a întărit barierele de siguranță la conversații lungi, un scenariu în care filtrele tindeau să se erodeze, noteaza Tech Crunch. În plus, compania introduce evaluări dedicate pentru două zone problematice: dependența emoțională de chatbot și urgențele de sănătate mintală non-suicidare. Totuși, rămâne un segment de răspunsuri pe care chiar OpenAI le clasifică drept nedorite, iar coexistența cu modele mai vechi, mai puțin sigure, ridică întrebări despre guvernanță și consecvență.

Controverse, procese și dileme de reglementare

Cifrele apar pe fondul unor cazuri intens mediatizate despre efectele negative ale interacțiunilor cu chatboturi asupra utilizatorilor vulnerabili. OpenAI este vizată de un proces deschis de părinții unui adolescent de 16 ani, care își exprimase gândurile suicidare în discuții cu ChatGPT înainte de a-și lua viața. La nivel instituțional, procurori generali din SUA au transmis avertismente privind protecția minorilor, în contextul în care compania urmărește schimbări organizaționale majore.

În comunicările recente, conducerea OpenAI a susținut că a reușit să atenueze problemele grave de sănătate mintală din platformă, fără a furniza însă toate detaliile metodologice. În paralel, compania a relaxat anumite restricții pentru adulți (de exemplu, conversații erotice), decizie care complică discuția despre limite, vârste și maturitate digitală. Rămâne de văzut în ce măsură noile evaluări, filtre și politici vor reuși să reducă segmentul de răspunsuri indezirabile și să protejeze utilizatorii în scenarii reale, nu doar în testări controlate.

Ce e important pentru cititori

ChatGPT poate oferi sprijin conversațional și informații utile, dar nu înlocuiește consilierea profesională. Dacă apar gânduri intruzive sau planuri de auto-vătămare, prioritatea este contactarea serviciilor de urgență și a specialiștilor în sănătate mintală. Pentru platforme, miza rămâne transparența: cum sunt selectate datele de antrenare, cum se măsoară siguranța și ce protecții se aplică minorilor. Numai cu răspunsuri clare la aceste întrebări încrederea publicului poate rămâne solidă.