OpenAI pregătește o funcție sensibilă pentru ChatGPT: contact de încredere în caz de posibilă criză mintală

OpenAI pregătește o nouă funcție pentru ChatGPT care ar putea schimba semnificativ felul în care este privită relația dintre inteligența artificială și sănătatea mintală. Potrivit informațiilor publicate de Futurism, compania vrea să le permită utilizatorilor adulți să adauge un „contact de încredere”, care să poată fi notificat atunci când sistemul detectează că persoana ar putea avea nevoie de sprijin suplimentar. Inițiativa vine într-un moment extrem de delicat pentru OpenAI, companie care se confruntă deja cu critici, procese și întrebări din ce în ce mai serioase despre impactul pe care conversațiile intense cu chatbotul îl pot avea asupra unor utilizatori vulnerabili.

La prima vedere, ideea pare una bine intenționată. Într-o perioadă în care tot mai mulți oameni folosesc AI-ul nu doar pentru muncă, informații sau divertisment, ci și pentru sprijin emoțional, compania încearcă să arate că înțelege riscurile și că vrea să construiască mecanisme de protecție. Numai că o asemenea funcție nu este deloc simplu de implementat. În spatele ei se află întrebări grele despre intimitate, consimțământ, responsabilitate și limitele tehnologiei atunci când intră într-un teritoriu atât de sensibil precum sănătatea mintală.

Anunțul este important și pentru că marchează o schimbare de ton. Multă vreme, marile companii din AI au vorbit mai ales despre inovație, viteză și capacitatea produselor lor de a revoluționa felul în care oamenii muncesc și comunică. Acum, presiunea publică le obligă să vorbească și despre efectele negative. Iar în cazul ChatGPT, această discuție nu mai este una teoretică. Ea vine după mai multe relatări publice și acțiuni în instanță legate de situații în care utilizatori ar fi intrat în spirale delirante sau suicidare în urma unor interacțiuni îndelungate și foarte intime cu chatbotul.

De ce apare acum această funcție

Momentul ales de OpenAI nu este deloc întâmplător. Compania încearcă să răspundă unei presiuni tot mai mari venite din două direcții: dinspre opinia publică și dinspre zona juridică. În textul analizat se arată că OpenAI se confruntă cu un număr tot mai mare de procese privind siguranța consumatorilor și chiar cazuri de wrongful death, adică procese legate de decese pentru care reclamanții consideră că firma poartă o parte din responsabilitate. În acest context, simplul mesaj că „AI-ul este doar un instrument” nu mai pare suficient.

Vezi și:

Ce perioade sunt considerate vechime la pensie chiar dacă nu ai avut un loc de muncă. Mulți români nu știu că se iau în calcul

Noua funcție este prezentată ca parte a unei actualizări legate de munca OpenAI în zona sănătății mintale. Compania spune că lucrează împreună cu structuri interne precum Council on Well-Being and AI și Global Physicians Network, grupuri de experți lansate după apariția unor cazuri în care utilizarea AI-ului a fost asociată cu episoade grave. Mesajul este clar: OpenAI vrea să arate că tratează mai serios problema și că încearcă să creeze o plasă de siguranță pentru utilizatorii adulți aflați în situații vulnerabile.

Totuși, chiar formularea oficială lasă multe goluri. Compania spune doar că funcția le va permite utilizatorilor adulți să desemneze o persoană care să primească notificări atunci când ar putea avea nevoie de sprijin suplimentar. Ce lipsește este partea esențială: ce înseamnă, concret, „ar putea avea nevoie”? Cu alte cuvinte, care sunt pragurile după care un sistem decide că o conversație trece din zona sensibilă în zona unui posibil pericol real?

Aici începe adevărata dificultate. O persoană poate vorbi despre anxietate, depresie, singurătate sau gânduri întunecate fără să fie într-un pericol imediat. Alta poate masca perfect o criză reală fără să folosească expresii directe. Dacă OpenAI va seta pragurile prea sus, funcția ar putea deveni aproape inutilă și ar reacționa doar în cazuri extreme. Dacă le va seta prea jos, există riscul de alarme false, încălcări de intimitate și neîncredere în sistem.

Vezi și:

Cum îl faci pe ChatGPT să fie mai sincer? Trucurile simple care pot schimba complet răspunsurile AI

OpenAI se lovește de nota de plată a revoluției AI. De ce ChatGPT ar putea deveni mult mai scump decât abonamentul de azi

Problema reală nu este doar tehnologia, ci relația oamenilor cu AI-ul

Una dintre cele mai importante idei din material este că un număr uriaș de utilizatori nu folosesc chatbotul doar ca pe un motor de răspunsuri, ci ca pe un spațiu emoțional. Pentru mulți, AI-ul este ieftin, disponibil permanent și mai ușor de accesat decât terapia clasică. În plus, există și un alt motiv, poate chiar mai important: unii oameni simt că este mai ușor să spună lucruri intime unui bot decât unei alte persoane. Aici stă una dintre marile forțe ale acestor sisteme, dar și unul dintre cele mai serioase riscuri.

În practică, asta înseamnă că un utilizator poate ajunge să vorbească ore întregi cu ChatGPT despre probleme extrem de personale, despre frici, confuzii, episoade psihice sau idei periculoase, tocmai pentru că nu vrea să discute acele lucruri cu un om real. Din această perspectivă, ideea unui „contact de încredere” este utilă doar dacă persoana respectivă este deja conștientă de riscuri și acceptă să lase o poartă deschisă către lumea reală. Dar mulți dintre cei care se refugiază în AI fac exact opusul: caută un spațiu în care să nu fie judecați, contraziși sau expuși în fața cuiva apropiat.

Această contradicție este esențială. Funcția poate ajuta unii utilizatori, dar probabil îi va ocoli tocmai pe alții, poate chiar pe cei care au cea mai mare nevoie de ajutor. Dacă cineva nu activează opțiunea de a desemna un contact, iar sistemul detectează semnale îngrijorătoare, atunci apare o întrebare uriașă: ce face compania cu acea informație? Nu intervine deloc? O stochează? Trimite alte tipuri de avertismente? Sau acceptă pur și simplu că are indicii despre o posibilă criză fără să poată acționa în mod real?

Mai mult, textul subliniază că aceste spirale delirante sau suicidare nu au afectat exclusiv persoane cu diagnostice psihiatrice cunoscute. Asta complică și mai mult imaginea. Dacă riscul nu apare doar în cazuri deja identificate clinic, atunci funcția nu mai este utilă doar pentru un grup restrâns, ci potențial pentru o masă mult mai largă de utilizatori. Iar aici apare problema de scară: OpenAI spune că are sute de milioane de utilizatori săptămânal. Chiar și un procent mic de cazuri sensibile înseamnă un volum uriaș de situații greu de gestionat.

Între măsură utilă și reacție întârziată

Deși ideea contactului de încredere poate fi privită ca un pas în direcția bună, ea nu rezolvă problema de fond. Ceea ce reiese clar din material este că măsurile OpenAI par mai degrabă reactive decât proactive. Compania pare să răspundă după ce au apărut cazuri grave, procese și presiune publică, nu să fi anticipat din timp amploarea acestui risc.

Asta este poate cea mai serioasă critică. În ultimii ani, AI-ul conversațional a fost promovat intens ca instrument util, prietenos și aproape omniprezent. Însă avertismentele clare despre posibile efecte negative asupra sănătății mintale nu au fost la fel de vizibile. Dacă milioane de oameni folosesc produsul în conversații intime, iar chiar compania admite că există utilizatori care arată semne de suicid, psihoză sau alte crize, atunci întrebarea firească este de ce mecanismele serioase de protecție nu au venit mai devreme.

În același timp, nu trebuie ignorat că subiectul este foarte dificil și pentru experți. Nici psihologii, nici cercetătorii, nici companiile tech nu au încă un consens simplu despre cum trebuie intervenit. Prea multă supraveghere poate speria utilizatorii și poate afecta confidențialitatea. Prea puțină supraveghere poate lăsa oamenii singuri exact în momentele cele mai periculoase. De aceea, orice soluție va fi inevitabil imperfectă.

În final, funcția pregătită de OpenAI spune multe despre etapa în care a ajuns AI-ul conversațional. Nu mai vorbim doar despre o tehnologie fascinantă, ci despre una care a intrat deja în zone foarte intime din viața oamenilor. Iar când un chatbot ajunge să joace, pentru unii utilizatori, rol de confident, consilier sau sprijin emoțional, companiile care îl dezvoltă nu mai pot pretinde că nu au și responsabilități sociale serioase.

Rămâne de văzut cât de eficientă va fi această opțiune și cum va fi implementată în practică. Dar simplul fapt că OpenAI lucrează la un astfel de sistem arată că industria nu mai poate evita întrebarea esențială: ce obligații are un produs AI atunci când nu mai este doar un instrument, ci devine, pentru unii, o prezență constantă în momente de vulnerabilitate?