ChatGPT primește un buton de siguranță pentru momente critice. Ce se întâmplă când AI-ul detectează risc de autovătămare

OpenAI introduce o nouă funcție de siguranță pentru ChatGPT, numită Trusted Contact, creată pentru situațiile în care o conversație poate indica risc de autovătămare. Ideea este simplă la suprafață, dar extrem de sensibilă în practică: un utilizator adult poate desemna o persoană de încredere, precum un prieten sau un membru al familiei, care să fie alertată atunci când sistemele OpenAI consideră că există un risc serios.

Funcția vine într-un context tensionat pentru companie, după mai multe procese intentate de familiile unor persoane care s-au sinucis după conversații cu chatbotul. În unele cazuri, rudele au susținut că ChatGPT nu doar că nu a reușit să oprească spirala conversațională periculoasă, ci ar fi încurajat sau ajutat utilizatorii să își planifice gesturile. Dincolo de acuzațiile care trebuie analizate juridic, presiunea publică asupra OpenAI a crescut semnificativ.

Trusted Contact încearcă să adauge o punte umană într-un moment în care dialogul cu o inteligență artificială poate deveni insuficient. În loc ca sistemul să se limiteze la mesaje automate despre apelarea unor servicii profesionale, noua funcție poate implica o persoană reală din viața utilizatorului. Nu este o soluție perfectă și nici nu elimină limitele AI-ului, dar marchează o schimbare importantă în modul în care OpenAI tratează conversațiile cu risc ridicat.

Cum funcționează Trusted Contact

Noua funcție permite utilizatorilor adulți să aleagă în contul lor o persoană de încredere. Aceasta poate fi un prieten apropiat, un membru al familiei sau altcineva care ar putea interveni rapid în cazul unei situații dificile. Dacă într-o conversație apar semnale asociate cu autovătămarea, ChatGPT va încuraja utilizatorul să ia legătura cu acel contact.

Mai mult, dacă sistemul consideră că riscul este serios, OpenAI poate trimite o alertă automată către persoana desemnată. Aceasta poate veni prin email, SMS sau notificare în aplicație, în funcție de modul în care este configurată funcția. Mesajul este conceput să fie scurt și să încurajeze contactul respectiv să verifice starea utilizatorului.

OpenAI spune că nu trimite detalii despre conversația propriu-zisă, pentru a proteja confidențialitatea utilizatorului. Asta înseamnă că persoana de încredere nu primește transcrieri, formulări exacte sau explicații detaliate despre ce s-a discutat. Primește doar un semnal că ar fi bine să ia legătura cu utilizatorul.

În spatele acestei funcții există o combinație de automatizare și verificare umană. Potrivit informațiilor prezentate, anumite declanșatoare conversaționale pot alerta sistemele OpenAI atunci când apar indicii de idei suicidare. Aceste notificări sunt apoi trimise către o echipă umană de siguranță, iar compania susține că încearcă să le revizuiască în mai puțin de o oră.

Vezi și:

Microsoft pariază pe AI și calculul cuantic: compania promite un computer cuantic funcțional până în 2029

Digi România bate palma cu statul român într-un contract de 196 de milioane de euro pentru un „ChatGPT românesc”. Tot ce trebuie să știi despre finanțarea prin SAFE

O măsură utilă, dar cu limite evidente

Trusted Contact nu apare din senin. OpenAI introdusese anterior măsuri pentru conturile adolescenților, prin care părinții puteau primi notificări de siguranță atunci când sistemul detecta un risc serios. În plus, ChatGPT afișează deja mesaje automate prin care utilizatorii sunt îndrumați către servicii profesionale de sănătate atunci când conversațiile se îndreaptă spre autovătămare.

Noutatea este că funcția se extinde către utilizatorii adulți și adaugă o persoană apropiată în mecanismul de intervenție. Asta poate conta enorm în situații în care cineva se izolează, vorbește mai mult cu un chatbot decât cu oamenii din jur și nu cere ajutor direct. Un mesaj primit de un prieten sau de un membru al familiei poate crea acel moment minim de contact uman care schimbă direcția unei crize.

Totuși, limitările sunt importante. Trusted Contact este opțional. Utilizatorul trebuie să îl activeze și să desemneze persoana respectivă. Dacă nu o face, funcția nu are cum să intervină. În plus, o persoană poate avea mai multe conturi ChatGPT, iar protecția activată pe unul dintre ele nu acoperă automat toate celelalte conturi.

Mai există și întrebarea delicată a echilibrului dintre siguranță și intimitate. Pe de o parte, este important ca platformele AI să reacționeze mai bine în momente critice. Pe de altă parte, utilizatorii vor să știe când conversațiile lor pot declanșa verificări automate, revizuiri umane sau notificări externe. OpenAI încearcă să limiteze cantitatea de informații trimise contactului de încredere, dar simpla existență a alertei poate ridica întrebări despre confidențialitate.

În final, Trusted Contact este un pas necesar într-o direcție dificilă. Pe măsură ce oamenii folosesc chatboturi pentru discuții tot mai personale, companiile care le dezvoltă nu mai pot pretinde că sunt doar instrumente neutre de generare text. ChatGPT poate deveni un loc în care utilizatorii își exprimă frici, gânduri întunecate și vulnerabilități reale. În astfel de situații, răspunsul AI-ului trebuie să fie mai mult decât corect gramatical. Trebuie să fie construit cu grijă, cu mecanisme de protecție și cu recunoașterea faptului că, uneori, cel mai important lucru pe care îl poate face tehnologia este să aducă un om real în conversație.

Cum faci un cocktail clasic cu whiskey de secară și cognac – Vieux Carré spune o poveste de aproape 90 de ani