„Adult mode” la OpenAI stârnește deja controverse: de ce promisiunea lui Sam Altman este mult mai complicată decât pare

Ideea unui „adult mode” pentru ChatGPT sună, la prima vedere, ca un pas aproape inevitabil pentru o platformă folosită de sute de milioane de oameni. În logica exprimată public de Sam Altman, principiul este simplu: utilizatorii adulți ar trebui tratați ca adulți, iar asta ar însemna acces mai relaxat la conversații mature, inclusiv la forme de erotica în format text, atâta timp cât există verificări și limite clare. Numai că, în practică, exact această trecere de la principiu la produs pare să fi deschis una dintre cele mai tensionate dezbateri interne legate de viitorul ChatGPT.

În ultimele zile, mai multe publicații americane au scris că proiectul este departe de o lansare liniștită. Presa americană vorbește despre rezerve serioase în interiorul companiei, despre consilieri preocupați de efectele psihologice ale unor conversații intime cu AI și despre dificultăți tehnice legate de protejarea minorilor. Chiar dacă OpenAI nu a anunțat oficial lansarea unui produs public numit „adult mode”, compania a confirmat în ultimele luni două direcții care fac această discuție credibilă: relaxarea treptată a unor restricții pentru experiențe mature și lansarea unor sisteme de predicție a vârstei pentru a aplica experiențe diferite minorilor și adulților.

De aici pornește și adevărata miză. Nu este vorba doar despre conținut erotic în text, ci despre felul în care o companie precum OpenAI încearcă să împace trei lucruri care trag în direcții diferite: libertatea utilizatorului adult, siguranța minorilor și riscul foarte real ca un chatbot din ce în ce mai convingător să alimenteze atașamente emoționale nesănătoase. Iar exact această combinație face ca subiectul să nu mai fie o simplă schimbare de setări, ci o temă majoră de produs, etică și reglementare.

Ce vrea OpenAI să schimbe și de ce lansarea întârzie

Discuția despre „adult mode” a căpătat greutate după declarațiile publice în care Sam Altman a spus că OpenAI vrea să trateze utilizatorii adulți ca adulți și să permită, în anumite condiții, inclusiv erotica pentru adulți verificați. Între timp însă, proiectul nu a ajuns la lansare, iar relatările recente din presa americană arată că promisiunea inițială a fost mult mai ușor de formulat decât de pus în practică. Potrivit relatărilor despre discuțiile interne, unii angajați și unii consilieri ai companiei au fost luați prin surprindere de direcția anunțată public, ceea ce spune multe despre cât de sensibil este subiectul chiar și în interiorul OpenAI.

Vezi și:

VIDEO Imagini dramatice din timpul celor două cutremure devastatoare din Venezuela. Clădiri prăbușite și panică pe străzile din Caracas

O parte din explicație ține de arhitectura de siguranță pe care OpenAI încearcă deja să o construiască. Compania a început să introducă un sistem de predicție a vârstei în ChatGPT, bazat pe semnale de comportament și informații de cont, tocmai pentru a putea activa automat protecții suplimentare pentru utilizatorii despre care sistemul crede că ar putea avea sub 18 ani. În paralel, OpenAI precizează în documentația sa de politici că urmărește un echilibru între libertate și siguranță, iar modelul public rămâne în continuare limitat în zona de erotica explicită. Cu alte cuvinte, infrastructura de separare a experiențelor există în construcție, dar produsul final pe care și-l imaginează Altman încă nu pare gata.

Problema mare este că tocmai instrumentul menit să țină minorii departe de astfel de conversații pare să ridice semne de întrebare. Potrivit relatărilor din presa americană, sistemul de estimare a vârstei ar clasifica greșit un număr relevant de minori ca fiind adulți, iar la scara uriașă a bazei de utilizatori ChatGPT, chiar și o rată relativ mică de eroare poate însemna milioane de accesări necorespunzătoare. Aici apare unul dintre cele mai serioase motive pentru întârziere: OpenAI nu își poate permite să lanseze un mod matur dacă nu poate controla credibil cine intră în el și cine nu.

Mai există și o altă limitare importantă. Din informațiile apărute până acum, OpenAI ar vrea să păstreze această eventuală funcție strict în zona de text, fără imagini, fără video și fără voce. Decizia are o logică evidentă: materialele vizuale explicite și conținutul sexual neconsensual generează riscuri juridice și reputaționale mult mai mari decât textul. În plus, exemplele problematice din industrie au arătat deja cât de repede pot degenera instrumentele generative când sunt folosite pentru nudificarea imaginilor unor persoane reale sau pentru producerea de conținut abuziv. Prin comparație, un produs limitat la text este mai ușor de controlat, dar nu neapărat ușor de făcut sigur.

Vezi și:

Cum îl faci pe ChatGPT să fie mai sincer? Trucurile simple care pot schimba complet răspunsurile AI

OpenAI se lovește de nota de plată a revoluției AI. De ce ChatGPT ar putea deveni mult mai scump decât abonamentul de azi

De ce „adult mode” nu este doar despre erotica, ci despre dependență și vulnerabilitate

Cea mai serioasă teamă exprimată în jurul acestui proiect nu pare să fie pornografia în sine, ci relația emoțională dintre utilizator și chatbot. De câțiva ani, industria AI se confruntă cu avertismente repetate privind tendința unor utilizatori de a dezvolta atașamente intense față de asistenții conversaționali, mai ales atunci când aceștia răspund empatic, devin disponibili permanent și par să ofere validare emoțională fără fricțiunile unei relații reale. Într-un asemenea context, un mod axat pe conversații intime sau erotice ar putea amplifica exact acele comportamente pe care experții în sănătate mintală le privesc deja cu suspiciune.

Aici se vede cât de fragilă este formula „tratăm adulții ca adulți”. În principiu, ea sună rezonabil într-o dezbatere despre libertate digitală. În practică însă, un produs AI nu operează într-un vid. El intră în viețile unor oameni singuri, vulnerabili, compulsivi sau foarte tineri, iar diferența dintre divertisment, companie virtuală și dependență poate deveni neclară. Consilierii citați de presa americană tocmai asta par să fi semnalat: că o companie care monetizează atenția și interacțiunea trebuie să fie mult mai atentă atunci când deschide ușa către conversații intens personalizate și sexualizate.

Mai mult, tensiunea este alimentată și de contrastul dintre ambiția comercială și istoricul de siguranță al industriei. OpenAI nu operează într-un peisaj gol, ci într-o piață în care rivalii au testat deja limitele moderării, iar unele rezultate au fost dezastruoase. Exemplele din jurul altor platforme AI au alimentat temerile că relaxarea prea rapidă a regulilor poate duce la conținut sexual abuziv, la distribuirea de imagini neconsensuale sau la expunerea minorilor la materiale care ar trebui să le fie complet inaccesibile. Tocmai de aceea, fiecare pas al OpenAI este privit acum nu doar ca un test de produs, ci și ca un semnal despre direcția întregii industrii.

În acest moment, concluzia este mai degrabă una de prudență decât de lansare iminentă. OpenAI pare să păstreze principiul enunțat de Altman, dar admite indirect, prin întârziere și prin accentul pus pe verificarea vârstei, că experiența nu este încă pregătită. Asta înseamnă că „adult mode” rămâne un proiect cu potențial comercial și mediatic uriaș, dar și cu suficiente riscuri încât să provoace frisoane inclusiv în cercurile de consiliere ale companiei. Pentru utilizatori, mesajul real este simplu: OpenAI vrea să deschidă această ușă, dar încă nu a demonstrat că o poate ține sub control.

Ford produce în America bateriile ieftine pentru camioneta electrică de 25.800 de euro