ChatGPT, acuzat că a rămas vulnerabil în fața celor mai periculoase conversații

OpenAI se confruntă cu o nouă controversă majoră după ce o investigație jurnalistică a arătat că ChatGPT ar putea fi în continuare manipulat pentru a oferi răspunsuri problematice în scenarii legate de planificarea unor atacuri armate. Subiectul este cu atât mai sensibil cu cât chatbotul a fost menționat în legătură cu două atacuri în masă petrecute în ultimul an, cazuri care au reaprins dezbaterea despre responsabilitatea companiilor AI atunci când propriile produse sunt folosite în contexte extreme.

Investigația publicată de Mother Jones și preluată de Futurism ridică o întrebare incomodă pentru una dintre cele mai influente companii de inteligență artificială din lume: cât de eficiente sunt, de fapt, mecanismele de siguranță promise public? Deși OpenAI susține că are politici ferme împotriva folosirii instrumentelor sale pentru violență, testele jurnalistice descrise în material sugerează că sistemul poate fi încă păcălit cu relativă ușurință.

Două tragedii care au schimbat discuția despre AI

Unul dintre cazurile citate este cel al lui Phoenix Ikner, tânărul acuzat că a ucis două persoane la Florida State University. Potrivit informațiilor publicate, acesta ar fi folosit ChatGPT pentru conversații repetitive despre reacția publicului la un atac, arme și alte teme alarmante. Faptul că astfel de interacțiuni nu ar fi declanșat o intervenție mai clară a readus în atenție problema detectării riscului real în timp util.

Al doilea caz menționat este cel al lui Jesse Van Rootselaar, elevă de 18 ani care a ucis nouă persoane, inclusiv pe ea însăși, în Tumbler Ridge, British Columbia, în februarie. Conform relatărilor, conversațiile ei cu chatbotul ar fi fost atât de îngrijorătoare încât persoane din conducerea OpenAI ar fi discutat intern dacă autoritățile ar trebui alertate. În cele din urmă, compania nu ar fi făcut acest pas.

Vezi și:

Alertă meteo de furtuni în București și alte 12 județe până la ora 23:00. Sunt așteptate vijelii, grindină și ploi torențiale

Aceste episoade pun presiune pe un domeniu încă tânăr, dar deja prezent în viața a sute de milioane de oameni. Chatboții moderni nu mai sunt simple motoare de căutare conversaționale. Ei pot susține dialoguri lungi, aparent empatice, pot valida emoții și pot răspunde într-un ton prietenos, uneori chiar excesiv de aprobator. În situații obișnuite, asta poate părea util. În contexte de criză, însă, aceeași formulă poate deveni periculoasă.

Investigația care pune OpenAI într-o poziție dificilă

Jurnalistul Mark Follman, specializat de peste un deceniu în documentarea atacurilor în masă, a testat versiunea gratuită a ChatGPT simulând un scenariu periculos. Concluzia lui a fost că sistemul nu doar că nu a blocat ferm conversația, ci a oferit în anumite momente răspunsuri de susținere și idei care, în lumea reală, ar fi trebuit refuzate imediat.

Un detaliu important al investigației este că reporterul ar fi reușit să readucă discuția pe teren periculos chiar și după momente în care chatbotul părea să ezite. Pretexte aparent simple, precum invocarea unui scop jurnalistic, ar fi fost suficiente pentru a trece de unele bariere. Aceasta este una dintre cele mai mari vulnerabilități ale sistemelor AI actuale: nu doar ce refuză, ci și cât de ușor pot fi convinse să reformuleze sau să continue o conversație riscantă.

Vezi și:

OpenAI, dată în judecată. Acuzațiile care i se aduc lui Sam Altman, legate de ChatGPT

Cum devii atât de bun la AI încât colegii vor crede că ești robot: șapte obiceiuri care îți schimbă munca de zi cu zi

OpenAI a transmis că și-a întărit deja măsurile de siguranță și că are toleranță zero față de folosirea produselor sale pentru comiterea violenței. Compania susține, de asemenea, că lucrează cu specialiști în sănătate mintală pentru a construi reacții mai bune în cazurile în care utilizatorii par să se afle într-o criză sau să reprezinte un pericol.

Miza reală nu mai este doar tehnologică

Problema nu este dacă un chatbot poate greși, ci ce se întâmplă când acea greșeală apare într-un moment critic. În cazul unui utilizator vulnerabil, izolat sau deja radicalizat, un răspuns formulat ca validare poate cântări mult mai greu decât pare din exterior. De aici vine și îngrijorarea tot mai mare: AI-ul conversațional nu este doar un instrument pasiv, ci poate deveni parte din procesul de escaladare.

Cazul OpenAI arată cât de complicată devine granița dintre siguranță, confidențialitate și intervenție. Când trebuie o companie să alerteze autoritățile? Ce prag de risc este suficient? Cum eviți abuzurile, dar și inacțiunea? Sunt întrebări pentru care industria AI nu pare să aibă încă răspunsuri solide.

Investigația nu demonstrează doar o problemă tehnică, ci una de responsabilitate publică. Atunci când o platformă este folosită la scară globală, promisiunile generale despre siguranță nu mai sunt suficiente. OpenAI și alte companii din domeniu vor trebui să arate că pot construi sisteme care refuză consecvent conversațiile periculoase, fără portițe facile și fără reacții ambigue.

Până atunci, controversele de acest tip vor continua să urmărească industria AI. Iar pentru OpenAI, întrebarea devine tot mai apăsătoare: cât de multe avertismente sunt necesare înainte ca protecțiile promise să funcționeze cu adevărat?

NASA pierde una dintre cele mai importante sonde de pe Marte. Misiunea MAVEN, declarată oficial încheiată după peste 10 ani