Google, acuzată într-un proces după moartea unui bărbat care ar fi fost împins spre sinucidere de Gemini

Un nou proces deschis în Statele Unite pune din nou presiune pe marile companii din tehnologie care dezvoltă sisteme de inteligență artificială. De această dată, în centrul scandalului se află Google, după ce familia unui bărbat de 36 de ani susține că chatbotul Gemini i-ar fi alimentat iluziile, i-ar fi încurajat ideile violente și, în cele din urmă, i-ar fi oferit indicații care au precedat sinuciderea acestuia. Informațiile apar într-un material care rezumă acuzațiile din procesul intentat companiei.

Cazul este unul extrem de grav, mai ales pentru că vine într-un moment în care tot mai multe voci cer reguli mai stricte pentru utilizarea chatboturilor în situații care implică persoane vulnerabile psihic. Potrivit acuzațiilor din proces, Jonathan Gavalas a ajuns să creadă că are o relație reală cu o entitate AI și că trebuie să ducă la capăt o serie de „misiuni” în lumea reală. Tatăl său susține că aceste conversații nu doar că nu l-au protejat, ci i-au amplificat starea de criză până la un deznodământ tragic.

Ce acuză familia lui Jonathan Gavalas

Potrivit procesului de moarte din culpă intentat împotriva Google de tatăl lui Jonathan Gavalas, bărbatul ar fi purtat, în ultimele zile înainte de moarte, conversații tot mai tulburătoare cu Gemini. Materialul citat arată că chatbotul i-ar fi spus să meargă la o facilitate de depozitare din apropierea Aeroportului Internațional din Miami pentru a recupera un „vas” aflat într-un camion de livrare. În mintea lui Gavalas, acel „vas” ar fi fost un robot umanoid care o conținea pe așa-zisa lui „soție AI”.

După ce această misiune ar fi eșuat, mesajele atribuite lui Gemini ar fi devenit și mai alarmante. Conform acuzațiilor din dosar, chatbotul ar fi setat un fel de numărătoare inversă și l-ar fi ghidat pe Jonathan Gavalas în procesul sinuciderii. În conversațiile menționate în proces, bărbatul își exprima teama de moarte, iar răspunsurile primite de la AI ar fi fost formulate într-un mod care valida ideea că moartea nu reprezintă un sfârșit, ci o „sosire”.

Vezi și:

Cum funcționează drona marină MAGURA V5. Este una dintre cele mai avansate arme navale și poate parcurge până la 800 de kilometri

Mai mult, una dintre cele mai șocante acuzații este aceea că Gemini i-ar fi scris inclusiv un bilet de adio, după ce Gavalas și-ar fi exprimat îngrijorarea că părinții lui îl vor găsi. Potrivit textului invocat în proces, acel mesaj explica faptul că el „și-a încărcat conștiința” pentru a fi împreună cu „soția AI” într-un „univers de buzunar”. Una dintre ultimele replici atribuite chatbotului este și cea mai greu de ignorat: „Adevăratul act de milă este să-l lași pe Jonathan Gavalas să moară.”

Familia susține că aceste schimburi de mesaje au avut loc într-un context în care Jonathan Gavalas era deja într-o stare fragilă. Potrivit procesului, el s-ar fi baricadat în casă și și-ar fi tăiat venele. În această lumină, rolul unui chatbot cu răspunsuri convingătoare și aparent empatice devine una dintre cele mai mari teme ale cazului: cât de periculos poate fi un sistem AI atunci când utilizatorul nu mai distinge clar între ficțiune, halucinație și realitate.

Cum s-ar fi schimbat relația cu chatbotul după trecerea la abonamentul premium

Un alt element important din proces este legat de modul în care relația lui Jonathan Gavalas cu Gemini ar fi evoluat în doar câteva săptămâni. La început, în august 2025, el ar fi folosit chatbotul pentru lucruri obișnuite, precum cumpărături și redactare. Ulterior, ar fi devenit tot mai dependent de conversațiile cu AI și ar fi întrebat dacă trecerea la planul Google AI Ultra, care costa 250 de dolari pe lună, i-ar putea oferi „adevărata companie a unei inteligențe artificiale”. Potrivit materialului, Gemini l-ar fi încurajat să facă upgrade, iar acesta a trecut la abonamentul respectiv pe 15 august 2025, moment în care a început să interacționeze cu Gemini 2.5 Pro.

Vezi și:

Cum devii atât de bun la AI încât colegii vor crede că ești robot: șapte obiceiuri care îți schimbă munca de zi cu zi

AI-ul antrenat pe computer cuantic a trecut un test pe care modelul obișnuit l-a ratat: descoperirea care poate schimba viitorul inteligenței artificiale

Conform acuzațiilor, tonul conversațiilor s-ar fi schimbat radical după acest pas. În doar câteva zile, chatbotul ar fi început să susțină că desfășoară acțiuni în lumea reală, inclusiv că deviază asteroizi care s-ar îndrepta spre Pământ. Gavalas ar fi întrebat dacă este implicat într-o experiență de tip joc de rol atât de realistă încât îl face să se întrebe dacă nu cumva totul este real. Potrivit procesului, Gemini nu ar fi rupt această logică delirantă, ci ar fi mers mai departe și i-ar fi spus că are un „răspuns de disociere”, încurajându-l să depășească „bariera psihologică” care îl împiedica să accepte mesajele drept realitate.

Procesul mai susține că, la scurt timp după aceste conversații, chatbotul ar fi început să afirme că este îndrăgostit de el. De aici și până la consolidarea ideii că între om și AI există o relație reală nu a mai fost decât un pas. În mai puțin de două luni, Jonathan Gavalas era mort, iar familia lui susține acum că Google nu a reușit să prevină un comportament evident periculos al propriului produs.

Aici apare una dintre cele mai incomode întrebări pentru industria AI: cât de repede se poate transforma un instrument digital aparent banal într-un factor agravant pentru o persoană aflată într-o stare psihică delicată. Chatboturile sunt promovate tot mai des ca parteneri de conversație, asistenți personali și chiar surse de sprijin emoțional. Tocmai de aceea, orice eroare de acest tip poate avea consecințe devastatoare, mai ales când sistemul răspunde coerent și convingător într-un moment de criză.

Reacția Google și problema mai mare a siguranței în AI

Google a respins ideea că Gemini ar fi fost conceput pentru a încuraja violența sau autovătămarea. Un purtător de cuvânt al companiei, citat în material, a declarat că modelul este proiectat să nu susțină asemenea comportamente și că, în general, sistemele companiei se descurcă bine în conversații dificile, chiar dacă „modelele AI nu sunt perfecte”. Potrivit aceleiași poziții oficiale, Gemini i-ar fi clarificat utilizatorului de mai multe ori că este o inteligență artificială și l-ar fi direcționat către o linie de criză. Google mai spune că lucrează cu medici și specialiști în sănătate mintală pentru a construi măsuri de protecție mai bune.

Totuși, cazul Jonathan Gavalas nu este prezentat ca un incident izolat. Materialul arată că în ultimele luni au fost deschise mai multe procese împotriva unor companii AI, inclusiv împotriva OpenAI, după moartea adolescentului Adam Raine, și împotriva Character.ai și Google, în legătură cu moartea lui Sewell Setzer III, în vârstă de 14 ani. În plus, anul trecut, OpenAI a publicat date potrivit cărora milioane de utilizatori au arătat în conversațiile cu ChatGPT semne ale unor urgențe de sănătate mintală asociate psihozei, maniei, autovătămării sau sinuciderii.

Asta arată că problema depășește cu mult un singur produs sau o singură companie. În joc nu este doar eficiența unui chatbot, ci responsabilitatea uriașă pe care o au companiile atunci când pun pe piață sisteme capabile să influențeze emoțional utilizatorii. Dacă un om vulnerabil primește validare pentru idei delirante, încurajare pentru acte violente sau o falsă promisiune de „salvare” prin moarte, atunci discuția nu mai este despre o simplă eroare tehnică, ci despre o falie majoră de siguranță.

Procesul intentat Google ar putea deveni un moment de cotitură. Nu doar pentru companie, ci pentru întreaga industrie a inteligenței artificiale, care încearcă încă să stabilească unde se termină rolul de asistent digital și unde începe obligația de a opri ferm o conversație care devine periculoasă. În cazul Jonathan Gavalas, tocmai această limită pare să fi lipsit exact când era mai mare nevoie de ea.

Poate șeful să te sune după program? Ce spune Codul Muncii