X limitează Grok: imaginile sexualizate vor fi blocate acolo unde sunt ilegale

După zile de reacții publice dure și intervenții din partea autorităților, compania xAI a lui Elon Musk spune că va împiedica chatbotul Grok să editeze fotografii astfel încât persoane reale să apară în ținute „dezvelite” (de tip bikini, lenjerie sau alte articole considerate revelatoare) în jurisdicțiile unde acest lucru încalcă legea. Măsura a fost anunțată printr-o postare pe platforma X și vine pe fondul unui val de acuzații legate de folosirea instrumentului pentru crearea de imagini sexualizate, inclusiv cu victime minore.

Decizia este cu atât mai sensibilă cu cât a apărut la doar câteva ore după ce Musk declara că nu ar fi fost la curent cu existența unor imagini cu minori generate prin Grok. Între timp, mai multe guverne au anunțat interdicții, avertismente sau anchete, iar în SUA statul California a deschis o investigație privind proliferarea materialelor sexuale neconsimțite create cu ajutorul acestui instrument.

Potrivit explicațiilor publicate, xAI afirmă că a introdus „măsuri tehnologice” care să împiedice contul Grok să permită editarea imaginilor cu persoane reale astfel încât acestea să fie prezentate în ținute provocatoare, în acele locuri unde legislația o interzice. Practic, compania mizează pe geoblocare: aceleași funcții pot fi restricționate sau dezactivate în funcție de țară sau regiune, dacă în acel spațiu legal editările respective sunt considerate ilegale.

În paralel, xAI a mai anunțat o limitare importantă: generarea și editarea imaginilor ar fi fost restrânse la abonații plătitori, argumentul fiind „responsabilizarea” utilizatorilor și posibilitatea de a-i identifica mai ușor pe cei care abuzează sistemul. Cu alte cuvinte, compania încearcă să reducă accesul „la liber” la funcțiile care pot produce rapid conținut problematic, chiar dacă acest lucru nu rezolvă din start riscul de abuz din partea celor care plătesc.

Vezi și:

Ce se întâmplă cu elevii care nu susţin simularea Evaluării Naţionale luni şi marţi. Anunţul făcut de Ministerul Educaţiei

Imagini dureroase de la priveghiul lui Mugurel Vrabete. Membrii trupei Holograf, marii absenţi de la tristul eveniment

Miza comunicării este clară: după ce instrumentul a devenit subiect de controversă globală, compania încearcă să arate că are pârghii tehnice de control și că poate aplica reguli diferențiate în funcție de legislația locală. Totuși, geoblocarea este adesea mai ușor de anunțat decât de implementat impecabil, mai ales când produsul este accesat printr-o platformă globală și este alimentat de încărcări de imagini venite din zeci de jurisdicții simultan.

De ce a explodat scandalul: deepfake-uri, presiune politică și investigații

Problema care a declanșat criza nu este doar conținutul explicit în sine, ci faptul că o parte din imagini ar fi fost neconsimțite și ar fi vizat femei și fete, inclusiv minori. În comunicările publice, autoritățile din California au vorbit despre o producție „la scară” a imaginilor intime falsificate și despre folosirea lor pentru hărțuire online, anunțând o investigație oficială asupra companiei xAI.

În același timp, reacția nu a rămas doar în SUA. Mai multe state au mers direct la măsuri dure: Malaysia și Indonezia au blocat accesul la Grok, iar în Europa au apărut investigații și evaluări privind posibile încălcări ale legislației de siguranță online. În Franța și India au fost emise avertismente și cereri de controale mai stricte, iar Brazilia a cerut investigații privind folosirea abuzivă a instrumentului. În Marea Britanie și la nivelul Uniunii Europene s-a discutat despre posibile încălcări ale legilor privind siguranța online și responsabilitatea platformelor pentru conținutul distribuit.

Vezi și:

Elon Musk a decis să intre pe piața energiei din această țară din Europa: Tesla primește licență pentru furnizarea de electricitate

Chinezii au luat fața americanilor la mașini electrice, sunt de trei ori mai rapizi acolo unde contează. Performanța la care Elon Musk doar visează

Pe acest fundal, apar și detalii care complică imaginea: inițial, răspunsurile publice la întrebările despre problemă au fost percepute drept defensive, iar compania a fost criticată pentru modul în care a tratat temerile legate de imagini sexualizate. Când ai un produs care poate genera sau edita imagini rapid, iar distribuția se întâmplă instant pe o rețea socială masivă, orice lacună de moderare se amplifică imediat.

Ce urmează pentru utilizatori și pentru platforme

Geoblocarea sună bine pe hârtie, dar ridică două întrebări mari: cât de coerente sunt legile de la o țară la alta și cât de bine poate o platformă globală să aplice reguli locale în timp real. În practică, o funcție restricționată într-un stat poate rămâne disponibilă în altul, iar conținutul poate circula peste granițe prin repostări, capturi sau conturi care încearcă să ocolească barierele. De aceea, anchetele și presiunea publică nu se vor opri doar pentru că a apărut o setare nouă.

Pentru tine, partea utilă este să tratezi orice „editare” cu AI care sexualizează o persoană reală drept risc major, indiferent dacă ți se pare „glumă” sau „experiment”. Dacă dai peste astfel de imagini, nu le redistribui și păstrează dovezi (link, capturi, date) înainte să raportezi, fiindcă multe platforme șterg conținutul rapid, iar urmăririle ulterioare devin greu de susținut. Dacă îți este folosită imaginea fără consimțământ, folosește canalele de raportare ale platformei și, unde e cazul, mergi către plângere oficială: în multe jurisdicții, distribuirea de materiale intime neconsimțite are deja consecințe legale.

Mai e un efect secundar care se vede deja: companiile vor încerca să împingă responsabilitatea spre utilizator („nu AI-ul a creat, omul a cerut”), în timp ce autoritățile cer controale proactive și trasabilitate. Exact în această zonă se va juca următorul capitol: cine răspunde când un instrument face posibilă hărțuirea la scară, chiar dacă „tehnic” un utilizator a apăsat pe buton.

În final, orice limitare anunțată de X și xAI va fi judecată nu după formulări, ci după cât de mult scade, în mod real, volumul de abuz și cât de repede sunt blocate scenariile previzibile de ocolire a regulilor. Într-un ecosistem în care imaginile pot fi replicate și redistribuite în câteva secunde, eficiența reală a măsurilor va depinde de combinația dintre filtrare tehnică, politici clare, reacție rapidă la raportări și consecințe pentru conturile care folosesc sistemul pentru hărțuire.

Cea mai sigură destinație turistică pentru români în 2026, surprinzătoare. Unde să mergi în această vară în concediu