UE vrea să interzică imaginile intime generate de AI fără acord: reguli noi după scandalul Grok

Uniunea Europeană face un nou pas important în reglementarea inteligenței artificiale, vizând una dintre cele mai controversate utilizări ale acesteia: generarea de imagini intime fără consimțământ. Decizia vine în urma unor cazuri recente care au stârnit reacții puternice la nivel global.

Comisia pentru libertăți civile din Parlamentul European a aprobat un amendament care ar putea interzice explicit sistemele AI capabile să creeze imagini realiste cu conținut sexual, atunci când persoana reprezentată nu și-a dat acordul, scrie Bloomberg.

Măsura face parte dintr-un pachet legislativ mai amplu care vizează reglementarea tehnologiilor bazate pe inteligență artificială.

Ce prevede noua propunere și de ce este importantă

Noua regulă UE ar interzice dezvoltarea și utilizarea sistemelor AI care pot genera imagini explicite sau intime ale unor persoane reale fără consimțământul acestora. Este pentru prima dată când legislația europeană vizează direct tehnologia în sine, nu doar utilizatorii care o folosesc abuziv.

Totuși, există o nuanță importantă: interdicția nu se va aplica în cazul companiilor care implementează mecanisme eficiente pentru a preveni generarea unor astfel de conținuturi. Practic, responsabilitatea cade și pe dezvoltatori, nu doar pe utilizatori.

Această schimbare reflectă evoluția rapidă a AI-ului, care poate crea imagini extrem de realiste, greu de diferențiat de cele autentice. Legislatorii europeni consideră că simpla sancționare a utilizatorilor nu mai este suficientă în acest context.

Scandalul care a accelerat decizia

Unul dintre factorii care au grăbit această inițiativă a fost utilizarea chatbot-ului Grok, dezvoltat de xAI. Platforma a fost folosită pentru a genera un număr mare de imagini intime false, bazate pe fotografii reale ale unor persoane complet îmbrăcate.

Vezi și:

Grokipedia, enciclopedia AI a lui Musk, oferă propria realitate alternativă. Mai multe surse de dreapta pe subiecte sensibile, arată un studiu

VIDEO | Nu mai poți crede nici ce vezi pe videochat. Noua manie AI schimbă fețele oamenilor în timp real

Situația a generat un val de critici și a determinat compania să limiteze rapid funcțiile respective. În paralel, autoritățile din UE și Marea Britanie au deschis investigații pentru a verifica dacă au fost încălcate legile privind siguranța online și moderarea conținutului.

Ce urmează pentru companii și utilizatori

Dacă propunerea va fi adoptată oficial, dezvoltatorii de sisteme AI vor trebui să demonstreze că au implementat măsuri clare pentru a preveni generarea de conținut ilegal. În practică, acest lucru ar putea însemna filtre mai stricte, verificări suplimentare și limitări tehnice ale modelelor.

În același timp, legislația ridică și întrebări dificile: cum poate un sistem AI să verifice dacă o persoană și-a dat consimțământul? Este o provocare tehnică majoră, care ar putea influența modul în care sunt dezvoltate viitoarele aplicații.

Această inițiativă face parte dintr-un efort mai amplu al Uniunii Europene de a reglementa inteligența artificială și de a proteja utilizatorii. Pe măsură ce tehnologia devine tot mai puternică, presiunea pentru reguli clare și responsabilitate crește.

În final, direcția este clară: AI-ul trebuie să evolueze nu doar rapid, ci și responsabil. Iar Europa pare hotărâtă să stabilească limitele încă de acum.

Poate angajatorul să te oblige să îți iei concediu într-o anumită perioadă? Ce spune Codul Muncii