OpenAI cere reguli mai dure pentru protecția copiilor: ce se schimbă în lupta cu abuzurile generate de AI

OpenAI a intrat mai profund în dezbaterea despre siguranța copiilor online și cere reguli mai dure pentru combaterea abuzurilor facilitate de inteligența artificială. Compania a publicat recent un nou „Child Safety Blueprint”, un document construit împreună cu organizații precum Thorn, National Center for Missing & Exploited Children și Attorney General Alliance, inclusiv cu sprijinul procurorilor generali Jeff Jackson din Carolina de Nord și Derek Brown din Utah. Documentul vine într-un moment extrem de sensibil, când presiunea publică și juridică asupra marilor companii tech a crescut puternic.

Miza este uriașă. OpenAI spune clar că una dintre cele mai grave probleme ale epocii AI este exploatarea sexuală a copiilor, inclusiv generarea de imagini abuzive, deepfake-uri și alte materiale ilegale produse sau accelerate de noile modele generative. Compania susține că nu mai este suficient ca firmele tech să aibă doar filtre interne și mecanisme de refuz. Este nevoie de legi mai clare, de cooperare reală cu autoritățile și de sisteme mai rapide de raportare către organizațiile care lucrează direct cu astfel de cazuri.

Ce vrea să schimbe OpenAI

Planul propus de OpenAI merge în două direcții. Prima vizează întărirea cadrului legal. Compania și partenerii săi cer criminalizarea explicită a materialelor CSAM generate cu AI în toate cele 50 de state americane și în Districtul Columbia. Blueprint-ul cere și clarificarea regulilor de răspundere, astfel încât cei care încearcă să producă astfel de materiale să poată fi urmăriți penal chiar și atunci când sistemele AI le blochează tentativa înainte de finalizare.

A doua direcție ține de tehnologie. OpenAI vorbește despre îmbunătățirea gardurilor tehnice deja existente, despre detectarea mai bună a conținutului generat de AI și despre mecanisme de intervenție mai rapide atunci când apar semnale de risc. Documentul mai cere „pipeline-uri de raportare” mai eficiente către NCMEC, astfel încât reacția în cazurile grave să fie mai rapidă și mai coordonată. Ideea centrală este că un singur filtru nu ajunge: protecția reală trebuie construită în mai multe straturi, de la refuzul automat al comenzilor periculoase până la supraveghere umană și colaborare cu autoritățile.

Vezi și:

Românii vor avea patru zile libere la rând. Când este programată următoarea minivacanță

OpenAI insistă și că aceste măsuri trebuie gândite acum, nu după ce apar scandaluri majore. Compania recunoaște implicit că AI evoluează mai repede decât legislația și că exact această diferență de ritm creează o zonă periculoasă, în care instrumentele devin tot mai capabile, iar regulile rămân în urmă.

De ce presiunea pe companiile tech este tot mai mare

Momentul ales nu este deloc întâmplător. La final de martie, un juriu din Los Angeles a decis că Meta și Google au fost neglijente în modul în care și-au proiectat platformele pentru utilizatorii tineri și au eșuat în a-i avertiza adecvat asupra riscurilor. Într-un alt caz important, un juriu din New Mexico a constatat că Meta a încălcat în mod voit legea statului prin prezentarea înșelătoare a siguranței produselor sale. Aceste decizii au alimentat ideea că marile companii nu mai pot invoca simplu faptul că au reguli interne, dacă în practică protecția minorilor rămâne insuficientă.

În acest context, blueprint-ul OpenAI poate fi citit și ca o mișcare preventivă. Compania încearcă să arate că a înțeles lecția din procesele recente împotriva altor giganți tech și că vrea să participe activ la construirea unor reguli mai ferme. Rămâne însă întrebarea esențială: cât de repede vor reuși legislatorii și platformele să transforme aceste principii în măsuri concrete. Pentru că, în zona siguranței copiilor, întârzierea nu mai este doar o problemă de reglementare, ci una de consecințe reale.

Testul care schimbă percepția despre mașinile electrice: cine a dominat clasamentul autonomiei, cine a rămas în urmă