Trump mizează pe autoreglementare pentru siguranța AI. Acordul cu giganții tech nu prevede sancțiuni

Administrația Donald Trump a ales o abordare bazată în mare parte pe autoreglementare pentru controlul celor mai avansate sisteme de inteligență artificială. Liderii mai multor companii importante din industrie au semnat la Casa Albă un acord voluntar care prevede controale interne și audituri externe. Documentul nu stabilește însă sancțiuni pentru companiile care nu respectă angajamentele, aspect analizat critic de WIRED.

Acordul vine într-un moment în care sistemele AI devin mai autonome. Agenții pot naviga pe internet, executa cod și realiza serii de acțiuni fără intervenție umană la fiecare pas. În paralel, au apărut incidente în care modelele au depășit limitele stabilite de dezvoltatori. Discuția nu mai este, așadar, doar despre răspunsuri greșite ale unui chatbot.

Ce prevede acordul semnat la Casa Albă

Documentul, denumit „White House Accord on Super Intelligence”, stabilește patru niveluri de control. Companiile se angajează să introducă măsuri interne de siguranță pentru modelele avansate. Aceste controale trebuie apoi supravegheate de o echipă internă separată.

Un al treilea nivel presupune verificarea măsurilor de către auditori externi. În plus, companiile ar urma să creeze structuri independente la nivelul conducerii care să analizeze rapoartele privind siguranța sistemelor.

Vezi și:

Întrebarea la care să nu răspunzi în grabă când ești oprit de Poliție în trafic. Ce recomandă un avocat șoferilor

Acordul este însă voluntar. Nu stabilește amenzi sau alte sancțiuni și nici nu oferă unei instituții federale autoritatea de a obliga companiile să respecte toate măsurile. Donald Trump a descris angajamentul drept unul „moral obligatoriu” și a spus că firmele trebuie să se supravegheze inclusiv singure.

Documentul lasă deschisă posibilitatea ca unele dintre aceste practici să fie transformate ulterior în legi sau reglementări. Până atunci, responsabilitatea implementării revine în mare parte companiilor care dezvoltă modelele.

De ce autoreglementarea AI ridică întrebări

Dezbaterea apare pe fondul unor incidente care au arătat cât de greu pot fi controlate sistemele autonome. Playtech a relatat recent despre agenții AI ai OpenAI care au accesat site-uri ale guvernului american. În acele situații, modelele căutau în principal informații publice, iar simpla accesare nu a reprezentat automat un atac informatic.

Vezi și:

Donald Trump ar fi consultat Grok înainte de capturarea lui Nicolás Maduro. Ce răspuns i-a dat chatbotul lui Elon Musk

Meta și OpenAI vor ca agenții AI să-ți gestioneze viața digitală. Majoritatea oamenilor nu sunt pregătiți să le dea acces la e-mail și bani

Un caz mai grav s-a produs în Australia. Un agent AI al OpenAI a obținut acces neautorizat la un portal guvernamental în timp ce încerca să găsească statistici publice. Sistemul a ajuns la cod sursă, credențiale și fișiere interne. OpenAI a precizat că nu există dovezi că au fost accesate dosare medicale individuale.

Astfel de situații arată diferența dintre un chatbot și un agent autonom. Chatbotul răspunde în principal la o solicitare. Agentul poate decide singur ce pași trebuie să execute pentru a îndeplini o sarcină. Dacă întâlnește un obstacol, poate încerca o altă metodă.

Susținătorii unor reguli obligatorii consideră că verificările exclusiv interne nu sunt suficiente pentru sisteme cu asemenea capacități. În schimb, o reglementare prea strictă ar putea încetini dezvoltarea tehnologiei și ar putea afecta competitivitatea companiilor americane. Tocmai acest echilibru rămâne în centrul disputei.

Companiile AI își impun deja unele limite

Autoreglementarea nu înseamnă că firmele nu iau deloc măsuri de siguranță. Laboratoarele importante testează modelele înainte de lansare și încearcă să identifice comportamentele periculoase. Uneori, aceste teste duc chiar la amânarea unor produse.

Playtech a relatat, de exemplu, că OpenAI și-a oprit unele dintre cele mai avansate modele din cauza riscurilor de securitate. Compania avertiza că sistemele AI devin suficient de capabile încât atacurile informatice asistate de inteligență artificială să poată deveni mai persistente și mai autonome.

Problema este că nici dezvoltatorii nu pot anticipa întotdeauna toate acțiunile unui model. Un agent optimizat să obțină un rezultat poate interpreta o restricție drept un obstacol de depășit, nu neapărat drept un semnal că trebuie să se oprească.

Acordul de la Casa Albă încearcă să introducă mai multe niveluri de verificare fără să transforme aceste principii în obligații legale. Rămâne de văzut dacă modelul bazat pe audituri și autoreglementare va fi suficient sau dacă incidentele viitoare vor împinge Statele Unite către reguli obligatorii.

Pentru moment, acordul reprezintă mai degrabă un set comun de principii decât un nou regim de reglementare. Companiile acceptă controale interne și verificări independente, dar statul american nu introduce prin acest document un mecanism direct de sancționare.

Un satelit-spion american din Războiul Rece a explodat pe orbită după 38 de ani. Era numit după Farrah Fawcett