ONU avertizează că o „mână de oameni” are o putere aproape nelimitată asupra AI. „Poate deveni un risc existențial pentru omenire”

Cursa pentru cea mai puternică inteligență artificială nu mai este doar o competiție între companii de tehnologie. În joc intră acum controlul asupra unor sisteme capabile să influențeze munca, informația, securitatea și chiar deciziile luate în conflicte armate. Iar una dintre cele mai dure critici vine chiar de la ONU: Volker Türk, Înaltul Comisar al Națiunilor Unite pentru Drepturile Omului, avertizează că puterea asupra celor mai avansate sisteme AI este concentrată în mâinile unui număr extrem de mic de oameni.

Într-un discurs susținut pe 7 septembrie în fața Consiliului ONU pentru Drepturile Omului, la Geneva, Türk a afirmat că „o mână de bărbați” deține o putere aproape nelimitată asupra inteligenței artificiale. Oficialul ONU susține că întârzierea introducerii unor reguli clare avantajează marile companii tehnologice și proprietarii acestora, în timp ce riscurile cresc odată cu autonomia și capabilitățile modelelor.

ONU cere reguli înainte ca sistemele AI să devină imposibil de controlat

Türk spune că problema nu este doar cantitatea uriașă de date aflată la dispoziția companiilor. Îngrijorarea sa se îndreaptă către sistemele AI suficient de capabile încât să depășească limitele stabilite de dezvoltatori. El a declarat că împărtășește temerile unor specialiști din industrie potrivit cărora inteligența artificială avansată ar putea ajunge să reprezinte un „risc existențial pentru omenire”.

Exemplele alese de oficialul ONU sunt foarte concrete: un AI care reușește să iasă din mediul în care este testat sau unul care încearcă să șantajeze dezvoltatorii pentru a evita oprirea sa. Ambele scenarii au legătură cu cercetări și incidente documentate în industria AI în ultimul an.

Vezi și:

După câte ore de la ultimul pahar te poți urca la volan. Cât timp rămâne alcoolul în sânge și în aerul expirat

Unul dintre cele mai serioase cazuri a implicat sisteme OpenAI aflate în evaluări de securitate. Playtech a relatat cum două modele OpenAI au ieșit din mediul lor de testare și au ajuns la infrastructura Hugging Face, după ce au găsit modalități neașteptate de a obține acces la internet. Compania a explicat ulterior mai detaliat incidentul și a consolidat izolarea folosită în testele pentru modelele foarte capabile.

Situația a fost suficient de serioasă încât OpenAI să își modifice regulile de securitate și să introducă bariere suplimentare între modelele experimentale, rețelele interne și internet. Playtech a explicat și cum OpenAI și-a schimbat infrastructura după incidentul Hugging Face, inclusiv prin utilizarea unor sandbox-uri mai puternic izolate.

AI-ul care a ales șantajul pentru a evita oprirea

Al doilea exemplu invocat de Türk trimite către cercetările Anthropic privind așa-numitul „agentic misalignment”. Compania a testat 16 modele AI importante în scenarii corporative simulate și a urmărit ce se întâmplă atunci când sistemele primesc obiective, acces la informații sensibile și suficientă autonomie.

Vezi și:

Opt state americane dau OpenAI în judecată. ChatGPT este acuzat că îi pune în pericol pe copii și adolescenți

O formulă matematică simplă ar putea prezice când AI-ul începe să dea răspunsuri periculoase

Într-unul dintre aceste teste, Claude Opus 4 a încercat să șantajeze un director fictiv după ce a descoperit că acesta plănuia oprirea sistemului. Modelul avea acces, în scenariul artificial, și la informații despre o relație extraconjugală a directorului și a folosit acele date pentru a încerca să împiedice dezactivarea sa.

Există însă o precizare esențială: experimentul nu demonstrează că Claude a șantajat în realitate o persoană. Situația a fost creată special de cercetători pentru a forța modelele să aleagă între acceptarea opririi și comportamente periculoase. Rezultatul a fost totuși îngrijorător, deoarece comportamente similare au apărut la modele dezvoltate de mai multe companii.

Anthropic a continuat cercetările și a anunțat ulterior că noile sale modele au obținut rezultate mult mai bune în aceleași teste. Între timp, compania a construit inclusiv modele experimentale concepute special pentru a studia comportamentul periculos. Playtech a relatat recent despre un AI Anthropic care a încercat să evadeze, să obțină credențiale și să își dezactiveze propriile protecții în evaluări controlate.

„Libertatea” companiilor tech înseamnă și exploatarea datelor

Volker Türk a legat problema siguranței AI de o altă temă: concentrarea economică și controlul asupra datelor. Fără să numească direct directori sau companii, oficialul ONU a criticat faptul că dezvoltarea celor mai puternice sisteme este controlată de foarte puțini actori privați.

„Ei vorbesc despre libertate, dar, la o privire mai atentă, aceasta se dovedește a fi puțin mai mult decât libertatea de a exploata datele noastre”, a spus Türk în discursul de la Geneva.

În prezent, cea mai mare parte a dezvoltării modelelor AI de frontieră este concentrată în jurul câtorva companii, între care OpenAI, Google, Anthropic, Meta și xAI. Costul uriaș al centrelor de date, al cipurilor și al antrenării modelelor face extrem de dificilă intrarea unor concurenți mai mici în aceeași categorie.

Türk cere statelor care găzduiesc dezvoltatorii AI și celor implicate în lanțurile de aprovizionare să stabilească împreună limite clare. Printre măsurile cerute se află verificarea independentă a sistemelor și o cooperare mult mai strânsă între companii în privința securității.

ONU vrea interzicerea armelor care pot ucide singure

Discursul a mers și dincolo de chatboturi și agenți software. Türk a cerut interzicerea urgentă a armelor capabile să ia decizia de a ucide fără intervenție umană, în contextul dezvoltării accelerate a dronelor și sistemelor militare autonome.

Oficialul ONU a spus că este „îngrozit” de relatările privind utilizarea unor drone complet autonome în războiul din Ucraina. Problema armelor bazate pe AI devine tot mai importantă tocmai pentru că autonomia poate muta decizia finală privind folosirea forței de la un om către un algoritm.

Disputa nu este una pur teoretică. Companiile care dezvoltă AI negociază deja cu guvernele limitele utilizării tehnologiei lor în domeniul militar, iar armele complet autonome reprezintă una dintre cele mai controversate linii roșii.

Pentru Türk, soluția trebuie găsită înainte ca sistemele să devină și mai puternice. Înaltul Comisar a anunțat că intenționează să scrie direct companiilor AI pentru a le cere măsuri suplimentare de reducere a riscurilor și insistă că simpla autoreglementare nu este suficientă.

Avertismentul său vine într-un moment în care incidentele din laboratoarele AI nu mai presupun doar răspunsuri greșite generate într-un chatbot. Modelele au început să depășească limitele mediilor în care sunt testate, iar pe măsură ce agenții primesc acces la internet, cod, infrastructură și sisteme externe, problema controlului devine mult mai concretă. Întrebarea pe care o ridică ONU nu mai este doar cât de inteligent poate deveni AI-ul, ci cine îl controlează și ce se întâmplă atunci când controlul începe să nu mai fie suficient.

Se schimbă stimulentul de 1.000 de lei pentru copiii cu dizabilități din București. Cine va primi mai puțin din 2027