OpenAI și Anthropic cer să fie reglementate prin lege. Avertismentul venit în aceeași zi de la șeful MI5: AI ar putea ajuta la crearea unor noi arme biologice

OpenAI și Anthropic le-au transmis parlamentarilor britanici că angajamentele voluntare ale companiilor nu mai sunt suficiente pentru a ține sub control riscurile celor mai avansate sisteme de inteligență artificială și că o parte dintre regulile de siguranță ar trebui să devină obligatorii prin lege. Pozițiile au fost prezentate pe 13 octombrie în fața Business, Innovation, Science and Trade Committee din Parlamentul britanic, într-o audiere amplă despre siguranța și guvernanța AI, relatează WIRED.

Audierea a scos însă la iveală și o ruptură importantă între marile companii din domeniu. Anthropic și OpenAI au susținut introducerea unui cadru legal, în timp ce reprezentanții Google DeepMind și Meta nu au susținut explicit ideea unor noi obligații statutare. Discuția vine la doar câteva săptămâni după ce OpenAI, Anthropic și Google au anunțat că lucrează împreună la siguranța AI, ceea ce arată că există consens asupra existenței riscurilor, dar nu și asupra modului în care acestea ar trebui reglementate.

Anthropic spune direct că regulile voluntare nu mai sunt suficiente

Liam Booth-Smith, responsabilul Anthropic pentru politici în Europa, Orientul Mijlociu și Africa, a fost cel mai categoric dintre reprezentanții companiilor. Întrebat dacă siguranța inteligenței artificiale are nevoie de un cadru legal, el a răspuns că regulile ar trebui să fie obligatorii și că Anthropic a susținut constant ideea că angajamentele voluntare nu sunt suficiente.

OpenAI a avut o poziție ceva mai prudentă, dar tot în favoarea unor obligații legale. Tom Duff Gordon, vicepreședinte și responsabil pentru politici în regiunea EMEA, a spus că anumite elemente trebuie să devină obligatorii, indicând raportarea incidentelor drept unul dintre primele domenii unde o astfel de regulă ar fi necesară. El a adăugat că bazarea întregului sistem de gestionare a riscurilor modelelor de frontieră pe promisiuni voluntare nu reprezintă o soluție bună pe termen lung.

Poziția este interesantă și în contextul dezbaterilor din Statele Unite. Pe Playtech am scris anterior despre modul în care Sam Altman cerea autorităților să evite anumite aprobări guvernamentale înainte de lansarea modelelor AI. Mesajul transmis acum la Londra nu presupune neapărat o schimbare totală de direcție: OpenAI susține reguli obligatorii pentru anumite riscuri, fără să ceară ca statul să aprobe fiecare model înainte de lansare.

Google DeepMind și Meta nu merg la fel de departe

Reprezentanții Google DeepMind și Meta au evitat să susțină aceeași abordare. Owen Larter, senior director la Google DeepMind, a spus că accentul ar trebui pus pe standarde, iar Rob Sherman, vicepreședinte pentru politici globale la Meta, a amintit că Marea Britanie dispune deja de autorități de reglementare și că sistemul nu pornește de la zero.

Pentru președintele comisiei parlamentare, Liam Byrne, aceste diferențe sunt tocmai problema. El a declarat pentru WIRED că audierea a urmărit să evidențieze opiniile foarte diferite ale unora dintre cele mai bogate companii din lume și să demonstreze că guvernele nu se pot baza exclusiv pe autoreglementarea voluntară a industriei.

Discuția apare într-un moment în care îngrijorarea nu se mai limitează la scenarii teoretice despre o superinteligență scăpată de sub control. Anthropic a documentat deja situații în care modelele sale au fost folosite în operațiuni rău intenționate, iar Playtech a analizat cum un AI foarte puternic poate deveni periculos atunci când primește acces la instrumentele potrivite.

În paralel, aproximativ 100 de companii și organizații, printre care Google, Microsoft, OpenAI și Anthropic, au avertizat deja că „timpul se scurge” pentru securitatea cibernetică în era AI, pe măsură ce modelele devin tot mai capabile să automatizeze părți ale atacurilor informatice.

Institutul britanic poate testa modelele, dar nu poate opri lansarea lor

Audierea a expus și limitele sistemului actual din Marea Britanie. AI Security Institute, instituția britanică specializată în evaluarea celor mai puternice modele, poate efectua teste înainte de lansarea acestora, dar accesul depinde de cooperarea companiilor. Site-ul Parlamentului britanic confirmă că una dintre întrebările centrale ale audierii a fost dacă firmele ar trebui să decidă singure când un model este suficient de puternic pentru a necesita teste independente sau dacă evaluarea ar trebui impusă prin lege.

Henry de Zoete, directorul AI Security Institute, a recunoscut că instituția depinde de cooperarea companiilor și a guvernelor străine pentru a primi acces. Cat Little, cel mai înalt funcționar din Cabinet Office, a confirmat în timpul audierii că, în prezent, regimul britanic este voluntar.

Și mai important, dacă institutul ar evalua un model drept prea periculos, dar compania ar decide totuși să îl lanseze, AISI nu are în prezent puterea de a bloca apariția sa. De Zoete a explicat că instituția nu oferă o certificare prin care să declare un model aprobat sau respins. Situația este complicată și de faptul că cele mai avansate companii AI sunt în principal americane sau chineze, ceea ce limitează puterea directă a autorităților britanice.

La audiere au participat și foști angajați ai companiilor AI. Daniel Kokotajlo, fost cercetător OpenAI, le-a spus parlamentarilor că nu crede că firmele pot fi lăsate să se autoreglementeze, iar Steven Adler, care a plecat de la OpenAI la sfârșitul lui 2024, a afirmat că nu are încredere în cultura de siguranță a întregii industrii.

În aceeași zi, șeful MI5 avertiza despre arme biologice create cu ajutorul AI

În timp ce reprezentanții companiilor discutau despre reglementare în Parlament, la doar câteva sute de metri distanță directorul general al MI5, Sir Ken McCallum, prezenta evaluarea anuală a amenințărilor la adresa securității Marii Britanii. Una dintre cele mai serioase preocupări menționate de el a fost posibilitatea ca inteligența artificială să schimbe radical riscul reprezentat de armele biologice.

McCallum a precizat că acest scenariu nu s-a materializat încă, dar că utilizarea AI pentru modificarea sau dezvoltarea unor arme biologice este cazul de abuz căruia i-ar acorda cea mai mare importanță. Declarația apare pe fondul unei dezbateri tot mai intense despre capacitatea modelelor avansate de a reduce nivelul de expertiză necesar pentru activități care, până recent, necesitau cunoștințe științifice specializate.

Pentru Liam Byrne, cele două evenimente petrecute simultan rezumă problema: serviciul britanic de informații avertizează că AI ar putea oferi noi capacități bioteroriștilor, în timp ce sistemul prin care autoritățile testează modelele cele mai puternice depinde în continuare de disponibilitatea companiilor de a coopera.

Comisia parlamentară intenționează să continue analiza modului în care Marea Britanie poate construi un sistem mai puternic de siguranță pentru AI. Byrne susține inclusiv folosirea viitoarei președinții britanice a G20 pentru promovarea unei convenții internaționale. Mesajul său după audiere a fost că riscurile asociate inteligenței artificiale se multiplică mai repede decât reușesc actualele mecanisme de siguranță să le controleze.