OpenAI, Anthropic și Google colaborează pentru siguranța AI. De ce apar întrebări despre concurență

OpenAI lucrează de câteva săptămâni cu rivalii Anthropic și Google DeepMind pentru a găsi modalități prin care cele mai avansate sisteme de inteligență artificială să fie dezvoltate și testate mai sigur. Informația a fost confirmată de Chris Lehane, responsabilul global pentru politici al OpenAI, într-o întâlnire cu presa organizată la Washington. Potrivit acestuia, cele trei companii discută despre siguranța AI și nu consideră că ar avea nevoie, în acest moment, de o exceptare de la legislația antitrust pentru această colaborare.

Discuțiile au loc într-un moment în care mai mulți lideri din industria AI cer ca ritmul dezvoltării celor mai puternice modele să fie temperat, astfel încât măsurile de siguranță să poată ține pasul. Dario Amodei, CEO-ul Anthropic, a publicat recent un eseu în care a cerut industriei să încetinească dezvoltarea sistemelor de frontieră și să creeze mecanisme comune de evaluare. Sam Altman a susținut public ideea, iar OpenAI a anunțat că este dispusă să introducă evaluatori independenți pentru verificarea siguranței modelelor sale.

De ce ridică probleme colaborarea dintre rivalii antitrust

Ideea ca trei dintre cele mai importante companii din industria AI să lucreze împreună pentru siguranță pare, la prima vedere, relativ simplă. Problema apare atunci când o astfel de colaborare implică schimb de informații sensibile sau stabilirea unor reguli comune într-o piață în care aceleași companii concurează pentru clienți, infrastructură și dezvoltarea celor mai performante modele.

Unele propuneri au ajuns deja să includă posibilitatea unei excepții limitate de la legislația antitrust. Senatorii americani Jim Banks și Adam Schiff au introdus o inițiativă legislativă care ar permite companiilor AI să facă schimb de anumite informații legate de riscuri, inclusiv amenințări cibernetice sau situații în care un sistem AI ar putea pierde controlul. Ideea unei astfel de protecții juridice este ca firmele să poată colabora în domeniul siguranței fără riscul ca această cooperare să fie considerată o încălcare a regulilor concurențiale.

Nu toată industria privește însă propunerea în același mod. Aidan Gomez, CEO-ul companiei AI Cohere, a criticat public ideea ca marile laboratoare să primească posibilitatea de a stabili împreună reguli și standarde de siguranță. El susține că o asemenea abordare ar putea ridica bariere pentru companiile mai mici și pentru alți dezvoltatori care nu participă la discuțiile dintre marile laboratoare.

Și autoritățile americane au ridicat semne de întrebare. Andrew Ferguson, președintele Federal Trade Commission, a declarat marți că privește cu suspiciune solicitările pentru exceptări antitrust venite simultan cu cereri de noi reguli pentru industria AI. El a spus că, atunci când companiile cer atât reglementări, cât și o excepție de la regulile concurenței, trebuie analizat dacă aceste măsuri ar putea crea bariere pentru alți competitori.

În schimb, Chris Lehane susține că există deja precedente pentru cooperarea între companii în chestiuni de siguranță. El a indicat industria aeriană ca exemplu și a argumentat că legislația antitrust permite în anumite situații schimbul de informații atunci când scopul este prevenirea unor riscuri. OpenAI consideră, prin urmare, că actualele discuții cu Anthropic și Google DeepMind pot avea loc în cadrul juridic existent, fără o exceptare specială.

Vezi și:

OpenAI și Anthropic cer să fie reglementate prin lege. Avertismentul venit în aceeași zi de la șeful MI5: AI ar putea ajuta la crearea unor noi arme biologice

Viermii AI ar putea ajunge în televizoare, frigidere și aspiratoare. Anthropic avertizează că se pot copia singuri prin casa inteligentă

Ce propune OpenAI și cât de repede ar putea apărea reguli noi

În paralel cu discuțiile dintre companii, OpenAI încearcă să susțină la Washington un cadru federal pentru siguranța sistemelor AI avansate. Lehane s-a întâlnit cu parlamentari americani și a declarat că OpenAI sprijină mai multe inițiative bipartizane menite să reducă riscurile asociate modelelor de frontieră.

Printre acestea se află FRONTIER Act, o propunere care ar crea un cadru federal pentru siguranța AI și ar impune celor mai mari laboratoare să permită verificări realizate de organizații independente. OpenAI și-a exprimat sprijinul pentru ideea ca evaluarea siguranței modelelor să nu rămână exclusiv în mâinile companiilor care le dezvoltă.

Există și o altă propunere aflată în lucru în Senatul american, asociată liderului majorității John Thune și senatorilor Ted Cruz și Amy Klobuchar. Aceasta ar oferi Departamentului Comerțului posibilitatea de a trimite auditori guvernamentali pentru a testa anumite modele AI și pentru a evalua riscurile pe care le prezintă.

Totuși, calendarul legislativ rămâne incert. Thune a declarat că adoptarea unei legislații privind AI până la sfârșitul anului ar putea fi dificilă, având în vedere celelalte priorități ale Congresului. Reuters notează, de asemenea, că nici OpenAI, nici Anthropic, nici Alphabet nu au răspuns imediat solicitărilor sale de comentarii și că informațiile privind colaborarea dintre companii nu au putut fi verificate independent de agenție, scrie Politico.

Pentru moment, situația se află la intersecția dintre două obiective care trebuie gestionate simultan: dezvoltarea unor măsuri comune pentru siguranța AI și păstrarea competiției dintre companiile care construiesc aceste tehnologii. Modul în care vor fi delimitate cele două zone va depinde atât de regulile adoptate de autorități, cât și de ceea ce companiile vor putea demonstra în privința scopului și limitelor colaborării lor.

De ce sunt atât de mulți șobolani într-o zonă centrală din București. Două probleme fac inutilă deratizarea, explicaţiile Primăriei Capitalei