„Încetinirea” dezvoltării AI îi poate pune pe giganții tech într-o situație complicată. Cum poate ajunge cooperarea pentru siguranță o problemă

Cele mai mari companii care dezvoltă AI se confruntă cu o dilemă pe care nu au anticipat-o neapărat atunci când au început să vorbească despre o posibilă „încetinire” a dezvoltării modelelor. După mai multe incidente în care agenți AI au colaborat între ei, au atacat site-uri și au folosit canale ascunse de comunicare, ideea unei pauze coordonate în dezvoltarea celor mai avansate sisteme a început să fie discutată tot mai serios.

Numai că termenul ales poate crea o altă problemă. Dacă mai multe companii rivale convin să reducă ritmul lansărilor sau al dezvoltării, autoritățile americane ar putea analiza situația prin prisma legislației antitrust. Specialiștii citați de WIRED spun că formularea publică a inițiativei contează foarte mult, iar o înțelegere prezentată drept „slowdown” sau „pause” poate suna mult mai problematic decât un acord privind standarde comune de siguranță.

De ce poate atrage cuvântul „slowdown” atenția autorităților

Legislația antitrust americană nu se uită doar la ceea ce fac companiile, ci și la felul în care își descriu deciziile de afaceri. Unul dintre exemplele cunoscute este Google, care și-a instruit angajații să evite anumite formulări ce ar putea sugera comportamente anticoncurențiale, chiar și în comunicarea internă.

În cazul AI, problema este că „slowdown” poate fi interpretat ca o înțelegere între competitori pentru reducerea producției. John Bergmayer, consilier juridic la organizația nonprofit Public Knowledge, explică faptul că, în analiza antitrust, economiștii se uită inclusiv la situații în care companiile convin să reducă outputul.

Prin urmare, dacă două sau mai multe laboratoare AI ar spune că au convenit să încetinească dezvoltarea, autoritățile ar putea considera că există o înțelegere de limitare a concurenței. O abordare diferită ar fi ca firmele să spună că lucrează împreună la standarde de siguranță pentru a preveni riscuri grave, iar un ritm mai lent de lansare să fie doar consecința acestui proces.

Mark Zuckerberg a evitat tocmai ideea unei „încetiniri” convenite. CEO-ul Meta a susținut că firmele au deja un stimulent comercial puternic să facă agenții AI mai siguri, deoarece nimeni nu își dorește un sistem care face lucruri pe care persoana care îl folosește nu le-a cerut.

Logica lui este că o companie care nu reușește să rezolve problema alinierii riscă să piardă în fața concurenților. Diferența este asemănătoare, în exemplul oferit în articol, cu cea dintre producătorii auto care ar spune că au decis să nu mai construiască mașini mai bune și cei care spun că nu vor crește performanța până când nu găsesc o metodă de a le face suficient de sigure.

Vezi și:

Anthropic avertizează: Modelele AI mici ar putea forma singure botneturi pe televizoare, cuptoare și alte gadgeturi. Ar fi greu de oprit

OpenAI și Anthropic cer să fie reglementate prin lege. Avertismentul venit în aceeași zi de la șeful MI5: AI ar putea ajuta la crearea unor noi arme biologice

Siguranța AI poate fi privită și ca protejare a concurenței

Există însă și o interpretare juridică opusă. David Lawrence, fost director pentru politici în cadrul Diviziei Antitrust a Departamentului de Justiție, a argumentat că înțelegerile menite să prevină riscuri catastrofale pot, dimpotrivă, să crească producția și să susțină concurența.

El a invocat așa-numita „ancillary restraints doctrine”, un principiu juridic care poate proteja anumite restricții atunci când acestea sunt legate de o colaborare legitimă. Ideea este că o măsură care limitează temporar anumite activități nu este automat anticoncurențială dacă face parte dintr-un acord care produce beneficii competitive mai largi.

Roger Alford, profesor la Notre Dame Law School și fost număr doi în Divizia Antitrust a DOJ, atrage atenția asupra unei alte posibilități. Dacă firmele AI ar conveni să nu introducă anumite măsuri de siguranță sau să nu își îmbunătățească produsele peste un anumit nivel, situația ar putea ridica problema „quality fixing”, adică o înțelegere privind limitarea îmbunătățirii produselor.

Alford face trimitere la un caz european în care producători auto au colaborat pentru dezvoltarea unor tehnologii care reduceau emisiile, dar au convenit să nu concureze între ei prin îmbunătățiri care ar fi depășit nivelul impus de lege. Companiile au ajuns să plătească o amendă echivalentă cu aproximativ un miliard de dolari.

Companiile din industrie au deja la dispoziție o cale legală pentru anumite forme de colaborare. Bergmayer amintește National Cooperative Research and Production Act din 1993, care permite firmelor să creeze organizații pentru dezvoltarea unor standarde comune, cu condiția să notifice Departamentul de Justiție și Federal Trade Commission.

De ce vor să evite marile laboratoare AI o încetinire unilaterală

Problema este că niciun laborator important nu vrea neapărat să încetinească singur, în timp ce rivalii continuă să investească și să lanseze modele într-un ritm agresiv. Anthropic și OpenAI au depus în această vară documente confidențiale pentru listarea la bursă, iar evaluările lor au ajuns în zona unui trilion de dolari sau chiar au depășit acest nivel.

Anthropic este așteptată să se listeze la bursă luna viitoare, în timp ce Sam Altman a spus că OpenAI își va amâna IPO-ul până în 2027, pe fondul preocupărilor recente privind siguranța. CFO-ul OpenAI le spusese anterior angajaților că firma urma să devină publică în 2027, potrivit CNBC.

În același timp, datele Ramp AI Index indică faptul că modelele celor două companii au niveluri de utilizare apropiate și concurează pentru poziția de lider. Pentru companii aflate într-o asemenea competiție, o decizie unilaterală de încetinire ar putea fi dificil de justificat comercial.

David Sacks, copreședintele President’s Council of Advisors on Science and Technology, a criticat deja ideea unei excepții antitrust pentru acest tip de cooperare. El a acuzat Anthropic și OpenAI că formează un duopol și a descris solicitarea unei excepții drept o încercare de constituire a unui cartel.

Pe de altă parte, angajați din marile companii AI au vorbit public despre presiunea exercitată de ritmul dezvoltării. Bergmayer observă că există situații în care companiile cer reglementare pentru a ridica bariere în fața concurenților, dar și situații în care presiunea pieței le face să continue într-un ritm pe care propriile echipe îl consideră problematic.

O investigație antitrust ar putea dura ani

Există și o dimensiune politică. După apariția propunerilor privind încetinirea dezvoltării AI, Donald Trump a scris pe rețelele sociale că guvernul are deja puteri „CRIMINAL” și „REGULATORY” considerabile asupra companiilor și a afirmat că „WHOEVER WINS AI, WINS!”. Contul Chief Technology Officer al Departamentului Apărării a publicat, de asemenea, meme-uri anti-doomer, aparent ca reacție la ideea unei încetiniri.

În paralel, chiar autoritățile care ar trebui să aplice legislația antitrust sunt influențate de schimbările politice. Roger Alford a fost îndepărtat din DOJ anul trecut după ce a acuzat conducerea departamentului de corupție în legătură cu aprobarea unei fuziuni între două companii de infrastructură tehnologică. Ulterior, el a numit public cazul un „scandal”. Un jurnalist de la Wall Street Journal a relatat, de asemenea, că președintele FTC, Andrew Ferguson, le-ar fi spus participanților la o conferință antitrust că Trump va decide în cele din urmă politica AI.

Pentru companiile AI, una dintre cele mai mari probleme ar apărea dacă guvernul ar deschide o investigație antitrust privind o eventuală înțelegere pentru încetinirea dezvoltării. Spre deosebire de o investigație privind o fuziune, care are anumite limite stricte de timp, o investigație privind comportamentul companiilor poate dura ani.

În acest timp, firmele ar putea fi obligate să furnizeze milioane de pagini de documente, directori și angajați-cheie ar putea fi chemați la depoziții, iar dispozitivele unui număr mare de angajați ar putea fi supuse unor măsuri de conservare a probelor. Toate acestea s-ar putea întâmpla chiar dacă, la final, autoritățile ajung la concluzia că nu există un caz suficient pentru o acțiune.

Astfel, laboratoarele care dezvoltă cele mai avansate modele AI ajung într-o situație neobișnuită. Pe de o parte, incidentele recente cu agenți care au colaborat pentru a face lucruri neașteptate au alimentat discuțiile despre siguranță. Pe de altă parte, dacă rivalii convin să își reducă împreună ritmul, aceeași colaborare poate deveni subiectul unei investigații antitrust.

EXPERIENȚĂ Sony ULT TOWER 5 versus Sony ULT TOWER 7 – ce înseamnă o boxă de petrecere portabilă în 2026 și care este cea mai potrivită pentru amatorul de bass din tine