Anthropic avertizează că AI-ul ar putea amenința existența omenirii, chiar în documentele pentru listarea la bursă

Anthropic, compania care dezvoltă chatbotul Claude, se pregătește pentru o posibilă listare la bursă, într-un moment în care avertismentele sale privind riscurile inteligenței artificiale avansate ocupă un loc important în documentația destinată investitorilor. În prospectul IPO, compania recunoaște că sistemele AI suficient de avansate ar putea genera riscuri catastrofale sau existențiale pentru societate dacă nu sunt dezvoltate și folosite în mod responsabil.

Documentele descriu și limitele măsurilor de siguranță pe care Anthropic încearcă să le aplice propriilor modele. Compania admite că nu poate garanta că aceste măsuri vor fi suficiente pentru a preveni eventualele consecințe grave. Avertismentele apar în timp ce firma încearcă să atragă investitori și să se prezinte drept un actor preocupat de dezvoltarea responsabilă a AI.

Anthropic recunoaște riscurile sistemelor AI avansate

În prospectul pentru oferta publică inițială, Anthropic explică faptul că evaluarea siguranței modelelor sale presupune decizii dificile, ale căror consecințe devin mai importante pe măsură ce sistemele AI capătă noi capacități. Un model care nu respectă obiectivele stabilite sau este folosit în scopuri abuzive ar putea provoca daune tot mai grave.

Compania menționează că cercetători și factori de decizie și-au exprimat îngrijorarea cu privire la posibilitatea ca sistemele AI suficient de avansate să genereze riscuri catastrofale sau existențiale. Anthropic susține că abordarea sa, axată pe siguranță, urmărește să reducă aceste pericole, dar avertizează că nu există garanții privind succesul măsurilor adoptate.

Documentul mai precizează că nici adoptarea unor reguli de protecție de către întreaga industrie nu este sigură. Astfel, chiar o companie care pune siguranța în centrul strategiei sale recunoaște că nu poate controla toate riscurile asociate tehnologiei pe care o dezvoltă.

Listarea la bursă vine cu o evaluare uriașă și pierderi importante

Potrivit Futurism, Anthropic ar urmări o evaluare de până la 2.000 de miliarde de dolari în perspectiva listării. Publicația susține că firma ar fi înregistrat pierderi de 80 de miliarde de dolari în prima jumătate a anului 2026. Aceste cifre conturează un debut potențial neobișnuit pe piețele financiare, în condițiile în care investitorii ar trebui să evalueze atât perspectivele comerciale, cât și riscurile tehnologice.

Compania se confruntă și cu alte obstacole. Extinderea centrelor de date stârnește opoziție în mai multe comunități, iar infrastructura disponibilă și accesul la suficientă energie electrică pot limita dezvoltarea industriei. În paralel, utilizarea produselor AI poate genera probleme juridice, în funcție de modul în care sunt folosite și de consecințele acestora.

Vezi și:

AI-ul cu chip feminin ar primi cu 10% mai puțini bani pentru aceeași muncă, arată un studiu

OpenAI își izolează modelele AI de internet în timpul antrenării, după mai multe incidente de securitate

În acest context, avertismentele privind riscurile existențiale pot fi interpretate în mai multe feluri. Ele reflectă preocupările declarate ale companiei privind siguranța, dar pot contribui și la imaginea Anthropic ca alternativă mai responsabilă pentru investitori, în comparație cu alți dezvoltatori de AI.

Compania susține încetinirea dezvoltării celor mai avansate modele

Anthropic a cerut o încetinire la nivelul industriei în dezvoltarea modelelor AI de ultimă generație, invocând riscurile asociate progresului rapid. Poziția face parte din strategia prin care compania încearcă să pună accent pe siguranță, însă nu elimină contradicțiile dintre obiectivele declarate și presiunile comerciale.

Jacob Coxon, fost cercetător al companiei, a criticat direcția industriei într-o declarație făcută după plecarea sa, avertizând asupra posibilității ca AI să provoace consecințe extreme până la sfârșitul deceniului. Afirmația reprezintă opinia sa, nu o predicție demonstrată sau o certitudine privind evoluția tehnologiei.

În documentele destinate investitorilor, Anthropic descrie și riscul ca piața pentru modelele, platforma și aplicațiile sale să se dezvolte mai lent decât estimează compania sau chiar să se restrângă. Un asemenea scenariu ar putea încetini creșterea și ar afecta rezultatele financiare.

Investitorii vor trebui să evalueze atât siguranța, cât și profitabilitatea

O eventuală listare ar pune Anthropic în fața unei provocări duble. Compania va trebui să convingă investitorii că poate dezvolta produse competitive și o afacere sustenabilă financiar, demonstrând în același timp că măsurile sale de siguranță pot limita riscurile asociate sistemelor AI.

Problema este că Anthropic recunoaște explicit limitele acestor măsuri. Chiar dacă modelele sunt supuse unor evaluări și unor mecanisme de protecție, compania nu poate garanta că toate riscurile vor fi prevenite și nici că alți dezvoltatori vor adopta aceleași standarde.

Pentru investitori, avertismentele din prospect vor trebui analizate alături de perspectivele de creștere, costurile infrastructurii și capacitatea companiei de a obține venituri suficiente. Miza nu se rezumă la promisiunea unor modele mai puternice, ci include și demonstrarea faptului că dezvoltarea lor poate fi gestionată în condiții de siguranță, fără a compromite viabilitatea comercială a afacerii.

O casă nouă, un secret în pereți și un horror perfect pentru Halloween care nu merge chiar unde te aștepți: REVIEW Within