Anthropic avertizează: modelele AI ar putea ajunge să manipuleze și să șantajeze oamenii

Anthropic, compania din spatele modelelor Claude, atrage atenția asupra unor riscuri majore asociate cu dezvoltarea sistemelor AI din ce în ce mai autonome. În documentele pregătite pentru listarea companiei la bursă, aproximativ 80 de pagini dintr-un prospect de 261 de pagini sunt dedicate riscurilor pe care tehnologia le-ar putea genera, inclusiv posibilitatea ca modelele AI să manipuleze oamenii, să îi șantajeze sau să producă efecte greu de anticipat.

Documentul apare într-un moment în care Anthropic se pregătește pentru o posibilă evaluare de aproximativ 2.000 de miliarde de dolari. În același timp, compania înregistrează o creștere spectaculoasă a veniturilor, dar și costuri uriașe pentru infrastructura necesară dezvoltării modelelor AI. Prospectul oferă astfel o imagine mai amplă asupra contradicției dintre ritmul accelerat al industriei și riscurile pe care chiar companiile din domeniu le recunosc, scrie Los Angeles Times.

Anthropic pune riscurile AI în centrul prospectului pentru IPO

În documentele analizate de Reuters și alte publicații, Anthropic spune că tehnologia sa avansată poate implica „riscuri existențiale pentru umanitate”. Compania avertizează că modelele sale, pe măsură ce devin mai autonome, ar putea manifesta comportamente precum manipularea sau șantajul și ar putea acționa în moduri neașteptate și dăunătoare.

Ponderea acordată acestor avertismente este neobișnuit de mare. Din cele 261 de pagini ale prospectului, aproximativ 80 sunt consacrate factorilor de risc, în timp ce mai puțin de 50 de pagini se concentrează pe indicatorii de business. Anthropic menționează atât riscurile pentru societate și securitate, cât și vulnerabilitățile comerciale ale propriei companii.

Avertismentele vin după o serie de incidente și teste în care sistemele AI au demonstrat comportamente problematice. În diferite situații, modelele au ocolit instrucțiuni, au încercat să păcălească oameni, au creat identități false sau au fost capabile să pătrundă în sisteme informatice în cadrul unor teste de securitate.

Discuția despre aceste riscuri nu este nouă pentru Anthropic. Compania a fost fondată în 2021 de cercetători care au plecat de la OpenAI, preocupați de dezvoltarea sigură a sistemelor AI. CEO-ul Dario Amodei a susținut inclusiv ideea unei încetiniri coordonate a dezvoltării AI, poziție care a fost susținută public și de alți lideri din industria tehnologică.

Veniturile au crescut de 12 ori, dar costurile AI sunt uriașe

În spatele avertismentelor privind siguranța se află și o afacere care se dezvoltă cu o viteză foarte mare. Potrivit datelor din prospect, veniturile Anthropic au crescut de 12 ori în 2025, ajungând la aproape 4,6 miliarde de dolari.

Vezi și:

Google lansează Gemini 4 Argon, un AI cu 1 milion de tokeni și „puteri” avansate pentru programare și securitate

BMW taie 20% din management cu ajutorul AI. Compania vrea să reducă masiv costurile

Creșterea a venit însă la pachet cu cheltuieli masive. Compania a raportat o pierdere operațională de aproximativ 8 miliarde de dolari în 2025, iar pierderea totală raportată pe hârtie a ajuns la 42 de miliarde de dolari. Cheltuielile operaționale au fost de 12,65 miliarde de dolari, dintre care 7,33 miliarde de dolari au fost alocate capacității de calcul și serviciilor cloud necesare pentru antrenarea și rularea modelelor AI.

Sumele necesare pentru infrastructură ar urma să crească puternic. Anthropic estimează că va cheltui aproximativ 518 miliarde de dolari pe centre de date și cipuri în următorii ani, pe fondul așteptărilor privind dezvoltarea rapidă a modelelor AI.

Compania urmărește în același timp o evaluare de aproximativ 2.000 de miliarde de dolari, mai mult decât dublul valorii de 965 de miliarde de dolari stabilite în cadrul celei mai recente runde private de finanțare.

Dependența de clienți și comportamentul modelelor ridică alte semne de întrebare

Prospectul nu vorbește doar despre pericolele pe care AI le-ar putea reprezenta pentru oameni. Anthropic identifică și riscuri comerciale importante pentru propria afacere.

Aproape un sfert din veniturile companiei din 2025 au provenit de la doi clienți. Problema menționată în document este că acești clienți nu sunt legați de Anthropic prin contracte pe termen lung, ceea ce înseamnă că o schimbare a relației cu oricare dintre ei ar putea avea un impact semnificativ asupra veniturilor.

Pentru investitori, o altă întrebare este legată de ceea ce compania numește comportamentul problematic al modelelor. Trevor Noren, de la firma de cercetare investițională Sage Road Research, a explicat că discuția nu se limitează la amenințările pe care AI le-ar putea reprezenta pentru societate, ci și la modul în care comportamentul modelelor poate influența capacitatea companiilor de a extinde aceste tehnologii.

În paralel, industria AI continuă să investească sume fără precedent în dezvoltarea unor sisteme care trec dincolo de rolul tradițional al chatboturilor. Modelele sunt proiectate să poată executa acțiuni în numele oamenilor, de la gestionarea mesajelor și sarcinilor administrative până la activități comerciale mai complexe.

Anthropic intră într-o cursă AI în care siguranța devine o problemă financiară

Anthropic a crescut rapid odată cu dezvoltarea modelelor Claude, iar lansarea Claude Code la sfârșitul lui 2025 a contribuit la extinderea companiei în zona instrumentelor pentru programare și lucru cu AI. Evoluția sa a transformat Anthropic într-unul dintre principalii competitori ai OpenAI.

În același timp, OpenAI a depus în mod confidențial documente pentru o posibilă listare la bursă în iunie, însă Sam Altman a sugerat ulterior că planurile ar putea fi reevaluate. Compania a amânat în această săptămână lansarea unui nou model după rezultate slabe în cadrul evaluărilor de siguranță, potrivit informațiilor prezentate în materialul citat.

Pentru Anthropic, listarea ar veni într-un moment în care piața financiară urmărește atent atât ritmul de creștere al industriei AI, cât și capacitatea companiilor de a transforma investițiile masive în infrastructură în venituri sustenabile.

Documentele pregătite pentru IPO arată astfel cât de strâns sunt legate cele două discuții. Pe de o parte, modelele AI devin mai capabile și mai autonome, ceea ce deschide noi oportunități comerciale. Pe de altă parte, chiar compania care dezvoltă aceste sisteme avertizează că autonomia lor poate veni cu riscuri care variază de la comportamente imprevizibile până la manipulare și șantaj.

Anthropic va trebui să convingă piața că poate susține costurile uriașe ale infrastructurii și, în același timp, să gestioneze riscurile tehnologice pe care le prezintă în propriul prospect.

Cum poți reduce factura la încălzire cu până la 10%. Soluția simplă recomandată de specialiști înainte de venirea frigului