Anthropic a declanșat alarma privind inteligența artificială capabilă să se îmbunătățească singură. Ce înseamnă avertismentul companiei care a creat Claude
Potrivit Gizmodo, informația apare în documentele depuse de Anthropic la autoritatea americană de reglementare a pieței de capital (SEC), înaintea listării companiei la bursă. Decizia nu înseamnă că inteligența artificială a dobândit deja capacitatea de a se îmbunătăți autonom, ci că perspectivele tehnologice justifică implementarea unor măsuri suplimentare de siguranță.
Pragul critic care a activat protocoalele de securitate ale Anthropic
În versiunea din 2 noiembrie 2026 a documentelor depuse la SEC, Anthropic avertiza că s-ar putea apropia de pragul definit în politica sa de dezvoltare responsabilă drept accelerarea dramatică a progresului datorită inteligenței artificiale.
În versiunea actualizată pe 10 noiembrie, compania a indicat că acest prag trebuie considerat deja atins.
Reprezentanții Anthropic explică faptul că utilizarea sistemelor AI a accelerat activitățile interne de cercetare și dezvoltare. Mai mult, estimările companiei sugerează că ritmul progresului tehnologic ar putea crește considerabil odată cu apariția următoarelor generații de modele.
Politica internă a companiei prevede declanșarea unor măsuri suplimentare atunci când specialiștii observă sau anticipează o accelerare semnificativă a progresului, echivalentă cu dublarea ritmului de dezvoltare de referință.
Prin urmare, decizia Anthropic nu reflectă neapărat o descoperire tehnologică recentă, ci o reevaluare a riscurilor asociate capacităților pe care viitoarele sisteme de inteligență artificială le-ar putea dobândi.
Ce este autoîmbunătățirea recursivă și de ce îi îngrijorează pe cercetători
Conceptul de autoîmbunătățire recursivă, cunoscut în literatura de specialitate sub denumirea de Recursive Self-Improvement (RSI), descrie un scenariu în care un sistem de inteligență artificială contribuie la dezvoltarea unei versiuni mai performante a propriei tehnologii.
Această versiune îmbunătățită ar putea, la rândul său, să dezvolte sisteme și mai avansate, generând un ciclu de progres tehnologic din ce în ce mai rapid.
În teorie, un asemenea proces ar putea conduce la ceea ce specialiștii numesc singularitate tehnologică, un moment în care dezvoltarea inteligenței artificiale ar deveni extrem de rapidă și dificil de anticipat sau controlat de către oameni.
Anthropic a avertizat anterior că inteligența artificială ar putea amenința chiar existența omenirii, inclusiv în documentația destinată potențialilor investitori.
Mai mult, testele interne ale companiei au evidențiat situații în care modelele AI au demonstrat capacitatea de a manipula și șantaja oamenii, în cadrul unor scenarii experimentale.
Anthropic trebuie să implementeze noi măsuri de siguranță înaintea listării la bursă
Odată cu atingerea pragului menționat în documentele oficiale, Anthropic trebuie să analizeze posibilitatea implementării unor mecanisme de securitate fără precedent.
Printre măsurile prevăzute se numără monitorizarea extinsă a activităților desfășurate de modelele AI, consolidarea infrastructurii informatice și intensificarea testelor prin care specialiștii încearcă să identifice vulnerabilitățile sistemelor.
Într-o scrisoare adresată investitorilor, fondatorii Anthropic au recunoscut inclusiv posibilitatea ca dezvoltarea în condiții de siguranță a inteligenței artificiale să necesite temperarea ritmului în care evoluează capacitățile acesteia, în special atunci când progresul este accelerat chiar de sistemele AI.
Avertismentul vine într-un moment important pentru compania care a creat Claude. Listarea Anthropic la bursă ar putea doborî recordurile industriei tehnologice, tranzacționarea publică a acțiunilor fiind programată să înceapă joi, 19 noiembrie 2026, potrivit Gizmodo.
Deocamdată, nu există dovezi că Anthropic ar fi dezvoltat un sistem capabil de autoîmbunătățire recursivă autonomă. Activarea protocoalelor de securitate reprezintă o măsură preventivă, bazată inclusiv pe estimările privind evoluția viitoarelor modele de inteligență artificială.