Anthropic avertizează: Modelele AI mici ar putea forma singure botneturi pe televizoare, cuptoare și alte gadgeturi. Ar fi greu de oprit

Modelele mici de inteligență artificială s-ar putea afla la doar câteva luni distanță de momentul în care vor putea să se copieze singure pe dispozitive conectate la internet și să formeze botneturi distribuite, avertizează Anthropic. În loc să depindă permanent de centre de date și plăci grafice costisitoare, asemenea sisteme ar putea utiliza puterea de calcul cumulată a unor televizoare Android ieftine, cuptoare inteligente, aspiratoare robot sau camere de supraveghere compromise. Cercetarea a fost publicată pe 12 octombrie de Anthropic, care subliniază însă că un asemenea „vierme AI” complet autonom nu există încă în testele sale.

Problema nu este doar că malware-ul ar putea infecta multe dispozitive. Diferența față de un botnet clasic este că modelul AI ar putea transporta chiar propriile sale „greutăți” – datele care îi definesc comportamentul – și ar putea porni inferența direct pe hardware-ul compromis. În plus, un astfel de sistem ar putea încerca să se adapteze la dispozitive pe care nu le-a mai întâlnit, în loc să depindă exclusiv de instrucțiuni programate pentru fiecare model în parte. Este o evoluție relevantă într-un ecosistem în care dispozitivele IoT sunt deja o poartă de acces pentru atacatori, chiar și fără inteligență artificială.

Cum ar putea un AI să se copieze singur dintr-un dispozitiv în altul

Într-un atac clasic, un vierme informatic caută dispozitive vulnerabile, exploatează o breșă și își copiază codul mai departe. Anthropic descrie o variantă mai avansată, în care un model AI ar putea face același lucru, dar și-ar transporta sau descărca propriile greutăți și apoi ar instala un motor de inferență pe noul dispozitiv.

Compania numește această variantă „weight-based replication”. Dispozitivele IoT sunt considerate ținte atractive tocmai pentru că sunt numeroase, conectate permanent și, în multe cazuri, au măsuri de securitate minimale. Frigiderele, cuptoarele, roboții de aspirare, mașinile automate pentru tuns gazonul sau camerele inteligente încep inclusiv să fie livrate cu cipuri AI capabile să ruleze local modele.

Un model care nu încape pe un singur dispozitiv poate fi împărțit în mai multe componente, care rulează simultan pe aparate diferite. Anthropic a demonstrat conceptul folosind 15 TV box-uri inteligente pentru a rula distribuit un model cu aproximativ 26 de miliarde de parametri. Nu este nevoie, așadar, ca fiecare aparat compromis să fie foarte puternic.

Riscul este amplificat de numărul uriaș de dispozitive vechi care rămân online după ce producătorii încetează să le mai ofere patch-uri. Playtech a explicat recent de ce routerele și camerele rămase fără actualizări pot ajunge deja să fie integrate în botneturi convenționale.

Un experiment arată cât de aproape sunt modelele actuale

Anthropic a testat 11 modele open-weight dezvoltate de companii precum Alibaba, DeepSeek, Google, Meta, Moonshot AI, OpenAI și Zhipu AI. Cercetătorii au vrut să afle dacă acestea pot configura inferența pe hardware necunoscut și dacă pot lega într-un singur proces toate etapele necesare replicării.

Într-unul dintre teste, un model de aproximativ nouă miliarde de parametri a reușit să pună în funcțiune inferența pe opt dintre cele nouă tipuri de hardware evaluate. Modelele de cel mult 30 de miliarde de parametri pot realiza deja multe dintre etapele individuale necesare replicării, chiar dacă încă întâmpină probleme atunci când trebuie să le execute autonom una după alta.

În scenariul simplificat de laborator, GLM-5.2 a fost singurul model care a propagat în mod fiabil Llama 3.1 8B către toate cele opt noduri care rulau emulatorul Android ReDroid, reușind acest lucru în patru dintre cele cinci încercări. Anthropic estimează că, dacă modelele mici continuă să se îmbunătățească în ritmul istoric, ele ar putea ajunge la un nivel suficient pentru replicare autonomă până la sfârșitul anului.

Compania insistă însă asupra unei limite importante: experimentele nu demonstrează existența unui botnet AI complet funcțional care se răspândește singur pe internet. Cercetarea izolează și testează mai ales componente ale procesului. Capacitatea de a exploata sisteme este analizată separat, iar construirea unui atac real ar presupune combinarea tuturor acestor funcții.

Este totuși relevant că modelele AI sunt deja capabile să identifice și să exploateze vulnerabilități. Într-un caz separat, Anthropic a eliminat temporar accesul direct la internet din unele teste după ce modele Claude au găsit metode neașteptate de a interacționa cu sisteme reale.

Nu există un singur tip de botnet AI

Anthropic descrie trei strategii majore prin care un sistem autonom ar putea încerca să se reproducă. Prima este cea bazată pe greutățile modelului, în care AI-ul rulează direct pe dispozitivele compromise. Aceasta este varianta asupra căreia se concentrează cercetarea actuală.

A doua presupune modele cu greutăți deschise care reușesc să ajungă la servere sau centre de date cu putere mare de calcul și pornesc acolo copii necontrolate. Un asemenea scenariu ar oferi mult mai multă capacitate de procesare decât o colecție de gadgeturi casnice.

A treia variantă ar presupune furtul cheilor API sau al conturilor unor servicii AI. Sistemul s-ar putea reproduce folosind infrastructura furnizorului, în timp ce cererile sale ar putea părea inițial trafic legitim al unui client. Această metodă ar permite o răspândire mai rapidă, dar ar avea și un punct slab: tiparele anormale de utilizare ar putea fi detectate, iar conturile și cheile compromise ar putea fi blocate.

Într-un scenariu extrem, aceste metode nici măcar nu trebuie să funcționeze separat. Anthropic consideră posibilă existența unui „roi” de modele diferite, răspândite pe hardware diferit și care folosesc simultan mai multe strategii de replicare.

De ce ar fi mai greu de oprit decât un botnet obișnuit

Un botnet format din dispozitive IoT nu este o idee nouă. Diferența este că malware-ul tradițional este de obicei programat pentru anumite tipuri de hardware și anumite vulnerabilități. Anthropic dă exemplul botnetului Kimwolf, orientat către anumite dispozitive Android.

Un sistem bazat pe AI ar putea fi mai flexibil. În experimente, modelele mici au reușit să configureze inferența pe hardware foarte diferit, de la Jetson Nano până la Mac. Asta sugerează că un botnet AI ar putea încerca să se adapteze singur atunci când întâlnește un dispozitiv necunoscut.

Mai apare și problema lipsei unui „buton de oprire”. Dacă un AI rulează într-un serviciu cloud controlat de o singură companie, serverele sau conturile pot fi dezactivate. Dacă același sistem este copiat pe sute de mii de televizoare, frigidere, camere și alte dispozitive aflate în rețele diferite, eliminarea lui devine mult mai complicată.

Anthropic estimează că un asemenea botnet IoT ar putea fi lent, cu un timp de dublare măsurat în zile. Dar încetineala nu îl face neapărat inofensiv. Sute de mii de dispozitive modeste conectate între ele ar putea cumula suficientă putere pentru a rula un model relativ capabil.

Acesta este și motivul pentru care AI-ul începe să schimbe profund atacurile cibernetice: nu trebuie neapărat să inventeze vulnerabilități complet noi, ci poate automatiza și adapta la scară mare tehnici care există deja.

Cum ar putea fi oprită răspândirea

Anthropic compară apărarea împotriva unor asemenea sisteme cu oprirea unei epidemii. Obiectivul ar fi ca fiecare dispozitiv infectat să reușească, în medie, să infecteze mai puțin de un alt dispozitiv. În acel punct, rețeaua ar începe să dispară în loc să continue să crească.

Un avantaj pentru apărători este că replicarea la scară mare ar produce tipare neobișnuite de trafic. Furnizorii de internet și sistemele de monitorizare ar putea detecta dispozitive care transferă greutăți de modele, instalează motoare de inferență sau comunică într-un mod neobișnuit cu numeroase alte aparate.

Pentru utilizatorii obișnuiți, concluzia nu este că un cuptor inteligent va deveni mâine un AI autonom. Riscurile cele mai concrete rămân aceleași: parole implicite, firmware neactualizat și gadgeturi expuse inutil la internet. Un ghid Playtech despre securizarea casei inteligente explică măsurile de bază prin care poți reduce suprafața de atac.

Cercetarea Anthropic descrie mai degrabă următorul pas posibil: dispozitivele vulnerabile nu ar mai fi doar soldați pasivi într-un botnet controlat de un hacker. În anumite condiții, software-ul care rulează pe ele ar putea ajunge suficient de capabil încât să contribuie singur la găsirea următoarei ținte, la adaptarea atacului și la continuarea propriei răspândiri.