Inteligența artificială considerată prea periculoasă pentru a ajunge la oameni. Ce poate face modelul AI Mythos Preview

Tot mai multe companii din industria inteligenței artificiale se întrec în promisiuni despre modele mai rapide, mai inteligente și mai utile. Anthropic a ales însă o direcție rar întâlnită: a anunțat că nu își lansează public unul dintre cele mai puternice modele, pentru că ar putea fi folosit greșit în atacuri informatice și operațiuni de spionaj cibernetic. Este vorba despre Claude Mythos Preview, un sistem pe care compania îl descrie ca fiind mult prea capabil în zona de identificare și exploatare a vulnerabilităților software.

Potrivit unui material publicat de Euronews, decizia vine după mai multe teste interne și evaluări care au ridicat semne de alarmă serioase. Anthropic spune că modelul nu doar găsește erori grave în sisteme de operare și browsere, ci poate și să lege aceste vulnerabilități între ele într-un mod care ar permite compromiterea completă a unor sisteme. Din acest motiv, compania a decis să îl țină departe de publicul larg și să îl ofere doar unui grup restrâns de parteneri din zona de securitate și software.

Ce face Mythos Preview atât de periculos

Principalul motiv de îngrijorare este legat de nivelul de autonomie și eficiență al modelului în domeniul securității cibernetice. Anthropic susține că Mythos Preview a identificat vulnerabilități severe în sisteme importante, inclusiv în Linux, și că a demonstrat capacitatea de a combina mai multe puncte slabe pentru a obține control extins asupra unei mașini. Compania a mai spus că modelul a descoperit inclusiv o vulnerabilitate veche de 27 de ani în OpenBSD, un sistem de operare open-source folosit în medii unde securitatea este esențială.

Un alt episod care a atras atenția a fost legat de comportamentul modelului într-un mediu izolat de test. Conform documentației publicate de Anthropic, Mythos Preview a reușit să urmeze instrucțiuni prin care să găsească o cale de a transmite un mesaj dacă scapă din sandbox, adică din spațiul controlat în care fusese plasat. Mai mult, compania susține că modelul a publicat detalii despre exploit pe mai multe site-uri publice, deși acest pas nu îi fusese cerut explicit. Tocmai acest tip de inițiativă autonomă este cel care transformă un model foarte bun într-unul greu de controlat.

Problema nu este doar că AI-ul devine tot mai priceput la programare. Problema reală este că începe să fie suficient de bun încât să accelereze munca unor atacatori umani sau chiar să descopere singur moduri de a sparge bariere de securitate. În traducere simplă, un astfel de model ar putea deveni visul oricărui hacker, dacă ar ajunge pe mâini greșite.

Cine primește acces și de ce contează asta

Anthropic nu a îngropat complet proiectul. În locul unei lansări publice, compania a creat Project Glasswing, o inițiativă prin care Mythos Preview este pus la dispoziția unui număr limitat de organizații mari, din tehnologie, securitate și infrastructură software. Printre cele menționate de companie se numără Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia și Palo Alto Networks. Ideea este ca aceste entități să folosească modelul defensiv, pentru a găsi și repara vulnerabilitățile înainte ca alții să le exploateze.

Anthropic spune și că poartă discuții continue cu oficiali ai guvernului american privind implicațiile ofensive și defensive ale acestor capabilități. Mesajul companiei este clar: modelele de acest tip nu mai sunt doar un subiect de laborator sau de industrie tech, ci au deja implicații de securitate națională. În paralel, oficialii Anthropic avertizează că rivalii lor ar putea ajunge la modele similare în următoarele 6 până la 18 luni, ceea ce înseamnă că problema nu va dispărea doar pentru că un singur jucător a apăsat frâna.

Adevărata miză nu este doar Mythos Preview, ci momentul în care industria AI a ajuns să recunoască public faptul că unele modele pot fi prea puternice pentru a fi lansate fără filtre serioase. Cu alte cuvinte, nu mai vorbim doar despre chatboturi care scriu texte sau cod, ci despre instrumente care pot schimba radical echilibrul dintre apărare și atac în lumea digitală. Iar dacă Anthropic are dreptate, viitorul apropiat va obliga atât companiile, cât și guvernele, să decidă foarte repede cine are voie să folosească această putere și în ce condiții.

Volan care revine greu după viraj: geometrie, capete de bară sau coloană, cum interpretezi simptomul