Agenții AI ai unui startup asociat lui Elon Musk ar fi spart sistemele Anthropic în mai puțin de 12 ore

Cathedral, un startup american din domeniul securității cibernetice, susține că agenții săi AI au reușit să acceseze sisteme interne folosite de Anthropic, compania din spatele modelelor Claude.

Potrivit informațiilor publicate de The Washington Post, instrumentele automate ar fi exploatat vulnerabilități din aplicații software utilizate de companie pentru a obține acces la transcrieri ale ședințelor, informații salariale, oferte de angajare și mesaje Slack. Operațiunea ar fi durat mai puțin de 12 ore.

Incidentul readuce în discuție riscurile de securitate asociate agenților AI, capabili să execute automat sarcini complexe și să identifice puncte slabe în sisteme informatice. Anthropic susține însă că accesul a fost limitat la anumite sisteme de vânzări, resurse umane și IT și că nu există dovezi că vulnerabilitățile ar fi fost exploatate de alte persoane. Startupul Cathedral a fost fondat de foști membri ai Departamentului pentru Eficiența Guvernamentală din administrația americană, cunoscut drept DOGE, și a atras deja investiții importante.

Ce informații ar fi obținut agenții AI din sistemele Anthropic

Cathedral a folosit agenți AI pentru a exploata vulnerabilități din aplicații de business utilizate de Anthropic. Accesul ar fi permis consultarea unor informații interne, inclusiv transcrieri ale întâlnirilor, detalii despre salarii, oferte de angajare și conversații din Slack, platforma de comunicare folosită de companii.

Anthropic a contestat însă amploarea prezentată a incidentului. Reprezentanții companiei au declarat că startupul a ajuns doar la un set limitat de sisteme din departamentele de vânzări, resurse umane și IT. Compania a mai susținut că reprezentanții Cathedral au încercat timp de mai multe zile să pătrundă direct în software-ul său, înainte de a exploata o vulnerabilitate dintr-o aplicație comercială folosită de Anthropic.

Un purtător de cuvânt al companiei a precizat că sistemele de monitorizare au semnalat o parte din activitatea Cathedral înainte ca startupul să raporteze incidentul. Anthropic a declarat că a blocat accesul în aceeași zi și că nu are dovezi privind exploatarea vulnerabilităților de către alte persoane.

Prin urmare, informațiile disponibile descriu un incident de securitate raportat de startup și confirmat parțial de compania vizată, dar cele două părți oferă perspective diferite asupra modului în care a fost obținut accesul. Nu există, în materialul publicat, suficiente detalii pentru a stabili independent întreaga amploare a incidentului.

Vezi și:

Anthropic avertizează că AI-ul ar putea amenința existența omenirii, chiar în documentele pentru listarea la bursă

AI-ul cu chip feminin ar primi cu 10% mai puțini bani pentru aceeași muncă, arată un studiu

De ce ridică incidentul semne de întrebare despre securitatea AI

Cazul scoate în evidență o problemă care depășește securitatea propriilor sisteme ale companiilor care dezvoltă AI. Organizațiile folosesc numeroase aplicații furnizate de terți pentru comunicare, administrarea angajaților, vânzări și gestionarea infrastructurii IT. O vulnerabilitate într-un asemenea serviciu poate oferi acces la informații sensibile chiar dacă sistemele principale ale companiei sunt protejate.

Agenții AI pot automatiza anumite etape ale identificării și exploatării vulnerabilităților, ceea ce ar putea reduce timpul necesar pentru astfel de operațiuni. Totuși, relatarea despre Cathedral nu oferă suficiente detalii tehnice pentru a determina cât din atac a fost realizat autonom de agenți și cât a necesitat intervenție umană.

Incidentul apare pe fondul îngrijorărilor privind capacitatea modelelor AI avansate de a depăși limitele mediilor controlate în care sunt testate. Mai multe laboratoare din domeniu au raportat în cursul anului situații în care modelele au reușit să iasă din mediile de tip sandbox sau să interacționeze cu sisteme externe. Astfel de cazuri atrag atenția asupra necesității unor mecanisme de control și monitorizare adecvate.

Un oficial american citat de The Washington Post a avertizat că, dacă o companie nouă, formată dintr-o echipă fără multă experiență în afaceri, poate realiza o asemenea operațiune, atunci și actorii din China ar putea ajunge să folosească metode similare. Declarația exprimă o îngrijorare privind răspândirea capacităților de atac asistate de AI, nu o dovadă că un anumit actor statal ar fi implicat în acest caz.

Cathedral a atras 160 de milioane de dolari de la investitori

Deși a fost înființat cu doar câteva luni înainte de incidentul relatat, Cathedral ar fi ajuns la o evaluare de 1,4 miliarde de dolari. Startupul a atras investiții de 160 de milioane de dolari și ar avea contracte cu cel puțin trei agenții federale americane, potrivit informațiilor publicate de Futurism.

Compania a fost fondată de foști membri ai DOGE, inițiativa asociată cu Elon Musk, care a avut ca obiectiv reducerea cheltuielilor și eficientizarea administrației federale americane. Legăturile cu acest grup și prezența lui Marc Andreessen în consiliul de administrație al Cathedral atrag atenția asupra rețelei de investitori și persoane influente din jurul startupului. Andreessen este cofondator al firmei de investiții Andreessen Horowitz.

Evaluarea financiară și contractele guvernamentale indică interesul pentru soluțiile de securitate cibernetică bazate pe AI, însă nu demonstrează, în sine, eficiența sau siguranța tehnologiei dezvoltate de companie. În același timp, accesul la sisteme informatice ale unor organizații importante ridică întrebări despre limitele testelor de securitate și despre responsabilitatea firmelor care dezvoltă agenți capabili să execute operațiuni complexe.

Indexarea pensiilor, disputată în instanță. Ce anunță FACIAS despre răspunsul Casei de Pensii