Scandal de securitate la Meta: noul agent AI al lui Mark Zuckerberg a expus date bancare, documente financiare și conversații private. Totul, printr-o simplă căutare

Potrivit publicației Futurism, agentul AI Muse, lansat recent de compania lui Mark Zuckerberg, a fost implicat într-un nou incident de securitate, după ce experții firmei Claroc au descoperit că pot identifica peste 6.800 de linkuri generate prin funcția de distribuire a conversațiilor. Descoperirea este cu atât mai îngrijorătoare cu cât Zuckerberg prezentase anterior Muse drept un produs construit încă de la început cu accent pe protejarea datelor și securitate.

Cum au reușit cercetătorii să descopere mii de conversații private

Problema identificată de experții Claroc nu a presupus utilizarea unor instrumente sofisticate de hacking sau compromiterea directă a conturilor utilizatorilor. Vulnerabilitatea a fost legată de modul în care Muse genera adresele web pentru distribuirea conversațiilor.

Atunci când un utilizator dorea să trimită altcuiva o conversație purtată cu agentul AI, aplicația crea automat un link. Acesta includea titlul conversației, generat de inteligența artificială, și un șir de caractere aleatorii, menit să facă adresa dificil de ghicit.

Problema era că titlul conversației apărea în subdomeniul adresei web, o alegere tehnică ce permitea înregistrarea și identificarea linkului prin intermediul bazelor de date DNS. Aceste servicii colectează informații despre domeniile accesate și pot păstra istoricul rezolvării adreselor de internet.

Cercetătorii au descoperit că puteau căuta în aceste baze de date adrese asociate serviciului Muse, identificând astfel linkuri de distribuire care nu le fuseseră trimise direct.

Metoda le-a permis să găsească aproximativ 6.800 de linkuri. După examinarea câtorva sute dintre acestea, specialiștii au identificat conversații și documente care conțineau informații ce nu păreau destinate accesului public.

Printre materialele descoperite se aflau documente interne privind veniturile unei companii, cereri de împrumut, informații despre tranzacții bancare, date referitoare la venituri și credite ipotecare, dar și calendarul concediilor angajaților unei organizații.

Cercetătorii au găsit inclusiv notițe pregătitoare pentru o discuție confidențială de recrutare într-o companie din domeniul inteligenței artificiale.

Un aspect important este că descoperirea nu demonstrează că toate conversațiile Muse erau accesibile public. Vulnerabilitatea afecta linkurile generate prin funcția de distribuire, în condițiile descrise de cercetători.

Incidentul readuce însă în discuție o problemă mai largă, analizată și într-un articol Playtech despre cine poate avea acces la conversațiile tale cu ChatGPT sau Gemini: diferența dintre ceea ce utilizatorii consideră privat și felul în care informațiile sunt procesate, stocate sau distribuite de platformele AI.

Meta a suspendat funcția de distribuire după descoperirea vulnerabilității

După ce jurnaliștii Ars Technica au solicitat explicații, Meta a confirmat că a suspendat temporar funcționalitatea de distribuire a conținutului din Muse.

Compania a explicat că utilizatorii puteau genera pagini accesibile persoanelor care dețineau linkul și că analizează acum modul în care aceste adrese puteau fi descoperite de persoane neautorizate.

Asaf Aprozper, cofondator și director tehnologic al Claroc, a declarat că vulnerabilitatea fusese raportată către Meta încă din 8 octombrie, prin programul dedicat identificării problemelor de securitate.

Potrivit acestuia, cercetătorii au încercat să contacteze și reprezentanți ai companiei prin LinkedIn, fără să primească inițial un răspuns.

Specialiștii au subliniat cât de simplu a fost procesul de identificare a linkurilor. Deși anticipaseră că strângerea acestor informații va necesita un efort considerabil, în realitate a fost suficientă o singură interogare.

Incidentul demonstrează că inclusiv o funcție aparent banală, precum distribuirea unei conversații, poate transforma informațiile confidențiale în date accesibile unor persoane care nu ar fi trebuit să le vadă.

Riscurile devin și mai mari în cazul agenților AI, deoarece aceștia nu se limitează la furnizarea unor răspunsuri. Pot executa sarcini, completa formulare, gestiona documente și interacționa cu servicii externe în numele utilizatorilor.

Această autonomie ridică întrebări importante despre cât control ar trebui să primească agenții AI asupra datelor și conturilor unei persoane sau companii.

Nu este prima problemă de securitate descoperită la Muse

Noua vulnerabilitate apare la numai câteva săptămâni după lansarea agentului AI, într-o perioadă în care Meta încearcă să se impună pe piața asistenților inteligenți capabili să îndeplinească sarcini complexe.

La începutul lunii octombrie, expertul în securitate macOS Patrick Wardle a identificat o altă problemă, care ar fi permis unei aplicații instalate pe același dispozitiv să preia controlul asupra contului Muse.

Meta a minimalizat atunci gravitatea vulnerabilității, argumentând că exploatarea acesteia presupunea compromiterea prealabilă a dispozitivului.

Alte informații apărute recent au indicat că Muse păstra evidențe detaliate despre persoanele din viața utilizatorilor, inclusiv prieteni și membri ai familiei. Potrivit relatărilor, sistemul fusese instruit să mențină informații despre fiecare persoană relevantă din cercul social al utilizatorului.

Acest tip de memorie poate face un asistent AI mai util, deoarece îi permite să înțeleagă relațiile și contextul personal. În același timp, acumularea unor cantități mari de date intime creează riscuri suplimentare dacă informațiile nu sunt protejate corespunzător.

Problema nu este exclusiv a Meta. Pe măsură ce tot mai mulți utilizatori discută cu chatboții despre sănătate, finanțe, relații sau probleme profesionale, informațiile personale oferite inteligenței artificiale pot deveni o sursă de vulnerabilități.

Ce înseamnă incidentul pentru utilizatorii serviciilor AI

Descoperirea cercetătorilor Claroc reprezintă un avertisment privind securitatea noii generații de asistenți digitali. Spre deosebire de chatboții tradiționali, agenții AI pot primi acces la documente, conturi și informații necesare pentru a realiza automat diverse operațiuni.

Cu cât un astfel de sistem primește mai multe permisiuni, cu atât consecințele unei vulnerabilități pot deveni mai importante.

În cazul Muse, Meta susține că a suspendat funcția problematică și că analizează modificările necesare. Totuși, incidentul ridică întrebări despre verificările de securitate efectuate înaintea lansării produsului.

Pentru utilizatori, principala lecție este că o conversație cu inteligența artificială nu trebuie considerată automat un spațiu complet privat, mai ales atunci când sunt implicate documente sensibile sau funcții de distribuire.

Dacă folosești un agent AI pentru activități personale ori profesionale, verifică ce permisiuni îi acorzi, evită să introduci informații financiare care nu sunt necesare și tratează cu atenție linkurile generate pentru partajarea conversațiilor.

Meta încearcă să transforme Muse într-un asistent capabil să gestioneze o parte importantă a vieții digitale. Însă, pentru ca această promisiune să devină realitate, compania trebuie să demonstreze că poate proteja informațiile utilizatorilor cel puțin la fel de bine pe cât reușește să le proceseze.