Vulnerabilitate gravă în Microsoft Copilot. Hackerii puteau obține e-mailuri, coduri 2FA și documente confidențiale

O nouă problemă de securitate descoperită în Microsoft Copilot ridică semne de întrebare privind siguranța asistenților bazați pe inteligență artificială utilizați în mediul de afaceri.

Cercetătorii în securitate cibernetică au identificat o metodă prin care atacatorii puteau determina sistemul să extragă și să transmită informații sensibile, inclusiv e-mailuri, coduri de autentificare în doi pași și documente interne.

Descoperirea demonstrează încă o dată că, pe măsură ce inteligența artificială devine tot mai integrată în activitățile zilnice, apar și noi tipuri de riscuri pe care companiile trebuie să le ia în calcul.

Specialiștii de la Varonis Threat Labs au numit această tehnică „SearchLeak”, o combinație de vulnerabilități care permitea ocolirea mecanismelor de protecție implementate de Microsoft în Copilot, scrie Mashable.

Cum funcționa atacul care păcălea inteligența artificială

Metoda nu se baza pe o singură breșă de securitate, ci pe combinarea mai multor vulnerabilități aparent minore. Atacatorii trimiteau victimei un link special construit, care conținea instrucțiuni ascunse într-un parametru al adresei web.

După accesarea linkului, Copilot interpreta informațiile respective ca pe o comandă legitimă și putea începe să caute date în contul utilizatorului. Cercetătorii au demonstrat că sistemul putea fi determinat să acceseze e-mailuri, documente stocate în cloud, invitații la întâlniri și alte informații disponibile în ecosistemul Microsoft 365.

Problema era amplificată de faptul că atacul viza versiunea Enterprise a Copilot, utilizată în companii și organizații. Astfel, datele accesibile nu se limitau la informațiile personale ale unui utilizator, ci puteau include conținut intern al firmei, documente SharePoint, fișiere OneDrive și alte resurse la care angajatul avea drept de acces.

Vezi și:

Apple pregătește scumpiri pentru iPhone, Mac și iPad. Tim Cook spune că situația a devenit „nesustenabilă”

Microsoft lansează Copilot Cowork pentru toată lumea. Noua unealtă AI promite să preia sarcini complexe și să reducă semnificativ timpul de lucru

În mod normal, Microsoft a implementat mecanisme care împiedică asistentul AI să trimită informații sensibile către destinații externe. Totuși, cercetătorii au descoperit că aceste protecții puteau fi ocolite printr-o succesiune atent construită de pași.

Microsoft a rezolvat problema, dar experții avertizează asupra unui risc mai mare

Pentru a transmite informațiile către atacator, vulnerabilitatea exploata inclusiv anumite funcționalități asociate motorului de căutare Bing. Astfel, datele extrase de Copilot puteau ajunge pe serverele controlate de atacatori fără ca utilizatorul să observe că ceva neobișnuit se întâmplă.

Potrivit specialiștilor, unul dintre aspectele îngrijorătoare este faptul că fiecare vulnerabilitate implicată părea relativ inofensivă atunci când era analizată separat. Însă combinate, acestea au creat un lanț de atac capabil să depășească barierele de securitate existente.

Vestea bună este că Microsoft a confirmat remedierea problemei după raportarea sa de către cercetători. Compania a implementat actualizări care împiedică reproducerea scenariului descris de echipa de securitate.

Chiar și așa, incidentul scoate în evidență o provocare tot mai importantă pentru industria inteligenței artificiale. Pe măsură ce sistemele AI primesc acces la cantități uriașe de informații și devin capabile să interacționeze cu aplicații, documente și servicii online, suprafața de atac se extinde considerabil.

Experții avertizează că viitoarele amenințări nu vor mai exploata neapărat o singură vulnerabilitate majoră, ci vor combina mai multe slăbiciuni aparent nesemnificative pentru a obține acces la date sensibile. Din acest motiv, securitatea sistemelor bazate pe inteligență artificială devine una dintre cele mai importante provocări pentru companiile tehnologice în următorii ani.

Apple pregătește scumpiri pentru iPhone, Mac și iPad. Tim Cook spune că situația a devenit „nesustenabilă”