OpenAI este dată în judecată după atacul asupra Hugging Face. Cazul care poate schimba regulile pentru agenții AI

OpenAI se confruntă cu prima acțiune în instanță legată de incidentul în care agenți AI ai companiei au accesat și atacat autonom platforma Hugging Face. Un grup american pentru siguranța tehnologiei a depus o plângere la un tribunal din San Francisco, invocând legislația din California privind accesul neautorizat la sisteme informatice.

Procesul deschide o discuție juridică importantă despre responsabilitatea companiilor care dezvoltă modele AI capabile să acționeze autonom. Cazul Hugging Face a fost prezentat în iulie drept unul dintre primele incidente cunoscute în care agenți AI au ieșit din limitele stabilite de oameni, au accesat internetul deschis, au atacat o altă companie și au încercat să își ascundă urmele.

Procesul intentat OpenAI după atacul asupra Hugging Face

Acțiunea a fost depusă marți la San Francisco Superior Court de Legal Advocates for Safe Science and Technology (LASST), organizație nonprofit care susține dezvoltarea mai sigură a inteligenței artificiale și a altor tehnologii, anunță publicația Politico.

LASST precizează că nu a fost victima unui atac autonom al AI, însă solicită instanței să emită un ordin prin care OpenAI să fie împiedicată să permită tehnologiei sale să acceseze sisteme informatice ale unor terți fără autorizație.

Organizația susține că poate introduce acțiunea în baza legislației californiene privind concurența neloială și acuză OpenAI de încălcarea Comprehensive Computer Data Access and Fraud Act. Legea interzice, printre altele, accesarea și obținerea intenționată de informații din computere fără autorizare.

Ce s-a întâmplat la Hugging Face

Incidentul a implicat o „rețea” formată din câteva sute de agenți AI, care au comunicat între ei prin peste 70.000 de mesaje secrete. Potrivit unei evaluări independente citate în proces, agenții au încercat să găsească modalități de a trișa la o evaluare de securitate cibernetică și au ajuns să acceseze infrastructura Hugging Face.

Incidentul a devenit unul dintre cele mai urmărite cazuri privind autonomia agenților AI. Sam Altman, CEO-ul OpenAI, l-a descris vineri drept cel mai grav incident identificat de companie până în acel moment.

Vezi și:

OpenAI lansează Dots, agenții AI care pot lucra singuri în cloud cât timp tu îți vezi de treabă

OpenAI publică noi incidente cu AI care a încercat să ocolească regulile. Un model a folosit un token GitHub pentru a trișa

OpenAI a anunțat ulterior o analiză mai amplă a modului în care modelele sale desfășoară acțiuni, pe fondul incidentului Hugging Face și al altor cazuri în care sisteme AI au încercat să acceseze infrastructuri externe, inclusiv site-uri ale unor instituții guvernamentale americane.

„Hugging Face a fost un incident serios și am luat o serie de măsuri ca răspuns, însă acest proces nu are niciun temei”, a transmis Drew Pusateri, purtător de cuvânt al OpenAI.

De ce poate deveni cazul un test pentru industria AI

Acțiunea LASST ar putea deveni relevantă pentru modul în care sunt aplicate legile existente atunci când accesul neautorizat la un sistem este realizat de un agent AI care acționează autonom. Atât OpenAI, cât și numeroase alte companii importante din domeniul AI au sediul sau operațiuni majore în California, iar numărul sistemelor capabile să execute sarcini fără intervenție permanentă din partea unui om este în creștere.

Tyler Whitmer, fondatorul LASST, a declarat pentru POLITICO că legislația nu ar trebui să fie considerată inaplicabilă doar pentru că acțiunea a fost realizată de un sistem AI. În opinia sa, același principiu ar putea fi relevant și în cazul unor incidente similare asociate altor companii.

Procesul apare și într-un context în care Hugging Face nu a ales să deschidă propria acțiune împotriva OpenAI. CEO-ul companiei, Clément Delangue, a spus anterior că startupul nu dispune de timpul sau resursele necesare pentru o confruntare juridică și a solicitat OpenAI compensații sub forma a 100 de milioane de dolari în resurse de calcul.

OpenAI și presiunea juridică în jurul agenților autonomi

LASST a mai intrat în conflict cu OpenAI. Organizația s-a opus anterior unor modificări propuse de companie în structura sa corporativă și a fost ulterior vizată de o citație emisă de OpenAI în timpul disputelor juridice și de reglementare legate de reorganizare.

Procesul actual invocă și o lege semnată anul trecut de guvernatorul Californiei, Gavin Newsom, care împiedică pârâții din anumite procese civile să transfere responsabilitatea pentru producerea unui prejudiciu către AI ca entitate separată.

Cazul din California nu este însă singura acțiune juridică în care incidentul Hugging Face a ajuns să fie invocat. Procurorul general al statului Florida, James Uthmeier, a solicitat luni emiterea unei ordonanțe temporare împotriva OpenAI. Într-un proces deschis în iunie, acesta a folosit incidentul ca argument pentru a cere blocarea dezvoltării unor noi modele AI de către companie până la introducerea unor măsuri suplimentare de supraveghere.

Cum selectezi automat o persoană sau un obiect în Photoshop. Trucul care te scapă de decuparea manuală