Cine răspunde când un agent AI încalcă legea? Companiile care îl dezvoltă ar putea fi trase la răspundere

Agenții de inteligență artificială pot face mai mult decât să răspundă la întrebări. Atunci când primesc acces la internet, instrumente software și date de autentificare, aceștia pot executa sarcini în sisteme informatice reale. Problemele apar atunci când acțiunile lor depășesc limitele stabilite de oameni și ajung să afecteze alte persoane sau organizații.

Mai multe incidente recente au readus în discuție responsabilitatea juridică a companiilor care dezvoltă și folosesc astfel de sisteme. Specialiștii în securitate cibernetică și drept încearcă să stabilească unde se termină responsabilitatea utilizatorului și unde începe cea a dezvoltatorului. Faptul că un agent AI acționează autonom nu înseamnă automat că firma care l-a creat poate evita răspunderea pentru consecințele acțiunilor sale.

Ce se întâmplă când un agent AI depășește limitele stabilite de oameni

Un chatbot obișnuit generează răspunsuri în urma unei solicitări. Un agent AI poate primi însă un obiectiv și instrumentele necesare pentru a-l îndeplini, inclusiv acces la un browser, posibilitatea de a executa cod sau date de autentificare pentru servicii externe. Sistemul poate decide ce pași să urmeze, poate analiza rezultatele și poate continua să acționeze fără ca un om să aprobe fiecare etapă.

Această autonomie este utilă pentru automatizarea unor activități, dar introduce și riscuri suplimentare. Dacă un agent întâlnește o restricție, poate încerca să găsească o altă cale pentru a-și îndeplini sarcina, inclusiv una care nu a fost anticipată de dezvoltatori.

Un exemplu relevant este incidentul din Australia în care un agent AI dezvoltat cu ajutorul tehnologiei OpenAI a accesat un portal guvernamental în timpul unei sarcini de cercetare. Cazul a atras atenția asupra limitelor pe care ar trebui să le aibă sistemele automatizate atunci când interacționează cu infrastructura publică.

Alte incidente au implicat modele AI care au accesat site-uri externe în timpul unor teste de securitate. Astfel de situații ridică întrebări despre eficiența mecanismelor de izolare și despre modul în care companiile controlează accesul agenților la sisteme reale.

De ce contează accesul oferit de oameni în stabilirea responsabilității

Loris Degioanni, fondator și director tehnic al companiei de securitate cibernetică Sysdig, a explicat pentru Live Science că autonomia unui agent AI începe cu resursele pe care i le oferă un om. Acestea pot include sarcini, date de autentificare, instrumente sau acces la anumite sisteme. Limitele impuse ulterior determină cât de departe poate ajunge agentul, scrie Live Sience.

Vezi și:

ChatGPT nu mai vrea să fie doar un chatbot. OpenAI schimbă radical modul în care vei primi răspunsurile

Meta intră în cursa modelelor AI de top cu Muse Wonder și Wonder Full. Ce pot face noile sisteme

Această perspectivă mută discuția dincolo de comportamentul modelului. Contează ce obiectiv a primit, ce permisiuni i-au fost acordate, dacă mediul în care funcționează este izolat și dacă există mecanisme care să oprească acțiunile riscante.

O companie care permite unui agent să interacționeze cu servicii externe trebuie să ia în calcul posibilitatea ca sistemul să interpreteze greșit instrucțiunile sau să găsească o cale neprevăzută de a-și îndeplini sarcina. Restricțiile formulate în limbaj natural pot fi utile, dar nu înlocuiesc controalele tehnice care limitează efectiv accesul.

De exemplu, un agent poate avea nevoie de acces la internet pentru a consulta documente publice, fără să aibă și permisiunea de a modifica pagini, de a trimite formulare sau de a accesa date protejate. Separarea acestor drepturi poate reduce consecințele unei erori.

Pot fi companiile AI trase la răspundere pentru acțiunile agenților

Stabilirea răspunderii juridice este complicată de faptul că sistemele AI nu au personalitate juridică proprie. În plus, răspunderea penală presupune adesea examinarea cunoștințelor și a intenției persoanelor implicate, ceea ce face dificilă aplicarea unor reguli concepute pentru comportamentul uman în cazul acțiunilor executate de un agent autonom.

Joanna Smykowski, avocată din New York care a lucrat la dezvoltarea unor companii din domeniul tehnologiei juridice, a declarat pentru Live Science că o firmă nu ar trebui să poată evita automat răspunderea doar susținând că sistemul AI a acționat singur.

În funcție de circumstanțe și de legislația aplicabilă, pot deveni relevante regulile privind accesul neautorizat la sisteme informatice, protecția datelor, confidențialitatea și neglijența. Pentru a stabili dacă există răspundere penală, anchetatorii trebuie să analizeze și ce știau persoanele implicate, precum și ce intenții aveau.

Nu există însă un răspuns universal valabil pentru toate incidentele. Contează cine a dezvoltat sistemul, cine l-a pus în funcțiune, ce acces i-a oferit, ce măsuri de protecție existau și dacă prejudiciul putea fi prevenit.

Pe măsură ce agenții AI primesc mai multă libertate de acțiune, responsabilitatea dezvoltatorilor și a organizațiilor care îi folosesc devine o problemă atât tehnică, cât și juridică.

Ce măsuri ar putea limita riscurile agenților autonomi

Una dintre principalele măsuri de protecție este limitarea permisiunilor la strictul necesar pentru îndeplinirea unei sarcini. Accesul la date și servicii poate fi configurat în funcție de scop, iar operațiunile cu efecte importante pot necesita aprobarea explicită a unei persoane.

Izolarea mediului de testare este la fel de importantă. Dacă un model este evaluat într-un spațiu separat de sistemele reale, acțiunile neprevăzute au mai puține șanse să afecteze infrastructura unei organizații. Monitorizarea activității și păstrarea jurnalelor de utilizare pot ajuta la identificarea comportamentelor neobișnuite și la reconstituirea incidentelor.

Un alt element este posibilitatea de a opri rapid agentul atunci când acesta depășește limitele stabilite. În cazul activităților cu risc ridicat, verificarea umană înaintea unor acțiuni ireversibile poate reduce probabilitatea unor consecințe nedorite.

Radarul te poate prinde chiar dacă mașina Poliției este în mers. Cum este calculată viteza și când poți primi amendă