Judecătoare furioasă anulează un proces după ce descoperă că avocații ambelor părți au folosit AI. Cazul care arată cât de periculoase pot fi „halucinațiile” în justiție

Inteligența artificială ajunge tot mai des în instanțe, dar nu întotdeauna în mod util. Un caz din Mississippi arată cât de grav poate deveni un document juridic redactat sau verificat superficial cu ajutorul AI, atunci când avocații tratează răspunsurile generate de un chatbot ca pe cercetare juridică reală. O judecătoare federală a decis să oprească un proces, să înlăture toți avocații implicați și să aplice amenzi, după ce a descoperit că ambele părți au depus documente cu citări inventate.

Decizia aparține judecătoarei Sharion Aycock, din Districtul de Nord al statului Mississippi, scrie Reuters. Cazul era, la bază, un litigiu civil legat de taxe juridice neplătite, între avocatul Tom Withers și orașul Aberdeen. Nu era un proces spectaculos, dar a devenit rapid un exemplu important despre folosirea neglijentă a inteligenței artificiale în sistemul juridic american.

Cum a ajuns AI-ul să blocheze un proces

Problema a apărut când instanța a observat că documentele depuse de ambele tabere conțineau citări juridice suspecte. În limbaj simplu, avocații au invocat cazuri și surse legale care nu existau sau care nu susțineau afirmațiile făcute. Acest tip de eroare este numit frecvent „halucinație” AI: un sistem generează un răspuns care sună credibil, dar care este fals.

În cadrul unei audieri, o avocată care îl reprezenta pe reclamant a admis că a folosit un instrument AI pentru cercetare juridică. De cealaltă parte, o avocată care reprezenta orașul a recunoscut că a folosit inteligența artificială generativă pentru a redacta un răspuns. Problema majoră nu a fost doar folosirea AI-ului, ci faptul că informațiile generate nu au fost verificate înainte de a fi trimise instanței.

Vezi și:

Topul alimentelor, serviciilor și produselor care s-au scumpit cel mai mult, unele au preţuri cu peste 55% mai mari

Judecătoarea a considerat situația cu atât mai gravă cu cât ambele părți au procedat în mod similar. În mod normal, o instanță se poate confrunta cu o eroare venită din partea unei tabere. Aici, însă, întregul proces a fost contaminat de documente nesigure, în care autoritatea juridică invocată nu putea fi acceptată ca reală.

În ordinul de sancționare, judecătoarea a subliniat că instanța este din nou obligată să se ocupe de „halucinații AI” în documentele judiciare. Formularea arată frustrarea crescândă a judecătorilor americani față de avocații care folosesc tehnologia fără verificare și apoi transferă problema asupra instanței.

Amenzi, interdicții și o lecție dură pentru avocați

Sancțiunile au fost dure. Toți cei patru avocați implicați au fost înlăturați din caz, ceea ce înseamnă că părțile trebuie să își găsească alți reprezentanți. Două dintre avocate, considerate mai direct responsabile pentru documentele problematice, au primit interdicția de a apărea în fața instanței din Districtul de Nord al statului Mississippi timp de doi ani.

Vezi și:

Un nou proces zguduie OpenAI: ChatGPT este acuzat că ar fi contribuit la moartea unei tinere de 24 de ani

Copiii cresc alături de ChatGPT, iar „timpul nu mai are răbdare”. Ce crede un profesor despre avantajele și riscurile noii realități AI INTERVIU

Amenzile au variat între 1.000 și 3.500 de dolari, în funcție de nivelul de responsabilitate stabilit de instanță. Avocații locali, care nu ar fi generat direct textele respective, dar au aprobat documentele fără verificare, au fost și ei sancționați. Mesajul este clar: în drept, semnătura pe un document contează. Chiar dacă textul a fost produs de un AI sau de altcineva, avocatul care îl depune rămâne responsabil.

Un detaliu remarcat de instanță a fost încercarea uneia dintre avocate de a explica faptul că nu știa că AI-ul poate inventa cazuri. Judecătoarea nu a acceptat această justificare. În 2026, după numeroase exemple publice de documente juridice contaminate de citări false generate de AI, necunoașterea riscului nu mai este o apărare convingătoare.

La fel de problematică a fost și apărarea bazată pe ideea că un instrument AI „intern” sau specializat nu ar trebui să inventeze surse. Chiar și instrumentele construite pentru domeniul juridic pot greși, iar instanțele cer verificare independentă. Cu alte cuvinte, AI-ul poate fi folosit ca ajutor, dar nu poate înlocui obligația profesională a avocatului.

De ce cazul este important dincolo de sala de judecată

Acest episod nu este doar o gafă izolată a unor avocați. El arată o problemă mai amplă: tot mai mulți profesioniști folosesc instrumente AI pentru a accelera munca, dar nu înțeleg întotdeauna limitele lor. În domenii precum dreptul, medicina, finanțele sau securitatea, o eroare formulată convingător poate avea consecințe reale.

În justiție, pericolul este și mai mare, pentru că documentele depuse în instanță trebuie să se bazeze pe autoritate legală verificabilă. Dacă un avocat citează un caz fals, nu este doar o greșeală de redactare. Este o problemă care poate induce instanța în eroare, poate consuma timp public și poate afecta încrederea în procesul judiciar.

Cazul din Mississippi transmite un avertisment clar pentru toți cei care folosesc AI în activitatea profesională: tehnologia poate economisi timp, dar nu poate prelua răspunderea. Un chatbot poate formula texte coerente, poate rezuma, poate sugera direcții de cercetare și poate organiza argumente. Dar nu știe, în sens juridic, dacă o sursă există, dacă este aplicabilă sau dacă poate fi invocată într-un dosar real.

Pe termen lung, instanțele vor deveni probabil tot mai stricte cu astfel de situații. Avocații vor fi nevoiți să declare mai clar când folosesc AI, firmele de avocatură vor trebui să introducă reguli interne de verificare, iar judecătorii vor sancționa mai ferm depunerile care conțin informații inventate.

Inteligența artificială nu este interzisă în drept, dar cazul arată că folosirea ei fără control poate transforma un proces obișnuit într-un dezastru profesional. Pentru avocați, lecția este simplă: AI-ul poate ajuta, dar nu poate fi crezut pe cuvânt. În fața unei instanțe, verificarea rămâne obligatorie, iar responsabilitatea nu poate fi pasată unui algoritm.

Cine locuiește în apartamentele RA-APPS din Bucureşti şi cât costă lunar. Lista care ridică întrebări, doar nouă sunt folosite de demnitari în funcție