ChatGPT a inventat martori și mărturii într-un dosar de crimă și au ajuns în fața judecătorilor care analizau o condamnare pe viață

Un avocat care încerca să obțină schimbarea condamnării unui client la închisoare pe viață a depus în instanță un document cu martori inexistenți și mărturii polițienești inventate de ChatGPT. Cazul din statul american New Mexico arată cât de grave pot deveni erorile inteligenței artificiale atunci când un răspuns aparent convingător ajunge într-un dosar penal fără verificări.

Curtea Supremă din New Mexico l-a amendat cu 5.000 de dolari pe avocatul Stephen Aarons și a anunțat sesizarea organismului disciplinar al profesiei, potrivit Reuters. Avocatul susține că a făcut o greșeală neintenționată și că nu înțelesese amploarea riscului ca AI-ul să inventeze informații.

A cerut un rezumat și a primit inclusiv martori inexistenți

Aarons reprezenta în apel un bărbat condamnat pentru uciderea mamei copiilor săi. Avocatul a explicat că a introdus în ChatGPT o transcriere generată pe calculator și alte materiale ale procesului, așteptându-se la un rezumat pe care să se poată baza.

Documentul depus ulterior conținea însă mărturii false atribuite unor martori complet inventați, a constatat instanța. Printre elementele semnalate de judecători se aflau afirmații fictive despre îmbrăcămintea persoanei care ar fi tras: pantaloni închiși la culoare și o cămașă albă.

Într-un asemenea dosar, detaliile despre un presupus martor sau despre identificarea trăgătorului nu sunt simple greșeli de redactare. Ele pot schimba sensul argumentelor prezentate judecătorilor. Tocmai de aceea, verificarea lor în documentele originale era esențială înainte de depunerea apelului.

Judecătorii au respins explicația că avocatul nu cunoștea riscurile

La audierea din 21 august, judecătoarea C. Shannon Bacon l-a întrebat pe Aarons dacă urmărește știrile, subliniind că problemele provocate de avocații care folosesc informații inventate de AI sunt deja larg cunoscute.

În hotărârea de sancționare, instanța a apreciat că avocatul demonstrase lipsă de remușcare și de preocupare pentru client. Aarons a transmis ulterior Reuters că regretă incidentul și speră ca organismul disciplinar să țină cont de caracterul neintenționat al greșelii.

OpenAI nu răspunsese solicitării de comentarii până la publicarea materialului Reuters. Apelul clientului este în continuare în curs și a fost repartizat, pe 2 septembrie, unei avocate din serviciul public de apărare. Sancționarea lui Aarons nu reprezintă o soluție asupra apelului.

Un răspuns convingător poate ascunde informații false

Reuters amintește că numeroși avocați au fost deja sancționați pentru documente în care instrumentele AI inventaseră hotărâri judecătorești sau prezentaseră incorect legea. Particularitatea acestui caz este apariția unor mărturii fabricate într-un apel penal.

Aceste erori sunt cunoscute drept „halucinații”: sistemul produce informații false într-o formă care poate părea credibilă. Diferența dintre a primi un răspuns și a-i verifica sursa contează și în afara instanțelor. Playtech a prezentat recent datele despre verificarea informațiilor online în România.

Pentru bărbatul care își contestă condamnarea, consecințele sunt foarte concrete: argumentele sale trebuie evaluate pe baza probelor reale. Un rezumat fluent nu poate ține locul acestora, oricât de sigur ar părea tonul în care este scris.

Agenția de turism intră în insolvență înainte de vacanță. Cum își pot recupera turiștii banii