Algoritmul care prezice crimele: Totul pare inspirat din filmul „Minority Report”

Marea Britanie lucrează în prezent la un sistem informatic menit să anticipeze cine ar putea comite o crimă, înainte ca aceasta să aibă loc.

Informația a fost dezvăluită de The Guardian, pe baza unor documente obținute prin solicitări de tip Freedom of Information (FOI), la inițiativa organizației pentru transparență Statewatch.

Proiectul, denumit inițial Homicide Prediction Project, a fost ulterior redenumit într-un mod mai puțin alarmant, Sharing Data to Improve Risk Assessment, pentru a evita percepțiile de inspirație distopică.

Inițiativa aparține Ministerului Justiției și își propune să elaboreze un algoritm capabil să identifice indivizi care prezintă risc crescut de a comite acte de violență extremă, inclusiv omucideri, scrie Gizmodo.

Zodii care trec prin zile de coșmar la final de mai 2025. Au parte numai de necazuri

Trebuie sau nu să speli pastele înainte de a le pune la fiert? Cum procedează italienii

Date colectate despre sute de mii de persoane, inclusiv martori și persoane vulnerabile

Potrivit documentelor analizate de The Guardian, proiectul a presupus analiza datelor personale a între 100.000 și 500.000 de persoane. Informațiile provin de la Ministerul Justiției, Ministerul de Interne, Poliția Metropolitană din Londra și Poliția din Greater Manchester.

Baza de date nu cuprinde doar persoane condamnate penal, ci și suspecți necondamnați, victime, martori, persoane dispărute și indivizi aflați în situații de vulnerabilitate.

Printre informațiile utilizate se numără date despre sănătatea mintală, dependențe, tentative de suicid, autovătămare sau dizabilități, aspecte considerate de Ministerul Justiției drept indicatori relevanți pentru evaluarea riscului de a comite crime.

Totuși, oficialii guvernamentali au negat folosirea datelor aparținând victimelor sau altor categorii vulnerabile și au susținut că doar persoanele cu cel puțin o condamnare penală au fost incluse în analiză.

Riscuri de discriminare și repetarea greșelilor algoritmilor anteriori

Criticii proiectului avertizează asupra pericolului ca algoritmul să perpetueze și să amplifice prejudecăți sistemice, afectând în mod disproporționat comunitățile defavorizate.

Astfel de instrumente predictive au mai fost utilizate anterior în justiția britanică. Sistemul de Evaluare a Infractorilor (Offender Assessment System), de exemplu, este deja folosit pentru a estima probabilitatea recidivei, iar aceste estimări influențează sentințele judecătorilor.

Un audit guvernamental al acestui sistem a arătat că predicțiile nu se aliniază fmereu cu realitatea, în special în cazul infracțiunilor non-violente.

Mai mult, eficiența algoritmului a fost semnificativ mai scăzută în cazul persoanelor de culoare, comparativ cu cele albe, indicând o inegalitate în modul de evaluare.

Problema nu este specifică Marii Britanii. În mai multe țări, algoritmii de poliție predictivă s-au dovedit problematici, generând erori sistematice din cauza unor baze de date influențate de supravegherea excesivă a anumitor comunități, mai ales cele sărace sau cu populație predominant de culoare.