Amazon admite că recunoașterea facială ar putea fi folosită greșit: de ce interzice poliției s-o folosească

Recunoașterea facială este o tehnologie extrem de controversată, iar noua decizie Amazon îți confirmă încă o dată că ar putea cauza probleme, în felul în care este reglementată în prezent.

Compania lui Jeff Bezos a anunțat că poliția nu va mai avea voie să folosească software-ul său Rekognition, care oferă servicii în acest sens, în următorul an. Amazon nu blamează neapărat tehnologia în sine, ci felul în care aceasta ar putea fi folosită. Potrivit unei declarații, compania solicită guvernului american să reglementeze mai drastic folosirea recunoașterii faciale pentru ca această tehnologie să fie utilizată în mod etic.

Deși Amazon nu menționează explicit acest lucru, decizia sa vine în contextul morții lui George Floyd, bărbatul de culoare ucis de ofițerul de poliție din Minnesota, dar și în contextul protestelor care s-au declanșat ulterior pe glob împotriva rasismului sistemic și a brutalității poliției.

Compania a menționat că va continua să permită totuși, ca organizațiile care luptă cu traficul de persoane și găsesc copii dispăruți să poată utiliza această tehnologie.

Amazon vrea o mai bună reglementare a recunoașterii faciale

„Am susținut că guvernele ar trebui să pună în aplicare reglementări mai puternice pentru a guverna utilizarea etică a tehnologiei de recunoaștere facială, iar în ultimele zile, Congresul pare gata să accepte această provocare. Sperăm că acest moratoriu de un an ar putea oferi Congresului suficient timp pentru a pune în aplicare regulile corespunzătoare, iar noi suntem pregătiți să ajutăm, dacă este solicitat”, spune Amazon într-o declarație.

În Statele Unite, nu există în prezent o lege federală cuprinzătoare care reglementează recunoașterea facială.

Cercetările indică faptul că tehnologia de recunoaștere facială, în ciuda progreselor oferite de inteligența artificială, rămâne părtinitoare în ceea ce privește vârsta, sexul, rasa și etnia. De exemplu, un studiu din 2018 a descoperit că ratele de eroare pentru sistemele de recunoaștere facială ale marilor companii, inclusiv IBM și Microsoft, pentru identificarea persoanelor cu pielea închisă la culoare au fost cu zeci de puncte procentuale mai mari decât atunci când au identificat persoane cu piele albă.

Un alt studiu din 2019 a analizat software-ul Amazon Rekognition și a constatat că și sistemul avea probleme semnificative în ceea ce privește determinarea sexului persoanelor cu pielea mai închisă la culoare: de exemplu, confunda femeile cu piele închisă la culoare ca fiind bărbați.

Cu doar două zile înainte de anunțul Amazon, IBM a anunțat și ea că nu va mai oferi, dezvolta, cerceta sau vinde nicio formă a tehnologiei. Totodată, susține că este nevoie de un dialog la nivel național al Statelor Unite pentru a stabili dacă recunoașterea facială ar trebui să fie folosită sau nu în general. În cazul IBM, decizia a fost motivată de potențialul recunoașterii faciale de a facilita supravegherea în masă, a agrava prejudecățile rasiale, dar și de a duce la abuzul de justiție.

Faptul că două companii majore au luat măsuri cu privire la această tehnlogie este demn de luat în considerare și ar putea fi un semn că normele cu privire la recunoașterea facială se vor schimba.