Mașinile autonome sunt mai predispuse să calce oamenii de culoare
Deși reprezintă o tehnologie inovatoare, mașinile autonome nu sunt perfect sigure. Totuși, unii ar putea avea mai mult de suferit decât alții.
Sistemele de recunoaștere facială au probleme când vine vorba să identifice oameni cu pielea mai închisă la culoare. Iar sistemele de inteligență artificială destinate să ajute mașinile autonome nu sunt cu nimic diferite. Ca rezultat, mașinile care se conduc singure sunt și ele puțin rasiste. Ar putea pune mai mult în pericol pietonii cu un ten mai închis.
Cel puțin asta arată un studiu realizat la Georgia Institute of Technology. Cercetătorii au folosit opt modele de inteligență artificială folosite în sistemele de detecție din cadrul mașinilor autonome. Acestea permit vehiculelor să recunoască semnele de circulație, pietonii sau alte obiecte din trafic.
Au testat modelele cu ajutorul unor imagini cu pietoni împărțiți în două categorii. Pentru divizarea acestora, cercetătorii au folosit scala Fitzpatrick, folosită în mod obișnuit pentru clasificarea culorii pielii oamenilor.
Astfel, când s-au confruntat cu pietonii cu tenul cel mai închis, modelele de AI au avut o performanță mult mai proastă. În medie, acuratețea modelelor AI folosite pentru mașinile autonome a scăzut cu 5% în cazul examinării imaginilor care reprezentau trecători cu tonuri mai întunecate ale pielii.
Acest lucru s-a întâmplat chiar dacă cercetătorii au folosit diferite variabile. Rezultatele au fost la fel, indiferent dacă fotografia a fost făcută în timpul zilei sau în timpul nopții.
Ce e de făcut pentru îmbunătățirea sistemelor folosite de mașinile autonome
Echipa de cercetători de al Georgia Tech are o sugestie pentru îmbunătățirea situației, și este una simplă.
Aceștia susțin că viitorul plin de mașini autonome ar putea fi mai puțin sigur pentru pietonii cu o culoare a pielii mai închisă, în comparație cu cei care au un ten deschis la culoare. După rezultatele studiului, cercetătorii și-au dat seama că tot ce trebuie făcut pentru a face sistemele de recunoaștere facială mai sigure este să includă mai multe fotografii cu persoane care au un ten întunecat.
Astfel, inteligența artificială ar putea fi mai bine antrenată pentru a detecta în mod corespunzători pietonii.