Cea mai mare dilemă legată de Facebook: își „urăște” rețeaua socială anumiți utilizatori?
Facebook formează noi echipe interne dedicate studierii principalelor sale rețele sociale, printre care și Instagram, pentru prejudecăți rasiale. Facebook va studia în special dacă algoritmii săi antrenați să folosească inteligența artificială afectează grupuri precum oamenii de culoare, hispanicii, persoanele cu alte orientări sexuale etc.
Echipa va avea „sarcina de a asigura corectitudinea și dezvoltarea echitabilă a platformelor”, spune un purtător de cuvânt pe Facebook. „Vom continua să lucrăm îndeaproape cu echipa AI responsabilă de Facebook, pentru a ne asigura că avem în vedere potențialele prejudecăți de pe platformele noastre”, a completat el.
„Mișcarea justiției rasiale este un moment de o importanță reală pentru compania noastră. Orice neregulă în sistemele și politicile noastre contravine furnizării unui produs bun, unde toată lumea să se poată exprima. În timp ce lucrăm mereu pentru a crea o experiență cât mai echitabilă, stabilim eforturi suplimentare pentru a continua acest progres – de la crearea echipei Instagram Equity la Facebook’s Inclusive Product Council.”
Vishal Shah, vicepreședinte Instagram
Facebook vine cu soluția asta și ca răspuns la un boicot publicitar de o lună de zile în cadrul mișcării #StopHateForProfit, organizată de Liga anti-defăimare, Color of Change, NAACP și alte grupuri de drepturi civile. Boicotul a inclus mari nume ca Coca-Cola, Disney, McDonald’s, Starbucks și Walmart, printre zeci de alții, deși CEO-ul Mark Zuckerberg a fost numit „dezamăgitor” și acuzat că a oferit scuze superficiale la întâlnirea cu organizatorii de boicot la începutul acestei luni.
Facebook are o istorie legată de prejudecățile rasiale
Facebook are o istorie controversată în ceea ce privește prejudecățile rasiale.
S-a constatat că a permis companiilor să excludă anumite grupuri minoritare când fac publicitate pe piețe reglementate federal, precum locuințe și locuri de muncă. Facebook a evitat deseori subiectul, folosind tehnici precum clasificarea utilizatorilor nu după rasă, ci prin așa-numitele categorii „etnic” sau „afinități multiculturale”.
Facebook a dezactivat în cele din urmă opțiunile de direcționare a anunțurilor pentru locuințe, locuri de muncă și reclame de credit ca parte a unei soluționări legale cu grupuri de drepturi civile.
Compania este, de asemenea, formată din mai puțin de 4% angajați de culoare, iar oficialii au interzis, în 2019, angajaților să studieze efectele rasiale ale platformei sale fără aprobarea celor mai înalți lideri.
Ca urmare, s-a constatat că software-ul Facebook care automatizează moderarea precum suspendările contului pe Instagram afectează în mod disproporționat utilizatorii pe care suspecții platformei sunt Black, relatează WSJ.
Facebook s-a angajat să doneze 200 de milioane de dolari pentru a sprijini întreprinderile deținute de oameni de culoare, în urma protestelor Black Lives Matter din toată țara.
De asemenea, compania a mai spus luna trecută că intenționează să crească procentul de minorități rasiale și alte minorități subreprezentate care compun echipa de conducere cu 30% în următorii cinci ani, precum și că încearcă să dubleze numărul de angajați negri și hispanici până în 2023.
Un audit de drepturi civile de 89 de pagini, realizat de firma Relman Colfax, pe parcursul a doi ani și lansat pe 8 iulie, a solicitat Facebook-ului să studieze și să elimine prejudecățile rasiale din software-urile și sistemele sale instruite în AI, deși celor care efectuează auditul nu li s-a permis să studieze cercetarea internă a companiei și modelele AI.