Cum ar putea fi rezolvată problema inteligenței artificiale rasiste
Acum ceva timp am aflat că și inteligența artificială poate să fie rasistă în felul ei, dar cercetătorii cred că această problemă ar putea să fie rezolvată.
Politiciana Alexandria Ocasio-Cortez a spus că tehnologiile de recunoaștere facială și algoritmii de inteligență artificială vin la pachet cu un soi de „nedreptăți rasiale […], pentru că algoritmii sunt totuși realizați de oameni, iar acei algoritmi sunt totuși supuși presupunerilor umane”. Ocasio-Cortez a mai subliniat că presupunerile sunt automate, iar „dacă nu rezolvi subiectivitatea, atunci doar automatizezi subiectivitatea”.
Un raport publicat de AI Now Institute din cadrul New York University arată că industria inteligenței artificiale încă este dominată de bărbați albi. Raportul sugerează că acesta este motivul pentru criza de identitate a inteligenței artificiale – pentru că deși inteligența artificială a devenit din ce în ce mai diversă în ultimii ani, același lucru nu se poate spune și despre oamenii care o creează.
„Până acum, problemele diversității din industria inteligenței artificiale și problemele subiectivismului din subiectele pe care le construiește erau tratate separat”, au subliniat cercetătorii. „Dar sugerăm că acestea sunt două versiuni ale aceleiași probleme: [..] discriminarea de la locul de muncă și din construcția sistemelor sunt profund interconectate”.
Echipa de la AI Now a descoperit că bărbații reprezintă 82% din autorii de la conferințele de inteligență artificială și mai mult de 80% din totalul profesorilor care predau cursuri despre inteligența artificială. Femeile reprezintă doar 15% din echipajele de cercetare a inteligenței artificiale de la Facebook și Google.
Mai mult, persoanele de culoare sunt o raritate chiar mai mare în industrie. Cercetătoarea Timnit Gebru de la AI Now a spus că a fost unul din cei șase oameni de culoare de la o conferință din 2016 despre inteligența artificială, unde au venit aproximativ 8.500 de oameni.
Cei de la AI Now sugerează că, pentru a combate rasismul și sexismul din industria inteligenței artificiale, companiile ar trebui să încerce în mod deliberat să angajeze persoanele care nu sunt reprezentate în mod suficient, dar și să publice rapoarte cu privire la compensațiile oferite angajaților, în funcție de rasă și gen.
„Urgența din spatele problemei crește pe măsură ce inteligența artificială devine din ce în ce mai integrată în societate”, a explicat cercetătoarea Danaë Metaxa de la Stanford University, care nu a fost implicată în studiul celor de la AI Now.