Ura, rasismul, extremismul și conținutul sexual, cenzurate de inteligență artificială: cu ce ”ne sperie” Facebook

La aproximativ 2,7 miliarde de persoane care intră în fiecare lună pe Facebook, este absurd să consideri că gigantul monitorizează calitatea conținutului postat cu ajutorul oamenilor. În schimb, folosește inteligență artificială.

Statistic, în ultimele luni, Facebook a făcut o treabă mai bună în a reduce prezența pe platformă a conținutului violent, încărcat de ură sau cu vădit sexual. În acest scop, a utilizat un software bazat pe inteligență artificială, capabil să stabilească legături între mesaje, imagini sau comentarii.

AI-ul era prezent și în trecut printre instrumentele deținute de Facebook, dar acum s-au schimbat câteva lucruri. Inteligența artificială a progresat până la nivelul în care este capabilă să încrucișeze informațiile dintr-o imagine cu un text atașat. În trecut, era limitată doar la ceea ce ”vede” într-o poză sau înțelege dintr-un text.

Cu noul algoritm, implementat în 2020, Facebook poate avea acum „o viziune de ansamblu”, a explicat miercuri Mike Schroepfer, manager tehnic al platformei, în cadrul unei conferinţe. Acest detaliu tehnic este foarte important pentru gigantul condus de Zuckerberg este capabil să ”înțeleagă” meme, un detaliu care era imposibil în trecut. Poate nu asociezi foarte multă greutate acelui tip de conținut fotografic cu un rând de text pe el, dar în timp ce 90% dintre exemple sunt umoristice, 10% au început să fie manifestări de ură, discriminare, rasism și nu numai. Din acest motiv, un mecanism automatizat care să poată asocia textul cu imaginea era foarte important.

„Trebuie înţeles întregul context” pentru a analiza şi, eventual, a respinge mesajul, a detaliat Mike Schroepfer, care a explicat că software-ul este, de asemenea, capabil să încrucişeze conţinuturi în mai multe limbi. Pentru că învață în permanență, AI-ul nu mai șterge conținutul care în trecut a fost marcat ca fiind sigur. Cel puțin parțial, oficialii Facebook atribuie acestui instrument software declinul cantității de conținut extremist de pe platformă.

Dacă vrei să asociezi niște cifre clare acestei probleme dureroase de pe platformă, câteva statistici au fost făcute publice miercuri de către compania americană. În primul trimestru, între 0,05% şi 0,06% din conţinutul vizionat de utilizatorii Facebook a avut un caracter de ură, comparativ cu 0,07% – 0,08% în al patrulea trimestru al anului 2020 şi între 0,10% şi 0,11% în al treilea trimestru al aceluiaşi an. Reţeaua socială a intervenit şi asupra a 34,3 milioane de conţinuturi violente sau şocante, faţă de 15,9 milioane în al patrulea trimestru al anului 2020.