Cea mai mare problemă pe Facebook n-o poate rezolva prea ușor

Facebook are o problemă cu hate-speech-ul, iar asta nu este o surpriză. Site-ul are în jur de 2 miliarde de utilizatori, iar o parte din ei văd în Facebook un loc unde să își exprime viziunile controversate, unde să se certe și să înjure în voie.

Un reporter britanic sub acoperire de la Channel 4 Dispatches a descoperit că multe din comentariile și postările violente și pline de ură rămân pe site chiar și după ce utilizatorii le marchează drept nepotrivite, chiar și după trecerea celor 24 de ore în care moderatorii ar trebui să le scoată.

În principal, giganții tehnologici au depins de oameni care să îi ajute să descopere postările problematice. Recent însă, au început să apeleze tot mai des la diverși algoritmi care să îi ajute cu asta. Acești giganți cred că inteligența artificială este singura cale de a rezolva problema, deși oamenii pe care continuă să îi angajeze au responsabilitatea de a îndeplini o sarcină pe care algoritmii încă nu o pot duce la bun sfârșit.

Miza este destul de mare – moderarea defectuoasă a hate-speech-ului are efecte asupra lumii reale. Mai exact, autoritățile ONU au descoperit că Facebook nu a reușit să stopeze comentariile pline de ură la adresa minorităților musulmane în timpul unui posibil genocid în Myanmar.

Facebook nu este singurul gigant tehologic care se confruntă cu aceste probleme. Google a avut de furcă cu videoclipuri care promovau terorismul pe YouTube. Google a angajat mulți moderatori care să curețe platormele, iar în același timp a antrenat mai mulți algoritmi să facă același lucru. La rândul său, Twitter a șters mai multe conturi ale unor utilizatori care promovau așa-zisa supremația rasei albe.

Păstrarea unor platforme online cât de cât curate este o sarcină extrem de dificilă. Zilnic, pe Facebook sunt uploadate în jur de 350 de milioane de fotografii, iar pe YouTube 600.000 de ore de videoclipuri. Soluția cea mai sigură ar fi combinarea moderatorilor umani cu algoritmii de inteligență artificială.