Facebook ia măsuri împotriva urii: ce nu vor lua în considerare algoritmii

Facebook recurge la măsuri pentru a lupta împotriva urii. Totuși, contează foarte mult limba în care sunt raportate mesajele care instigă la ură.

În cazul în care, ca mulți musulmani australieni, ai raportat discursuri de ură la Facebook și ai primit un răspuns automat spunând că nu încalcă standardele comunității platformei, nu ești singur. Într-un studiu au fost analizate cinci țări din Asia cu privire la discursurile de ură pe paginile comunității LGBTQI+.

Au fost analizate trei aspecte ale reglementării discursului instigator la ură în regiunea Asia-Pacific pe parcursul a 18 luni. În primul rând, a fost cartografiată legea discursului instigator la ură în țările studiului de caz, pentru a înțelege cum ar putea fi contracarată legal această problemă. De asemenea, a fost verificat dacă definiția Facebook a „discursului de ură” include toate formele și contextele recunoscute pentru acest comportament tulburător.

Chiar dacă Facebook a fost compania care a finanțat studiul, a menționat că din motive de confidențialitate nu a putut oferi acces la un set de date ale discursului de ură pe care îl elimină. Echipa respectivă a pus mai multe întrebări membrilor moderatori ai acestor comentarii. Totodată, au intervievat și administratorii paginilor despre experiența lor de a modera ura și despre ceea ce credeau că ar putea face Facebook pentru a reduce astfel de abuzuri.

Aceștia au menționat că Facebook va respinge adesea rapoartele lor despre discursurile de ură, chiar și atunci când postarea încalcă în mod clar standardele comunitare. În unele cazuri, mesajele care au fost eliminate inițial vor fi postate din nou. Majoritatea administratorilor de pagină au spus că așa-numitul proces de „semnalizare” a funcționat rareori și li s-a părut lipsit de putere.

Cum se descurcă Facebook cu privire la actualele măsuri împotriva urii

Administratorii au vrut ca Facebook să se consulte mai mult cu ei pentru a-și face o idee mai bună despre tipurile de abuz pe care le văd postate și de ce constituie discursuri de ură în contextul lor cultural. Facebook are de multă vreme o problemă cu amploarea și sfera discursurilor de ură pe platforma sa din Asia.

Cu toate acestea, în timpul studiului, cercetătorii au descoperit că Facebook și-a extins definiția discursurilor de ură, care acum surprinde o gamă mai largă de comportamente de ură. De asemenea, recunoaște în mod explicit că ceea ce se întâmplă online poate declanșa violență offline.

Merită menționat în țările pe care ne-am concentrat, „discursul de ură” este rareori interzis în mod legal. Am constatat că alte reglementări, cum ar fi securitatea cibernetică sau legile privind toleranța religioasă, ar putea fi utilizate pentru a acționa împotriva discursurilor de ură, dar în schimb au avut tendința de a fi utilizate pentru a suprima disidența politică.

Am ajuns la concluzia că problema Facebook nu constă în definirea urii, ci în imposibilitatea de a identifica anumite tipuri de ură, cum ar fi cea postată în limbi minoritare și dialecte regionale. De asemenea, deseori nu reușește să răspundă în mod adecvat la rapoartele utilizatorilor despre conținut de ură.