TikTok, acuzat că a întârziat o funcție de siguranță pentru a testa impactul asupra audienței

TikTok este din nou pus sub presiune în Statele Unite, după ce au apărut informații potrivit cărora platforma ar fi păstrat intenționat în afara unei funcții de siguranță milioane de conturi, pentru a măsura efectul acesteia asupra interacțiunilor. Doi senatori americani cer acum companiei explicații despre modul în care sunt testate modificările algoritmului și despre situațiile în care protecția împotriva unor tipuri de conținut ar fi putut intra în conflict cu obiectivele comerciale.

Demersul vine după o investigație Bloomberg referitoare la un experiment început de TikTok în 2021. În centrul acestuia s-a aflat o funcție concepută pentru a limita apariția repetitivă a unor categorii de conținut în fluxul „For You”, tocmai pentru a reduce riscul ca o persoană să ajungă prinsă într-o bulă de recomandări care îi afișează în mod constant materiale similare.

TikTok ar fi păstrat milioane de conturi într-un grup de control

Funcția testată avea un scop de siguranță destul de clar. Dacă un videoclip izolat dintr-o anumită categorie nu reprezintă neapărat o problemă, expunerea repetată la zeci de materiale similare poate deveni problematică. Algoritmul urma să detecteze astfel de tipare și să diversifice recomandările din feed.

Problema ridicată acum de senatori este că TikTok nu ar fi activat funcția pentru toată lumea. Compania ar fi păstrat un grup de control format din milioane de persoane, astfel încât să poată compara comportamentul acestora cu cel al persoanelor care beneficiau de noua măsură de siguranță. Una dintre variabilele urmărite era impactul asupra nivelului de interacțiune cu platforma.

Informațiile sunt cu atât mai controversate cu cât printre persoanele incluse în grupul de control s-ar fi aflat și un adolescent american, Chase Nasca, care ulterior s-a sinucis. Potrivit documentelor interne TikTok citate de Bloomberg, contul său ar fi ajuns într-o zonă de recomandări în care apărea în mod repetat conținut despre sinucidere, automutilare și depresie, în special în perioada dinaintea morții sale.

Faptul că adolescentul făcea parte din grupul asupra căruia funcția de protecție nu fusese activată nu demonstrează, de unul singur, că experimentul a cauzat moartea sa. Însă cazul ridică întrebări serioase despre criteriile folosite de companie atunci când decide cum și unde testează mecanisme care ar trebui să reducă expunerea la conținut potențial nociv.

Senatorii vor să afle dacă veniturile au avut prioritate

Senatorii Marsha Blackburn și Richard Blumenthal i-au trimis conducerii TikTok o scrisoare în care cer informații despre experimentul din 2021, dar și despre alte teste similare. Printre întrebările adresate companiei se află și una esențială: dacă TikTok a decis vreodată să nu implementeze o funcție de protecție din cauza efectului pe care aceasta l-ar fi putut avea asupra interacțiunilor sau veniturilor din publicitate.

Vezi și:

Colțul întunecat al TikTok pe care algoritmul nu ți-l arată. Ce este fenomenul „Farlands”, lumea stranie de la marginea platformei

Compania trebuie să răspundă solicitărilor până la 1 septembrie. Senatorii susțin că informațiile apărute recent indică faptul că TikTok ar fi cunoscut riscurile asociate sistemului său de recomandări și, cu toate acestea, ar fi limitat accesul la o măsură de protecție pentru a putea analiza impactul acesteia asupra activității de pe platformă.

Pentru TikTok, problema este cu atât mai sensibilă cu cât algoritmul „For You” reprezintă una dintre componentele centrale ale aplicației. Feedul este construit astfel încât să învețe rapid ce tip de materiale captează atenția fiecărei persoane și să ofere în continuare conținut similar. Tocmai acest mecanism poate deveni problematic atunci când recomandările se concentrează excesiv pe o temă negativă sau vulnerabilă.

Experimentul a avut loc după avertismentele adresate companiei

Momentul în care TikTok ar fi început experimentul este un alt element care îi preocupă pe cei doi senatori. Testul a fost lansat în 2021, la scurt timp după o audiere în Congres la care un reprezentant al companiei fusese deja confruntat cu întrebări despre măsurile luate pentru protejarea copiilor.

Blackburn și Blumenthal au fost implicați în mod activ în eforturile de a impune reguli mai stricte pentru platformele de socializare și se numără printre susținătorii Kids Online Safety Act, proiectul legislativ american destinat creșterii nivelului de protecție pentru minori în mediul online.

În acest context, senatorii consideră că dezvăluirile despre experiment sunt mai grave decât ar fi fost în cazul unei simple testări tehnice. Potrivit lor, compania fusese deja avertizată cu privire la efectele pe care sistemele de recomandare le pot avea asupra copiilor și adolescenților.

Cazul readuce astfel în discuție o întrebare dificilă pentru toate platformele care folosesc algoritmi pentru a decide ce vezi: cât de departe poate merge un experiment atunci când obiectivul este creșterea interacțiunii, iar modificarea testată are legătură directă cu siguranța? TikTok va trebui acum să explice nu doar cum a funcționat experimentul din 2021, ci și cum stabilește dacă o funcție de protecție trebuie activată pentru toată lumea sau poate fi amânată pentru a obține date despre comportamentul publicului.

Pensia anticipată pentru femei în 2026. Ce acte trebuie depuse și când sunt necesare certificatele de naștere ale copiilor