Copiii sunt bombardați cu „AI slop” violent pe TikTok și Instagram. Experții avertizează asupra unui risc de radicalizare

Clipurile bizare cu fructe și legume generate de inteligența artificială au devenit un fenomen pe TikTok, Instagram și alte platforme. Unele par doar absurde și lipsite de sens, însă cercetătorii avertizează că o parte dintre ele introduc scene de tortură, mutilare și violență extremă într-un format conceput să atragă inclusiv publicul foarte tânăr. O analiză prezentată de Futurism ridică problema unei posibile legături între consumul repetat al acestui tip de „AI slop” și normalizarea violenței în rândul copiilor.

Analiza aparține cercetătorilor Global Network on Extremism and Technology, GNET. Aceștia au urmărit o categorie virală de videoclipuri generate cu AI în care fructele sau legumele sunt transformate în personaje. În spatele imaginilor colorate și al poveștilor aparent ridicole au început să apară însă teme mult mai întunecate.

De la fructe animate la scene de tortură și mutilare

O mare parte din conținutul cunoscut drept „fruitslop” folosește scenarii extrem de simple. Personajele generate cu AI trec prin relații amoroase, își pierd locul de muncă, se ceartă sau ajung în situații melodramatice. Producția unor asemenea clipuri poate fi aproape complet automatizată.

Cercetătorii au identificat însă o creștere a videoclipurilor încadrate într-o categorie pe care o descriu drept „AI fruit/vegetable gore”. Aici, personajele sunt torturate, mutilate sau supuse unor acte de cruzime extremă.

Vezi și:

Pensia anticipată pentru femei în 2026. Ce acte trebuie depuse și când sunt necesare certificatele de naștere ale copiilor

Fenomenul nu este complet nou. Playtech a scris anterior despre valul de clipuri AI cu mâncare „torturată”, în care preparate și alimente umanizate plâng, suferă sau sunt gătite în scene intenționat grotesce.

Ceea ce îi îngrijorează acum pe cercetători este asocierea violenței cu ideologii și grupuri recognoscibile. Unele materiale introduc personaje inspirate de carteluri criminale, grupări de extremă dreapta sau ideologii nihiliste.

Autorii analizei consideră că expunerea repetată la violență prezentată exclusiv ca divertisment poate alimenta o fascinație pentru violență în sine. De aici până la radicalizare este însă o distanță importantă, iar cercetarea nu demonstrează că videoclipurile îi transformă efectiv pe copii în extremiști.

Vezi și:

Copiii, în fața unor noi reguli pe internet. Europa caută soluții pentru rețelele sociale, iar experții avertizează că interdicțiile nu sunt suficiente

Un copil din patru tace după experiențele negative de pe internet. Resursele gratuite pe care părinții și profesorii le pot folosi

Algoritmii pot transforma absurdul într-un flux fără sfârșit

Problema este amplificată de modul în care funcționează platformele cu videoclipuri scurte. Dacă un utilizator urmărește sau interacționează cu un anumit tip de material, algoritmul poate continua să îi servească variante asemănătoare.

Pentru copii, situația este mai sensibilă deoarece alfabetizarea media și capacitatea de a interpreta critic ceea ce apare pe ecran sunt încă în dezvoltare. Relația dintre algoritmi și generațiile care cresc cu TikTok și Reels a devenit deja o problemă mai largă, analizată și în contextul copilăriei modelate de algoritmi.

AI-ul face fenomenul și mai greu de controlat. Un creator uman are nevoie de timp pentru a scrie, anima și edita un videoclip. Sistemele generative permit producerea unor cantități enorme de conținut într-un interval foarte scurt.

Astfel apar adevărate ferme de conținut care pot testa sute sau mii de variante și păstra exact materialele care obțin cele mai multe vizualizări. Calitatea sau valoarea educativă devin secundare. Principalul obiectiv este captarea atenției.

Conținutul destinat copiilor este deja una dintre cele mai sensibile zone. YouTube, de exemplu, a modificat modul în care marchează videoclipurile generate artificial, însă rămân întrebări legate de clipurile AI care ajung la copiii de pe YouTube Kids.

Cercetătorii avertizează, dar legătura cu extremismul nu este încă demonstrată

Analiza GNET trebuie însă privită cu o precizare importantă. Nu este un studiu care demonstrează experimental că vizionarea videoclipurilor AI violente determină radicalizarea copiilor.

Autorii identifică un fenomen și avertizează asupra unui posibil traseu: expunere repetată la violență, normalizarea acesteia, căutarea unor materiale din ce în ce mai extreme și, în anumite cazuri, apropierea de comunități care promovează ideologii violente.

Chiar și Futurism remarcă faptul că sunt necesare cercetări academice mai ample înainte de a putea afirma că „AI slop” îi împinge efectiv pe copii către extremism.

Problema imediată este însă mult mai simplă. Platformele sunt inundate cu materiale generate automat, iar producerea lor este atât de ieftină și rapidă încât sistemele de moderare pot avea dificultăți în a ține pasul.

Un clip cu un fruct animat poate părea complet inofensiv în miniatură. Câteva secunde mai târziu, același personaj poate apărea într-o scenă violentă sau grotescă. Într-un feed infinit, în care următorul videoclip pornește automat, diferența dintre o glumă absurdă și conținutul nepotrivit pentru copii poate deveni foarte mică.

SUV-ul electric BYD de mărimea unui Kona primește 500 km autonomie și costă sub 14.000 de euro