Tehnologia AI, folosită, din ce în ce mai des, în scopuri josnice: cât de departe s-a ajuns cu fenomenul deepfake

În urmă cu câteva zile, startup-ul AI ElevenLabs a lansat o versiune beta a platformei sale care oferă utilizatorilor puterea de a crea voci sintetice complet noi pentru sunetul text-to-speech sau de a clona vocea cuiva, prin intermediul inteligenței artificiale.

Ei bine, nu a durat mult până când oamenii au început să folosească tehnologia în scopuri josnice.

Compania a dezvăluit pe Twitter că a observat un „număr tot mai mare de cazuri de utilizare greșită a clonării vocii” și că se gândește la o modalitate de a rezolva problema prin „implementarea unor măsuri de protecție suplimentară”.

Totuși, ElevenLabs nu a explicat ce înseamnă „cazuri de utilizare greșită”, Motherboard a găsit postări pe 4chan cu clipuri ce conțineau voci generate care sunau cunoscut.

De ce a lipsit Mihaela Botezatu de la înmormântarea lui Silviu Prigoană. Unde se afla în momentul în care milionarul a murit

De unde provin cotletul și ceafa de porc vândute la Kaufland. Mulți români le cumpără pentru că au mereu un preț bun, dar nu se uită pe etichetă

Emma Watson, una dintre „victimele” tehnologiei AI

De exemplu, unul dintre clipuri ar fi prezentat o voce care suna ca cea a Emmei Watson citind un paragraf din Mein Kampf.

Utilizatorii au postat inclusiv clipuri vocale cu mesaje homofobe, transfobe, violente și rasiste.

Nu este complet clar dacă toate clipurile au folosit tehnologia ElevenLab, dar o parte dintre ele sigur au apelat la platformă.

Poate că această apariție a clipurilor audio „deepfake” nu ar trebui să fie o surpriză, având în vedere că, în urmă cu câțiva ani, am fost martorii unui fenomen similar.

Progresele în inteligența artificială și învățarea automată au dus la o creștere a videoclipurilor de tip „deepfake”, în special a pornografiei „deepfake”, în care materialele pornografice existente sunt modificate pentru a folosi fețele celebrităților.

ElevenLabs se află în preces de adunare a feedback-ului despre cum să împiedice utilizatorii să abuzeze de tehnologia sa.

În prezent, ideile actuale includ adăugarea de mai multe filtre de verificare a contului pentru a permite clonarea vocală, cum ar fi solicitarea utilizatorilor să introducă informații de plată sau un act de identitate.

Se ia în considerare, de asemenea, ca utilizatorii să verifice dreptul de proprietate asupra vocii pe care doresc să o cloneze, cum ar fi să trimită un eșantion cu textul solicitat. În cele din urmă, compania se gândește să renunțe cu totul la instrumentul Voice Lab.