Fenomen grav în era AI: Cum sunt utilizatorii încurajați să-ți denatureze fotografiile cu inteligența artificială
Civitai, o „piață” online pentru partajarea aplicațiilor de inteligență artificială, a introdus recent o nouă funcție numită „recompense” pentru a încuraja comunitatea să dezvolte deepfake-uri credibile ale persoanelor reale.
Vezi și: Ce e deepfake: tehnologia care te poate face să crezi orice
Cum funcționează recompensele
Persoana care creează cel mai bun model de inteligență artificială primește o monedă virtuală numită Buzz, pe care utilizatorii o pot cumpăra cu bani reali.
Multe dintre recompensele postate pe site le solicită utilizatorilor să recreeze celebrități și influenceri de pe rețelele de socializare, majoritatea fiind femei, evident.
Raportul evidențiază că o parte semnificativă dintre aceste rezultate sunt imagini sexuale fără acordul persoanelor reale.
Acest tip de conținut este răspândit pe internet de mulți ani, însă inteligența artificială permite obținerea unor rezultate finale mai realiste.
În plus, 404 Media a descoperit cereri de deepfake-uri pentru persoane private fără o prezență semnificativă online, ceea ce face situația și mai înspăimântătoare.
Potrivit companiei Andreessen Horowitz, Civitai este a șaptea platformă de inteligență artificială generativă ca popularitate, în acest moment. Cu alte cuvinte, există o mulțime de priviri îndreptate către aceste cereri de recompense.
404 Media a reușit să găsească imagini suspecte printr-o cerere de recompensă pentru o persoană privată, cu conturi personale pe rețelele de socializare, care aveau doar câțiva urmăritori.
Persoana care a postat recompensa pretindea că este soția sa, dar conturile ei de social media spuneau altceva.
Autoritățile din acest stat american au început să ia măsuri legale împotriva fenomenului de deepfake
Un utilizator Civitai a refuzat recompensa invocând că „probleme legale în viitor”. În acest sens, statul Virginia a actualizat recent legislația privind pornografia de răzbunare pentru a pedepsi creatorii de deepfake-uri cu până la un an de închisoare.
Cu toate acestea, această cerere specifică a fost îndeplinită, iar mai multe imagini au fost încărcate pe site, chiar dacă erau non-sexuale.
Este de remarcat că foarte puține dintre cererile de recompensă specifică că persoana care a postat caută material sexual, exprimând cererea în limbaj vag.
Chiar și așa, sunt permise atât imagini sexuale ale unor vedete, cât și imagini non-sexuale ale oamenilor obișnuiți.
Evident, este doar o chestiune de combinare a celor două. 404 Media a utilizat instrumentul de text la imagine al companiei pentru a crea imagini sexuale cu o persoană, în doar câteva secunde.
Vezi și: Avertismentul autorităților: cum poți deveni victima fenomenului deepfake