Aplicațiile AI care „dezbracă” oameni ajung în centrul unui scandal. Apple și Google, vizate de autorități

Apple și Google se confruntă cu noi presiuni din partea autorităților din Statele Unite, după ce au fost acuzate că permit distribuirea unor aplicații bazate pe inteligență artificială care pot genera imagini nud false fără acordul persoanelor vizate. Oficialii din San Francisco susțin că aceste aplicații au devenit un instrument folosit pentru hărțuire, șantaj și umilirea femeilor și fetelor.

Biroul procurorului orașului San Francisco a transmis notificări oficiale către cele două companii, cerând eliminarea imediată a 13 aplicații din magazinele lor digitale. În opinia autorităților, simpla găzduire și monetizare a acestor servicii contribuie la răspândirea unui fenomen care produce efecte grave asupra victimelor, scrie publicația Wired.

San Francisco cere măsuri dure împotriva aplicațiilor care folosesc AI pentru imagini intime false

Procurorul orașului San Francisco, David Chiu, susține că aplicațiile vizate permit generarea unor imagini intime false prin intermediul inteligenței artificiale, folosind fotografii obișnuite încărcate de utilizatori. Cu doar câteva apăsări pe ecran, acestea pot crea conținut explicit fără consimțământul persoanei din imagine.

Autoritățile consideră că Apple și Google nu doar că distribuie aceste aplicații, ci și obțin venituri din ele prin comisioanele percepute pentru achizițiile efectuate în interiorul aplicațiilor. Din acest motiv, cele două companii sunt acuzate că facilitează indirect comercializarea unor servicii care încalcă legislația din California privind pornografia deepfake și imaginile intime generate fără acord.

David Chiu afirmă că fenomenul produce efecte devastatoare asupra victimelor, de la afectarea reputației și a sănătății mintale până la cazuri în care persoanele vizate au avut gânduri suicidare. Potrivit acestuia, platformele digitale trebuie să își asume o responsabilitate mai mare în verificarea aplicațiilor înainte ca acestea să ajungă disponibile publicului.

Cercetările arată că problema este mult mai mare decât pare

Deși Apple și Google au reguli care interzic pornografia, hărțuirea și conținutul abuziv, mai multe investigații independente au arătat că astfel de aplicații continuă să ajungă în App Store și Google Play.

Unele dintre ele sunt prezentate drept simple aplicații de schimbare a feței sau editare foto, însă după instalare oferă funcții care permit realizarea de imagini sexualizate generate cu AI. Tocmai această strategie le permite să treacă mai ușor de filtrele automate folosite de magazinele de aplicații.

Vezi și:

Procesul Apple care poate bloca dispozitivul secret al OpenAI. Planurile lui Sam Altman, amenințate înaintea lansării

Apple mărește prețurile pentru Apple Music și Apple One. Cât vor plăti utilizatorii pentru abonamente

Un raport al organizației Tech Transparency Project a identificat în acest an aproximativ 100 de astfel de aplicații pe cele două platforme. Estimările arată că acestea au fost descărcate de aproximativ 480 de milioane de ori și ar fi generat venituri totale de aproape 120 de milioane de dolari.

O altă cercetare, realizată de specialiști de la Cornell University și Georgetown University, a analizat peste 400 de aplicații de tip face swap. După testarea unei părți dintre ele, cercetătorii au constatat că în aproximativ 70% dintre cazuri funcțiile disponibile puteau fi folosite pentru realizarea unor imagini nud false, fără ca aplicațiile să includă măsuri eficiente de protecție.

Google spune că a eliminat sute de aplicații, Apple nu a comentat

Google a transmis că elimină constant aplicațiile care încalcă regulile platformei și susține că a șters deja sute de aplicații care ofereau funcții de tip „nudify”. De asemenea, compania afirmă că a restricționat inclusiv căutările după termeni asociați acestor servicii în Google Play. Apple nu a oferit un punct de vedere înainte de publicarea informațiilor.

Cu toate acestea, autoritățile din San Francisco consideră că măsurile luate până acum nu sunt suficiente. Potrivit procurorului David Chiu, simplul fapt că astfel de aplicații continuă să apară în magazinele oficiale demonstrează existența unor probleme în procesul de verificare.

Presiunea asupra marilor companii tehnologice continuă

În ultimii ani, dezvoltarea rapidă a inteligenței artificiale generative a făcut ca imaginile și videoclipurile deepfake să devină tot mai realiste și mai ușor de realizat. În multe cazuri este suficientă o fotografie preluată de pe rețelele sociale pentru ca o persoană să fie transformată într-o victimă a unui fals conținut explicit.

Fenomenul a fost raportat inclusiv în zeci de școli, unde elevi au folosit astfel de instrumente pentru a crea imagini sexualizate cu minori, ceea ce a atras atenția autorităților și a organizațiilor care luptă împotriva abuzurilor online.

Procurorul din San Francisco avertizează că, dacă Apple și Google nu vor elimina rapid aplicațiile vizate și nu își vor întări sistemele de verificare, biroul său ia în calcul noi acțiuni legale. Mesajul transmis este clar: platformele care permit distribuirea acestor instrumente nu mai pot invoca faptul că sunt doar intermediari, mai ales atunci când obțin și venituri din funcționarea lor.

AI-ul va putea lucra mai ușor cu aplicațiile pe care le folosim zilnic. Schimbarea importantă din spate care poate reduce costurile