Aplicații AI controversate scapă în App Store și Google Play: ce nu ți se spune despre imaginile generate artificial

Un nou scandal lovește industria tech și pune sub semnul întrebării controlul real exercitat de marile platforme asupra propriilor ecosisteme.

Apple și Google sunt criticate dur după ce în magazinele lor oficiale au fost descoperite aplicații bazate pe inteligență artificială care pot genera imagini false cu persoane fără haine.

Deși regulile celor două companii interzic explicit conținutul de acest tip, realitatea din teren pare să spună altceva. Mai grav, unele dintre aceste aplicații au fost etichetate ca fiind potrivite pentru toate vârstele, ceea ce ridică semne serioase de întrebare legate de protecția utilizatorilor, în special a minorilor.

Aplicații controversate, milioane de descărcări și bani serioși

Potrivit unei analize realizate de Tech Transparency Project, în Google Play și App Store au fost identificate zeci de aplicații care folosesc AI pentru a crea imagini manipulate, inclusiv conținut de tip „deepfake nudity”.

Mai exact, aproximativ 20 de aplicații au fost găsite în ecosistemul Google și alte 18 în cel al Apple. Împreună, acestea au strâns sute de milioane de descărcări, ajungând la un total estimat de aproape jumătate de miliard.

Dincolo de popularitate, cifrele financiare sunt la fel de relevante. Se estimează că aceste aplicații au generat venituri de peste 100 de milioane de dolari, ceea ce alimentează suspiciunile că platformele nu sunt suficient de agresive în eliminarea lor.

Problema nu este doar existența aplicațiilor, ci și faptul că unele au trecut de filtrele de moderare și au rămas disponibile chiar și după ce au fost semnalate. Asta, în ciuda politicilor oficiale care interzic clar astfel de funcționalități.

Inteligența artificială scapă de sub control?

Fenomenul nu a apărut peste noapte. La începutul anului, discuțiile despre utilizarea AI pentru generarea de imagini sensibile au explodat, mai ales după ce xAI, compania lui Elon Musk, a lansat funcționalități controversate prin chatbotul Grok.

De atunci, tot mai multe aplicații au început să exploateze această zonă gri a tehnologiei. Practic, folosind algoritmi avansați, pot modifica fotografii reale pentru a crea imagini care nu au existat niciodată, dar par extrem de credibile.

Criticii spun că problema nu este doar tehnologică, ci și de responsabilitate. Platformele care distribuie aceste aplicații au obligația de a preveni abuzurile, mai ales când există riscul ca imaginile generate să fie folosite pentru hărțuire, șantaj sau alte forme de exploatare.

În același timp, cazul ridică o întrebare mai amplă: cât de pregătite sunt marile companii tech să gestioneze efectele secundare ale inteligenței artificiale? Pentru moment, răspunsul pare incomplet.

Scandalul ar putea duce la presiuni mai mari din partea autorităților și la reguli mai stricte pentru aplicațiile AI. Până atunci, însă, realitatea este că tehnologia evoluează mai repede decât capacitatea de a o controla.

Dacia și filtrul de particule la dieselurile vechi: ce obiceiuri îl înfundă și cum îl poți salva