Apple înăsprește regulile pentru aplicațiile care „dezbracă” oameni cu AI. Trucul prin care unele ajungeau pe iPhone

O fotografie obișnuită, publicată pe o rețea socială, poate fi transformată cu ajutorul inteligenței artificiale într-o imagine intimă falsă, fără acordul persoanei fotografiate. Apple înăsprește acum regulile pentru aplicațiile care permit asemenea abuzuri și pentru dezvoltatorii care ascund funcțiile reale ale produselor lor până după aprobarea în App Store.

Modificările au fost anunțate pe 16 octombrie. Compania precizează că aplicațiile de acest fel încălcau deja interdicția privind conținutul pornografic, însă regulamentul menționează acum explicit imaginile intime fără consimțământ, inclusiv pe cele generate cu AI, și obligația dezvoltatorilor de a interveni.

Dezvoltatorii trebuie să prevină abuzurile și să elimine imaginile

Potrivit anunțului oficial Apple, aplicațiile trebuie să prevină și să elimine în mod proactiv asemenea materiale. Dezvoltatorii care nu introduc protecții adecvate sau nu remediază încălcările semnalate riscă eliminarea din App Store.

Regulile acoperă atât aplicațiile de creare a conținutului cu AI, cât și platformele în care utilizatorii publică materiale. Acestea trebuie să ofere filtre, posibilitatea raportării conținutului abuziv și instrumente pentru blocarea utilizatorilor care încalcă regulile.

În regulamentul App Store, Apple explică și cum poate interveni: solicită eliminarea materialelor și un plan de remediere, iar aplicația poate fi retrasă până când dezvoltatorul demonstrează că a corectat problemele. Încălcările grave sau repetate pot duce inclusiv la excluderea din programul pentru dezvoltatori.

Aplicațiile care își schimbă comportamentul după verificare sunt vizate direct

O altă modificare privește aplicațiile care prezintă evaluatorilor Apple o versiune aparent inofensivă, dar activează ulterior funcții ascunse. Compania dă chiar exemplul instrumentelor care generează imagini sexualizate ale unor persoane reale fără acordul lor.

Practic, o aplicație poate părea un simplu editor foto în timpul verificării, pentru ca după aprobare să ofere cu totul alte posibilități. Apple precizează că această tactică poate atrage eliminarea aplicației și excluderea dezvoltatorului.

Problema fusese semnalată și în contextul presiunilor asupra Apple și Google pentru eliminarea aplicațiilor care „dezbracă” oameni. Autoritățile din San Francisco au cerut măsuri împotriva unor servicii prezentate drept instrumente de editare, dar folosite pentru producerea de imagini intime false.

Ce înseamnă schimbarea pentru utilizatori

Regulamentul precizează separat că aplicațiile care facilitează traficul de persoane sau exploatarea copiilor vor fi eliminate din App Store și blocate de la distribuția alternativă. Această prevedere este relevantă și pentru piețele în care Apple permite instalarea aplicațiilor din alte surse autorizate.

Pentru utilizatori, inclusiv cei din România, schimbarea întărește obligațiile serviciilor care le găzduiesc sau le prelucrează fotografiile. Nu înseamnă însă că imaginile abuzive dispar automat de pe internet. Cazuri precum controversa privind imaginile sexualizate generate cu Grok arată că problema depășește aplicațiile specializate și poate apărea chiar pe platforme folosite de un public larg.

Trump e postaciul nr. 1 pe propria rețea Truth Social, dar audiența a scăzut văzând cu ochii. Cifrele care arată declinul platformei