Aplicațiile care îți ”piratează” vocea cu inteligență artificială, un pericol mai mare decât ai crede. Avertismentul experților despre clonarea pe bază de AI

Inteligența artificială a avansat rapid în ultimii ani, iar tehnologiile de clonare vocală au devenit tot mai accesibile. O evaluare recentă realizată de Consumer Reports (CR) arată că multe dintre aceste aplicații nu au măsuri adecvate pentru prevenirea fraudei, lăsând utilizatorii vulnerabili în fața escrocilor.

Cum funcționează clonarea vocală și unde apare riscul?

Multe aplicații de clonare vocală permit crearea unei copii artificiale a vocii unei persoane folosind doar un scurt fragment audio. Tehnologia poate avea aplicații legitime , cum ar fi dublajul filmelor, automatizarea narării sau editarea audio , dar fără măsuri de siguranță adecvate, poate deveni o armă puternică pentru infractori .

Potrivit raportului CR, există cazuri tot mai frecvente în care escrocii folosesc aceste tehnologii pentru a imita voci ale rudelor , cerând bani în numele acestora, sau pentru a crea declarații false ale unor celebrități și figuri politice în scopuri dezinformative.

Aplicațiile vulnerabile la abuzuri

Evaluarea Consumer Reports a inclus șase companii care oferă servicii de clonare vocală:

Ce se întâmplă dacă pui o frunză de dafin într-un recipient cu sare. Trucul simplu cu efect spectaculos pentru casa ta

Legume pe care le poți planta primăvara pentru a le recolta în luna mai: 5 opțiuni rapide și ușor de îngrijit

• ElevenLabs , Speechify , PlayHT și Lovo au permis generarea de voci artificiale fără verificarea consimțământului persoanei imitate . Tot ce trebuia să facă utilizatorul era să bifeze o casetă care atestă că are permisiunea de a folosi vocea respectivă.

• Descript și Resemble AI au fost mai stricte, aplicând măsuri suplimentare pentru prevenirea clonării vocale fără acord.

În plus, patru dintre aceste servicii nu necesită decât un email pentru a crea un cont , ceea ce face aproape imposibilă identificarea utilizatorilor care abuzează de tehnologie .

Ce măsuri ar trebui să ia companiile pentru a preveni fraudele?

Consumer Reports recomandă adoptarea unor măsuri stricte pentru protejarea consumatorilor împotriva abuzurilor:

• Verificarea identității utilizatorilor înainte de a permite generarea de clone vocale.

• Solicitarea unui script unic pentru a confirma consimțământul persoanei a cărei voce este clonată.

• Marcarea audio-urilor generate de AI , astfel încât acestea să poată fi recunoscute ulterior.

• Restricționarea accesului la voci ale celebrităților și politicienilor , pentru a preveni răspândirea informațiilor false.

• Implementarea unor filtre de conținut , care să blocheze automat replicile utilizate frecvent în fraude și escrocherii.

Ce rol joacă autoritățile în protejarea consumatorilor?

În prezent, în SUA, Comisia Federală pentru Comerț (FTC) are obligația legală de a se asigura că aceste produse nu sunt utilizate pentru prejudicierea consumatorilor , însă experții cer măsuri mai dure . Consumer Reports recomandă adoptarea unor noi legi care să reglementeze tehnologiile de clonare vocală și oferirea de resurse suplimentare pentru investigarea abuzurilor.

În plus, procurorii generali ai statelor ar trebui să analizeze dacă aceste instrumente AI încalcă legile privind protecția consumatorilor .

O tehnologie utilă, dar periculoasă fără control

Deși clonarea vocală are numeroase utilizări legitime, lipsa unor măsuri de protecție eficiente o face extrem de periculoasă. Fără o reglementare adecvată, escrocii pot profita de aceste tehnologii pentru a fura bani, identități și a răspândi informații false . Pe măsură ce AI-ul devine tot mai avansat, este esențial ca atât companiile din domeniu, cât și autoritățile să colaboreze pentru a preveni abuzurile.