Papa a avertizat, de asemenea, împotriva utilizării mesajelor vocale care folosesc vocea unei persoane pentru a transmite mesaje pe care acea persoană nu le-ar spune niciodată. El a remarcat că, deși tehnologia din spatele acestor programe poate avea aplicații utile în anumite domenii, devine dăunătoare atunci când distorsionează relațiile umane și percepția asupra realității.
Ca referință, în martie 2023, un utilizator de Twitter cunoscut sub numele de „skyferrori” a folosit serviciul de editare foto Midjourney v5 pentru a crea o imagine falsă convingătoare a Papei Francisc purtând o haină lungă, albă și bufantă. Această imagine a devenit rapid virală, acumulând peste 197.000 de aprecieri și 28,1 milioane de vizualizări. Mulți utilizatori au fost induși în eroare, crezând că imaginea era reală, marcând un moment semnificativ, deoarece era una dintre primele imagini generate de inteligență artificială care a păcălit un public larg online.
Vezi și: Taylor Swift, victima unui deepfake grosolan: Ce „vindea” vedeta pe internet
Deepfake-urile, periculoase
De la lansarea tehnologiei Stable Diffusion în 2022, preocupările legate de deepfakes și subminarea încrederii sociale, calitatea redusă a informațiilor online, precum și hărțuirea online și posibila distorsionare a evidențelor istorice, au fost subiecte de discuție frecvente. Aceste probleme rămân nerezolvate, deoarece tehnologiile de filigranare sunt deocamdată considerate nesigure, iar inițiativele de etichetare a metadatelor nu sunt încă adoptate pe scară largă. În final, încrederea noastră în ceea ce vedem online depinde de încrederea noastră în mesageri.
Papa a avertizat că dezvoltarea sistemelor de inteligență artificială, menționate și în mesajul său cu ocazia Zilei Mondiale a Păcii, schimbă radical peisajul informațional și comunicativ, afectând aspecte fundamentale ale vieții sociale. El a subliniat că aceste schimbări afectează întreaga societate și nu numai specialiștii din domeniu, evidențiind că rapiditatea cu care inovațiile tehnologice se răspândesc și funcționează poate fi în același timp fascinantă și tulburătoare.
Vezi și: Imaginea ministrului Energiei, folosită într-o fraudă online cu Enel. Riști să-ți dispară banii din cont, ministrul a făcut plângere penală pentru deepfake