Tehnologia care ar putea cauza o explozie a știrilor mincinoase

Tehnologia care ar putea cauza o explozie a știrilor mincinoase
17:57 23.06.2019

În încercarea de a preveni știrile false scrise de inteligențe artificiale să se răspândească pe internet, cercetătorii au făcut ceva ironic și au creat o inteligență artificială capabilă să scrie și identifice știri false mai bine ca oricare alta.

Sistemul se numește Grover și poate scrie, pornind de la un titlu și nimic mai mult, știri false și manipulatoare care sunt chiar mai credibile decât cele scrise de oameni, potrivit studiului. „Am descoperit că cei mai buni discriminatori din prezent pot diferenția știrile false neurale de cele reale, scrise de oameni, cu o acuratețe de 73%, dacă are acces la un nivel mediu de date de antrenament”, au subliniat cercetătorii. „În mod contra-intuitiv, cea mai bună apărare împotriva lui Grover a fost însuși Grover, cu o acuratețe de 92%”.

Cu alte cuvinte, Grover poate detecta știrile false scrise de inteligențe artificiale mai bine ca orice instrument existent. Reversul medaliei este că, în mâini greșite, acesta ar putea umple internetul de mesaje de propagandă și de dezinformare. Atenția la detalii pe care o are mașinăria – ea poate chiar să imite stilul de scriere specific unei publicații – ar putea fi un coșmar dacă ar ajunge la cine nu trebuie.

Dacă echipa de la OpenAI a refuzat să lanseze varianta finală a algoritmului lor capabil să scrie știri false, GPT-2, de teamă să nu cadă în mâini greșite, cercetătorii de la University of Washington vor să îl lanseze pe Grover în mod public, pentru a ajuta la combaterea știrilor false scrise de roboți. Grover poate analiza atât corpul textului, cât și titlul, numele publicației, numele autorului și alte detalii care pot indica faptul că știrea a fost scrisă de o inteligență artificială în scopuri malițioase.

Deși lansarea unui algoritm de tipul lui Grover ar putea fi periculoasă, oamenii de știință care l-au creat sunt convinși că aceasta este singura soluție în lupta cu propaganda generată de mașinării.

Sursa: Futurism
loading...