Cât de ușor este să păcălești inteligența artificială

Cât de ușor este să păcălești inteligența artificială
Sursa foto: McKinsey
19:56 07.12.2018

Imaginează-ți următorul scenariu: te afli într-o mașină autonomă, te îndrepți către o intersecție aglomerată și vezi cum semaforul se face roșu – însă mașina nu se oprește, așa că ce faci?

Cu toții știm acele momente în care parcă ne stă creierul – de exemplu atunci când cobori treptele și o ratezi pe ultima. De obicei trecem cu brio de ele. Dar o problemă mai mare ar fi atunci când unei mașini îi stă „creierul”. Înainte să ne transformăm lumea într-una care să semene cu ce vedem în filmele SF, având doar mașini care se conduc singure, e esențial să ne asigurăm că acestea nu pot fi păcălite.

De regulă, algoritmii de învățare automată se bazează pe informațiile pe care le primesc de la mediul înconjurător. Oamenii de știință și-au dat seama, pe măsură ce au dezvoltat mai mult diversele forme de inteligență artificială, că există anumite interferențe din lumea reală care pot afecta buna funcționare a acestor sisteme. Experții numesc acele interferențe „evenimente ciudate”. Evenimentele acestea ciudate pot prezenta un risc pentru un viitor în care mașinăriile sunt autonome.

Inteligența artificială poate fi păcălită relativ ușor. Spre exemplu, fața oamenilor poate deveni de nerecunoscut pentru sistemele inteligente de recunoaștere facială dacă te machiezi precum un clown din filmele de groază, iar un semn de stop poate fi făcut invizibil cu câteva bucăți de bandă în fața mașinilor autonome. Cu alte cuvinte, atunci când informațiile din mediul înconjurător sunt manipulate într-un fel sau altul, rezultatul final poate fi unul surprinzător.

Mai avem multe lucruri de învățat despre cum inteligența artificială evaluează ceea ce vede. La urma urmei, încă suntem la început în ceea ce privește această tehnologie. Înainte ca inteligența artificială să devină ceva firesc și întâlnit la tot pasul, trebuie să antrenăm cât mai bine mașinăriile și să le facem să fie cât mai puțin predispuse la greșeli.

Sursa: Futurism
loading...