Google lucrează la măsuri de siguranță împotriva roboților

Când vorbim despre viitorul inteligenței artificiale și despre roboți, lumea se împarte în două tabere: companiile precum Google, Facebook, Amazon și Microsoft care investesc mult în tehnologiile necesare pentru a le dezvolta și, la polul opus, oamenii care cred că ne vor aduce moartea tuturor.

Acum, DeepMind de la Google, una dintre cele mai avansate inteligențe artificiale în momentul acesta, ia măsuri de siguranță pentru eventualitatea în care operatorii umani au nevoie să „preia controlul asupra unui robot care are un comportament care poate conduce la consecințe ireversibile”. Această propoziție sumbră probabil include, dar nu se limitează la uciderea tuturor oamenilor.

Documentul publicat a fost redactat printr-un efort făcut de o colaborare între Google DeepMind și Institutul pentru Viitorul Omeniri al Universității Oxford. Aceasta din urmă a fost fondată de Nick Bostrom, care vorbește despre pericolele dezvoltării inteligențelor artificiale de zeci de ani și a scris mai multe cărți despre un viitor în care roboții super-inteligenți sunt printre noi.

Documentul intitulat sugestiv “Safely Interruptible Agents” investighează moduri prin care o inteligență artificială poate fi oprită dacă începe să facă ceva ce operatorul uman nu prea își dorește ca ea să facă. E plin de ecuații matematice care descriu metode prin care poate fi construit un mare buton roșu de oprire a inteligențelor artificiale. Vestea bună e că cercetătorii au văzut aceleași filme pe care le-am văzut și noi, adică și pe cele în care robotul învață să ignore comanda de pornire și de oprire.

Aceste măsuri de precauție vin în întâmpinarea temerilor pe care Stephen Hawking și Elon Musk le-au exprimat, legat de avansarea inteligențelor artificiale.„Şansele ca un dezastru de proporţii să se producă pe planeta noastră în următorii 1.000 de ani sunt din ce în ce mai mari. Cu toate acestea, vom reuşi să stabilim colonii în spaţiul cosmic peste aproximativ un secol. Între timp, trebuie să fim foarte precauţi, pentru că cele mai importante pericole pentru om au apărut ca urmare a dezvoltării ştiinţei şi tehnologiei”, a explicat fizicianul într-un interviu acordat Radio Times și citat de The Guardian.