”O vreau pe Rosie, nu vreau un Terminator”: cum se vede viitorul europenilor prin prisma raportului Parlamentului European privind robotica

La începutul lunii februarie, în cadrul unui eveniment special desfășurat la Parlamentul European, politicieni, oameni de știință și profesori universitari din întreaga Europă au dezbătut concluziile unui raport privind efectele pe care le va avea robotica asupra vieții europenilor, măsurile care ar trebui luate de autoritățile legislative și pașii care trebuie făcuți pentru a asigura ”conviețuirea” dintre oameni și mașinării. Am fost acolo și am aflat cum sunt privite inteligențele artificiale, roboții industriali și mașinile autonome la nivelul UE. 

[related]

Deputații subliniază că este nevoie urgentă de propuneri legislative care să clarifice responsabilitățile, mai ales pentru mașinile fără șofer. Ei cer o schemă obligatorie de asigurare și un fond suplimentar pentru a fi sigur că victimele accidentelor în care sunt implicate mașini fără șofer vor fi compensate integral. Deputații mai cer Comisiei să aibă în vedere crearea unui statut legal specific pentru roboți, pe termen lung, pentru a stabili cine este responsabil dacă ei produc pagube.

Rapida dezvoltare a roboților poate duce la modificări pe piața muncii prin crearea, mutarea sau pierderea anumitor locuri de muncă. Deputații cer Comisiei să urmărească aceste tendințe îndeaproape. Utilizarea pe scară tot mai largă a roboților ridică și chestiuni etice, cum ar fi, de exemplu, cele referitoare la viață privată și siguranță, spun deputații. Ei propun un cod etic voluntar privind robotica pentru cercetători și designeri care să asigure faptul că ei operează conform standardelor legale și etice și că design-ul și utilizarea roboților respectă demnitatea umană. Rezoluția a fost adoptată cu 396 voturi la 123 și 85 abțineri.

Mady Delvaux (S&D, Luxembourg), cea care a scris draftul inițial, a făcut referire, în timpul conferinței, la problemele economice, dar și la cele care țin de siguranța cetățenilor europeni. ”Cel mai important lucru pentru mine a fost să lansez o dezbatere între experți, legislatori și publicul larg. Sunt de părere că roboții vor avea un impact asupra tuturor aspectelor ce țin de viețile noastre”, a spus ea, în timpul evenimentului din data de 7 februarie. .

“Deși sunt încântată că plenul a adoptat raportul meu privind robotica, sunt și dezamăgită că grupurile din coaliția de dreapta, ALDE, PPE și ECR, au refuzat să țină seama de consecințele posibil negative pe piața muncii. Ei au respins o dezbatere constructivă și vizionară, ignorând astfel îngrijorările cetățenilor noștri”, a explicat aceasta, după procedura de vot a raportului.

”Societatea nu trebuie să ajungă să fie organizată în jurul roboților”

”Roboții pot ușura viața, munca, pot ajuta oamenii dar, pe cealaltă parte, există o temere că multe locuri de muncă vor dispărea”, a declarat deputata, săptămâna trecută.

Oraşul din România străbătut de un râu fierbinte. Este o bijuterie a ţării, puţini ştiu că ascunde acest secret

Câtă sare se presară în grădină pentru a scăpa de buruieni. Mare grijă, plantele se pot usca

Delvaux consideră că cea mai urgentă chestiune este reglementarea roboților care sunt deja pe piață sau a celor care vor ajunge pe piață în viitorul foarte apropiat. Ea a făcut referire la mașinile autonome, la drone, dar și la mașinăriile industriale. Una dintre cele mai mari probleme când vine vorba despre roboții autonomi sau semi-autonomi ține de responsabilitate – cine este responsabil pentru acțiunile unui robot, iar o alta e legată de toate informațiile pe care roboții (sub orice formă ar veni ei) le colectează și le procesează – mai exact, cine deține respectivele date, cât vor fi stocate și cum este protejată intimitatea oamenilor.

”Concluzia mea ar fi că avem mai multe întrebări decât răspunsuri și că acest raport este numai începutul unui proces complicat”, a mai spus ea. ”Trebuie să implementăm un sistem care să ne permită să reacționăm, fiindcă ne dorim ca industriile să aibă succes. Nu vorbim despre oprirea inovațiilor, ci despre crearea unui cadru legal care să permită industriei europene să aibă succes și să fie de ajutor pentru clienții europeni”.

Ea și-a încheiat declarația spunând că societatea nu trebuie să ajungă să fie organizată în funcție de roboți, ci în funcție de oameni, și că oamenii trebuie mereu să fie subiectul principal când vine vorba despre astfel de dezbateri.

Roboții, construiți în jurul ideii de confidențialitate a datelor

Michał Boni (EPP, Polonia), reprezentant al comisiei pentru libertăți civile, justiție și afaceri interne (LIBE) declara, pe 7 februarie, că este foarte important să înțelegem faptul că nu mai trăim în era în care roboții sunt mașinării simple care doar ajută în fabrici, ci în cea a inteligențelor artificială și mașinăriilor care învață. ”Este o provocare cu totul și cu totul nouă și trebuie să înțelegem ce impact vor avea acești roboți asupra industriei, economiei și vieților noastre”, a spus el.

Deputatul crede că este nevoie de o definire a modului în care vor decurge relațiile dintre noua generație de roboți și oameni. ”Trebuie să ne gândim dacă roboții care se pot folosi de datele noastre, care le pot procesa și analiza, ne vor și proteja intimitatea. Aceasta este una dintre cele mai importante probleme”, a susținut acesta. El a făcut referire la legile de protecție a datelor care sunt în proces de implementare în Europa și a accentuat faptul că trebuie creat un punct de referință legat strict de roboți, pentru ca aceștia să îndeplinească toate condițiile privind protecția datelor personale.

”Asta înseamnă, dintr-un punct de vedere tehnic, că roboții trebuie construiți în jurul ideii de intimitate. Când inginerii încep să lucreze, ar trebui să implementeze, de la bunul început, în algoritmi, în modele, în arhitectură, regulile legate de protejarea intimității utilizatorilor, regulile legate de principiul de nediscriminare, regulile legate de problemele etice”, a accentuat Boni.

Și Max Andersson (Greens/EFA, Suedia) a vorbit despre intimitate în era roboților. ”Având în vedere că orice mașină va deveni o cameră de filmat și orice prăjitor de pâine va fi capabil să ne asculte, avem nevoie de legi puternice privind confidențialitatea datelor”.

Cu toate astea, trăim în era smartphone-urilor, dispozitive care, nu de puține ori, s-au dovedit a nu fi foarte eficiente în păstrarea intimității utilizatorilor. Smartphone-urile au ajuns atât de inteligente încât pot ajunge să controleze întreaga locuință și suficient de avansate încât să funcționeze ca un creier pentru roboți. Având în vedere că nu s-a reușit o reglemntare foarte eficientă când vine vorba despre smartphone-uri, cum ar putea fi reglmentați roboții foarte avansați? Și, având în vedere că Volkswagen a reușit să păcălească legislatorii cu ajutorul unui software relativ simplu, cum ar putea fi verificat un algoritm atât de complex precum cele folosite de inteligențele artificiale? Reprezentanții Parlamentului European sunt de părere că încrederea, legile stricte și amenzile mari reprezintă cheia succesului din acest punct de vedere.

”Una dintre problemele principale, când vine vorba despre evoluția digitală este încrederea: avem încredere unii în ceilalți, avem încredere în dispozitivele noastre, avem încredere în partenerii noștri? Legile de protecția a datelor sunt foarte importante în clădirea acestei încrederi și începem să lucrăm și la o reglmentare a intimității online, care nu se va adresa doar relațiilor dintre utilizatori și companii, ci comunicării în mediile electronice în general. Acest lucru este foarte important”, a declarat Boni. ”Cum vom face companiile să respecte legile? În cazul General Data Protection, ele sunt amenințate de amenzi foarte mari, iar până și o companie foarte bogată se va gândi de două ori înainte să încalce legea”, a completat Andersson.

Legat de codul sursă al roboților – foarte avansat, de altfel – ar trebui să fie disponibil pentru inspecție, iar ”iar transparență îi face pe oameni și pe corporații să respecte legile”, a mai spus deputatul suedez. ”E posibil chiar să avem o inteligență artificială care să se ocupe chiar de inspectarea respectivului cod”.

Ne vor fura roboții locurile de muncă?

Andersson este cel care a dezbătut în detaliu problema locurilor de muncă: ce se va întâmpla cu oamenii când roboții vor deveni din ce în ce mai capabili (și mai eficienți)? Diverse studii arată că mari parți ale tuturor locurilor de muncă vor fi ocupate de mașinării, dar nu toți membrii Parlamentului European sunt de acord că asta este o problemă reală. ”Angajații cu venituri mediu ar putea fi înlocuiți cu ușurință de către roboți, dar vor apărea noi locuri de muncă, iar unele dintre ele vor fi foarte bine plătite, dar alte ar putea fi mai puțin plătite. Există un risc ca societatea să se împartă între cei care câștigă și cei care pierd în urma acestor schimbări tehnologice enorme. De asta trebuie să implementăm o serie de reglementări care să asigure existența unor sisteme de siguranță socială și a unor oportunități de reeducare, pentru ca oamenii să se poată reprofila. Trebuie să începem aceste demersuri acum, altfel, ei bine, oamenii vor deveni foarte furioși”, a declarat deputatul.

”Când se va întâmpla, cred că revoluția robotică va avea efecte sociale comparabile cu cele pe care le-am văzut odată cu introducerea presei de tipărit și a motorului cu aburi”, a accentuat Andersson.

Merja Kyllönen (GUE/NGL, Finlanda) a declarat, totuși, că ”am supraviețuit la trei revoluții industriale” și că nu vede de ce nu am supraviețui și celei de-a patra, a roboților. Deputata este de părere că societatea se poate adapta și că, în aceste vremuri, mulți oameni sunt nefericiți și supraîncărcați cu sarcinile de la serviciu.

Dita Charanzova (ALDE, Cehia), care a votat și împotriva raportului, crede că ”trebuie făcută diferența între SF și realitate”. Ea a citat un studiu care arată că, până în 2025, există potențialul ca roboții să aducă mai mult de un trilion de euro economiei. ”Pentru mine contează mai mult crearea unui cadru legal corect care să permită afacerilor să se dezvolte în Europa. Din punctul meu de vedere, beneficiile sunt mai importante decât riscurile potențiale”, a explicat ea. ”Nu cred că roboții ne vor fura locurile de muncă. Uitați-vă la industria auto – este un sector care folosește mai mulți roboți decât orice altă industrie, dar nu există semne ale creșterii ratei șomajului aici. Din contră, sunt mai multe cereri de angajare. Îmi pare rău, dar roboții nu sunt oameni! Pentru moment, este doar SF. Noi realizăm roboții, noi deținem control, așa că nu are rost să răspândim frica printre cetățeni”, a accentuat ea.

Max Andersson a vorbit și despre nevoia de a impune niște standarde deschise și comune tuturor roboților, dând drept exemplu situația în care un fișier trimis de pe Windows nu poate fi deschis ușurință pe un Macbook. ”Trebuie să ne asigurăm că roboții vor putea comunica între ei și să evităm situațiile în care cei care au cumpărat un robot de la o companie într-un an sunt forțați să cumpere un robot de la aceeași companie în anul următor Avem nevoie de condiții corecte pentru ca producătorii mai mici să poată concura pe piață, iar pentru asta avem nevoie de standarde deschise și de condiții de interoperabilitate”, a explicat el.

”O vreau pe Rosie, din familia Jetson, nu vreau un Terminator”

Suedezul a ridicat și problema mașinăriilor inteligente de război spunând că, dacă va fi cazul ca un robot să folosească violența, atunci decizia ar trebui să aparțină mereu oamenilor și nu vreunui algoritm.

Tot pe tema roboților pentru armată, Dominik Bosl, de la KUKA (o companie care realizează roboți industriali), nu este de părere că roboții nu vor ajunge să distrugă lumea și că nu e cazul împrăștiem mesaje care provoacă teamă.

”La fel ca și în cazul tuturor tehnologiilor disruptive, trebuie să fim atenți ce vom face cu ele. Le putem folosi pentru a crea roboți-majordom sau le putem folosi în scopuri militare. Pe de altă parte, trebuie să discutăm despre efectul Hollywood: în ultimii ani, mai mult de 11 filme au fost legate de roboți. Acestea creeză probleme de percepție. De asemenea, avem aceste personalități, cum ar fi Elon Musk, Bill Gates, Stephen Hawking, care spun că roboții și inteligențele artificiale vor distruge lumea. Eu nu cred asta. Asta provoacă frică”, a declarat managerul KUKA. ”Avem nevoie de reglementări, dar nu e cazul să exagerăm cu ele”, a mai spus acesta.

Bosl se teme că legile prea drastice ar putea bloca inovația, dar este de acord că producătorii de roboți trebuie să-și asume o serie de responsabilități. ”O vreau pe Rosie, din familia Jetson, nu vreau un Terminator”, a mai spus el.

Dirk Lefeber, de la Vrije Universiteit Brussel lucrează cu roboți meniți să ajute persoanele cu dizabilități, utilaje menite să-i susțină pe muncitorii din fabrici, dar și cu tehnologii care, speră el, vor ajunge să fie ”o a doua piele pentu oameni”. Lefeber recunoaște, însă, că există mari probleme cu finanțarea. În acest context, având în vedere aplicațiile militare care se pot găsi pentru roboți și fondurile de care dispun armatele, sunt șanse mai mari să ne trezim cu un Terminator înainte de a avea un robot majordom?

Având în vedere că inovații precum computerele sau cuptoarele cu microunde au fost inițial dezvoltate pentru armata și abia apoi au ajuns și la cetățeni, nu e puțin probabil ca același lucru să se întâmple și când vine vorba de robotică. Bosl nu este de acord cu acest lucru și a explicat că cel mai folosit robot în momentul actual este un aspirator – Roomba. Totuși, el nu a luat în considerare faptul că Roomba este creat de compania iRobot, companie care, la începuturile sale, avea scopuri și finanțare militare.

Revenind la viitorul mai apropiat, și roboții de alte forme ar putea folosiți pentru a face rău: vorbim despre mașinile autonome. Laurent Zibell, de la sindicatul industriAll Europe, a ridicat această problemă. El a atras atenția asupra faptului că un automobil autonom ar putea fi folosit pe post de mașină capcană. ”Mașina autonomă este vectorul perfect pentru a livra orice fel de explozibil în oraș. Chiar dacă este o invenție civilă, aceasta ar putea ajunge să fie folosită în scopuri paramilitare, de către teroriști”, a explicat el. Nu este prima dată când experții atrag atenția asupra acestei potențiale probleme, iar americanii chiar au o comisie însărcinată cu evaluarea riscurilor.

Persoană fizică, persoană juridică și… persoană electronică?

Tony Belpaeme, profesor de Sisteme Cognitive și Robotică în cadrul Playmouth University,  a fost cel care a deschis subiectul ”persoanelor electronice”. ”În filmele science fiction, roboții sunt fie răi, fie buni, dar nu asta se va întâmpla în realitate. În realitate, roboții nu vor fi nici buni nici răi. E posibil să fie doar utili. Și dacă sunt utili, vrem să ne asigurăm că sunt utili într-o manieră în care fac bine tuturor”, așa și-a început discursul Tony Belpaeme. ”Mereu avem tendința să credem că roboții sunt mai inteligenți decât sunt de fapt”, a spus el. ”Acesta este un lucru foarte important de reținut”.

Belpaeme, alături de restul experților care au vorbit în cadrul evenimentului organizat la Bruxelles, nu consideră că avertismente precum cele date de Elon Musk sau Stephen Hawking ar trebui să ne îngrijoreze, dar crede că roboții vor avea, într-adevăr, un impact major asupra populației și că ne vor schimba viețile. El este de părere că se face o trecere de la automatizare la autonomie, la roboți care trebuie să facă milioane de decizii, iar oamenii sunt responsabili să implementeze anumite mecanisme care să îi facă să ia deciziile corecte Totuși, în același timp, el a demonstrat limitările roboților din prezent arătând clipul de mai jos, în care mașinăriile trebuie să se deplaseze autonom și să evite anumite obstacole. ”Aceștia erau cei mai buni roboți din acel moment, făcuți de cele mai talentate echipe”, spune el, menționând faptul că, în ciuda respectivelor limitări, publicul crede că roboții sunt deja mult mai avansați.

Revenind la discuția privind ”persoanele electronice” – idee potrivit cărora, la un moment dat, roboților ar trebui să li se acorde aceleași drepturi ca și oamenilor – Belpaeme a făcut referire la legile lui Asimov. ”Destul de des se face referire la cele trei legi ale roboticii formulate de către Asimov, un text cu 75 de ani vechime. Consider că cele trei legi sunt foarte greșite. Ele nu sunt suficiente pentru a preveni orice fel de accident sau cosecință negativă a roboților cu inteligență artificială. În primul rând, cum știe un robot că acțiunile sale ar putea duce la rănirea unei persoane? Este un lucru foarte dificil de implementat – nici noi, oamenii, nu realizăm uneori că acțiunile noastre ne-ar putea face rău nouă sau altor persoane – luați BREXIT-ul de exemplu. Nu putem creea o inteligență artificială care să calculeze instant toate consecințele posibile. În plus, legile nu specifică exact ce este un om. Ce este un om, la urma urmei? Nici nu specifică ce este acela un robot. Cum va reuși să își dea seama că interacționează cu alți roboți? Dacă ajunge să protejeze un robot în detrimentul unui om? Dar cum rămâne cu protejarea speciilor non-umane cu proprietatea?”, s-a întrebat el.

În acest context, ar fi nevoie de conceptul de ”persoană electronică”, o entitate robotică care ar fi trasă la răspundere pentru acțiunile sale? Tony Belpaeme nu crede e nevoie de înființarea unui astfel de ”entități”, făcând o paralelă cu corporațiile care și-au atomatizat deja părți bune ale afacerilor.

”Nu sunt foarte sigur de asta, dar cred că roboții sunt doar mașinării. Sunt mașinării pe care cineva le folosește, sunt mașinării pe care cineva le controlează, create de cineva. Eu consider că respectivele persoane sunt responsabile pentru acțiunile roboților.”