ONU cere interzicerea „roboților ucigași”: avertismentul dur despre armele autonome controlate de AI

Secretarul general al ONU, António Guterres, cere statelor lumii să interzică armele autonome bazate pe inteligență artificială, într-un moment în care cursa globală pentru AI militar devine tot mai intensă. În cadrul primului Global Dialogue on AI Governance de la Geneva, Guterres a numit dezvoltarea armelor capabile să ia decizii letale fără control uman „respingătoare din punct de vedere moral”, potrivit Gizmodo, și a transmis un mesaj direct celor 193 de state membre ale ONU: decizia de a lua o viață trebuie să rămână întotdeauna în mâinile oamenilor.

Apelul vine într-un climat deja tensionat, în care inteligența artificială este văzută simultan ca oportunitate economică, armă geopolitică și risc existențial. Dacă până recent discuțiile despre AI se concentrau pe deepfake-uri, locuri de muncă, costuri energetice sau dezinformare, tema armelor autonome aduce dezbaterea într-o zonă mult mai gravă: ce se întâmplă când algoritmii nu doar recomandă, ci pot identifica, urmări și elimina ținte?

De ce ONU vrea o interdicție globală

Guterres a insistat că unele decizii trebuie să rămână „pentru totdeauna umane”, iar folosirea AI în război este una dintre cele mai importante. Avertismentul său se referă la sistemele militare care ar putea selecta și ataca ținte fără intervenția directă a unui operator uman. Pentru susținătorii interdicției, aceasta este linia roșie: nu doar folosirea tehnologiei în sprijinul soldaților, ci delegarea unei decizii de viață și de moarte către o mașină.

Temerea nu este nouă. De ani buni, experți în tehnologie, organizații civice și cercetători avertizează asupra pericolului reprezentat de roboți ucigași cu inteligență artificială, mai ales în scenarii în care viteza sistemelor autonome depășește capacitatea oamenilor de a le supraveghea. Într-un conflict real, o eroare de identificare, o interpretare greșită a datelor sau o reacție în lanț între sisteme automate ar putea avea consecințe catastrofale.

Vezi și:

O țară mică din Europa are cea mai bogată populație din lume. Aproape unul din opt locuitori este milionar

La acest argument moral se adaugă și unul practic. Sistemele AI pot fi opace chiar și pentru cei care le construiesc, iar modelele avansate nu oferă întotdeauna explicații clare pentru deciziile lor. În domenii civile, această lipsă de transparență poate produce discriminare sau erori administrative. Pe câmpul de luptă, poate însemna victime civile, escaladare necontrolată și imposibilitatea de a stabili responsabilitatea.

Silicon Valley, prinsă între etică și contracte militare

Relația dintre marile companii tech și armată a fost mereu complicată, dar AI-ul a ridicat tensiunea la un nivel nou. În 2018, mii de angajați Google au protestat față de implicarea companiei în Project Maven, un program al Pentagonului care folosea tehnologie pentru analizarea imaginilor video. Microsoft a trecut printr-un episod similar, după acordul pentru furnizarea de căști HoloLens armatei americane.

Astăzi, disputa este și mai sensibilă, pentru că modelele AI pot analiza volume uriașe de date, pot identifica tipare și pot lua decizii cu o autonomie tot mai mare. Unele companii susțin că tehnologia lor poate fi folosită în scopuri de securitate națională, dar refuză anumite utilizări, precum supravegherea domestică sau armele autonome. În acest context, discuțiile despre acordul cu Pentagonul au devenit un test public pentru încrederea utilizatorilor în marile laboratoare AI.

Vezi și:

Meta te poate pune în poze AI pe Instagram: noul Muse Image schimbă regulile jocului

Peste 100 de organizații cer reguli mai dure pentru AI și protecția copiilor. Apel lansat înaintea summitului ONU

Susținătorii AI-ului militar invocă însă un argument diferit: dacă democrațiile nu dezvoltă astfel de sisteme, rivalii geopolitici o vor face oricum. În această logică, Statele Unite și aliații lor ar avea obligația strategică de a rămâne înaintea Chinei, Rusiei sau Iranului. Unii afirmă chiar că armele autonome ar putea reduce victimele civile, dacă sunt mai precise decât oamenii în identificarea amenințărilor.

Criticii spun că acest raționament alimentează exact cursa pe care ONU încearcă să o oprească. Fiecare stat justifică accelerarea prin frica de adversari, iar rezultatul poate fi o lume în care armele cu decizie autonomă ajung pe câmpul de luptă înainte ca regulile internaționale să fie stabilite.

Problema controlului uman

Administrația Trump a susținut recent accelerarea folosirii AI în domeniile de intelligence și război, argumentând că Statele Unite nu trebuie să rămână în urmă. În paralel, companii precum Anthropic au intrat în dispute cu autoritățile americane pe tema limitelor de utilizare a modelelor avansate. Playtech a scris recent despre decizia prin care Administrația Trump a oprit cele mai puternice modele AI ale Anthropic, invocând riscuri pentru securitatea națională.

Aici se află paradoxul momentului: guvernele vor AI puternic pentru apărare, dar se tem de AI puternic atunci când scapă de sub control. Iar în cazul armelor autonome, această tensiune devine extremă. Nu mai este vorba doar despre cine are acces la un model, ci despre cine răspunde dacă o mașină ucide greșit.

Apelul ONU nu garantează că statele vor accepta rapid o interdicție. Istoria arată că tehnologiile militare avansate sunt greu de oprit atunci când marile puteri le consideră decisive. Totuși, mesajul lui Guterres fixează o limită morală clară: AI-ul poate ajuta oamenii să ia decizii, dar nu ar trebui să primească dreptul de a decide singur cine trăiește și cine moare.

Satelitul nuclear lansat de SpaceX schimbă regulile în orbită: energia solară nu mai este singura soluție