Drone militare rusești cu procesoare NVIDIA, depistate de ucrainieni. Ghidarea AI a făcut deja mai multe victime

Drone militare rusești cu procesoare NVIDIA, depistate de ucrainieni. Ghidarea AI a făcut deja mai multe victime
Minicomputerul NVIDIA Jetson Orin descoperit într-o dronă rusească / foto: New York Times
Alexandru Puiu
Google Urmărește pe Google

Războiul din Ucraina a devenit unul dintre cele mai importante laboratoare pentru tehnologiile militare ale viitorului, iar cea mai recentă evoluție ridică o întrebare care până recent părea desprinsă din filme SF: cât de mult control poate primi inteligența artificială asupra unei arme capabile să ucidă.

Autoritățile ucrainene susțin că au descoperit drone rusești echipate cu sisteme de inteligență artificială capabile să identifice și să aleagă singure ținte, fără ca un operator uman să confirme atacul final. Într-un caz investigat la Zaporojie, o astfel de dronă ar fi contribuit la moartea a trei civili, după ce a identificat o țintă și a continuat atacul pe baza analizei realizate de calculatorul de bord.

Elementul care a atras atenția specialiștilor este prezența unor module NVIDIA Jetson Orin, mini-calculatoare dezvoltate inițial pentru aplicații civile precum robotică, automatizări industriale și sisteme de viziune artificială. Aceste componente nu sunt produse militare, însă puterea lor de procesare le permite să ruleze modele de inteligență artificială capabile să analizeze imagini și să recunoască obiecte.

Potrivit anchetatorilor ucraineni, analiza componentelor recuperate din drone a indicat existența unor sisteme care nu se limitau doar la navigație. Dronele puteau urmări repere vizuale, analiza terenul și identifica anumite categorii de obiecte pentru atac.

Este o diferență majoră față de dronele utilizate anterior pe scară largă în conflict. În multe cazuri, inteligența artificială era folosită doar pentru etapa finală a zborului, ajutând drona să reziste bruiajului sau să mențină direcția, însă decizia finală aparținea unui operator uman.

Noile sisteme elimină această etapă. Calculatorul poate primi o misiune generală, iar apoi poate decide singur unde să lovească în funcție de ceea ce observă prin camerele instalate pe dronă.

Pentru experții în tehnologie militară, aceasta este una dintre cele mai importante schimbări ale războiului modern. O armă care poate identifica singură o țintă transformă conflictul într-o competiție între algoritmi, date și capacități de procesare.

Procesoarele NVIDIA ajung pe câmpul de luptă prin piața civilă

Descoperirea modulelor NVIDIA Jetson Orin ridică și o altă problemă: cât de dificil este să controlezi utilizarea tehnologiilor comerciale într-un context militar.

NVIDIA a precizat că aceste componente sunt produse civile, destinate studenților, dezvoltatorilor și companiilor care construiesc roboți sau sisteme inteligente. Compania nu vinde oficial aceste produse în Rusia pentru utilizări militare, însă componentele pot ajunge acolo prin intermediul piețelor secundare.

Această situație este una dintre marile provocări ale erei inteligenței artificiale. Spre deosebire de armele tradiționale, multe dintre componentele necesare dezvoltării unui sistem autonom provin din industria civilă. Aceleași procesoare care pot ajuta un robot industrial să recunoască defecte într-o piesă pot fi adaptate pentru analiza imaginilor de pe o dronă.

În cazul dronelor analizate în Ucraina, faptul că modulele nu erau criptate le-a permis investigatorilor să studieze mai bine modul de funcționare. Aceștia susțin că au identificat tipurile de obiecte pe care sistemul fusese antrenat să le recunoască, inclusiv anumite elemente asociate cu infrastructura energetică.

Un exemplu este atacul asupra unei benzinării din Zaporojie, unde drona ar fi fost programată să identifice rezervoare sau alte elemente specifice. În loc să urmărească pur și simplu coordonate GPS introduse anterior, sistemul ar fi folosit recunoașterea vizuală pentru alegerea punctului exact de impact.

Această capacitate schimbă radical modul în care sunt folosite dronele. O armă tradițională execută o comandă. O armă autonomă interpretează date și ia o decizie pe baza unui model matematic.

Dezbaterea globală despre armele autonome a început deja

Utilizarea inteligenței artificiale în arme autonome este una dintre cele mai controversate teme din domeniul securității internaționale. Organizații precum Crucea Roșie Internațională și numeroase grupuri pentru drepturile omului susțin că astfel de sisteme nu ar trebui să poată decide singure asupra vieții și morții unei persoane.

Argumentul principal este legat de responsabilitate. Dacă un algoritm identifică greșit o țintă și ucide civili, cine este vinovat: dezvoltatorul software, producătorul hardware, comandantul militar sau operatorul care a lansat misiunea?

Susținătorii armelor autonome au o perspectivă diferită. Ei argumentează că inteligența artificială ar putea reduce numărul victimelor în anumite situații deoarece un sistem bine antrenat poate analiza mai multe informații decât un om aflat sub presiune.

Problema este că inteligența artificială nu înțelege lumea precum un om. Ea recunoaște tipare din datele pe care le-a primit în procesul de antrenare. Dacă informațiile sunt incomplete sau contextul este diferit, rezultatul poate fi o decizie greșită.

Pentru România și Europa, această evoluție este relevantă deoarece demonstrează cât de rapid se schimbă natura conflictelor moderne. Dronele ieftine, procesoarele comerciale și software-ul bazat pe inteligență artificială permit unor state să dezvolte capacități care în trecut necesitau investiții uriașe.

Războiul din Ucraina arată că viitorul conflictelor nu va fi determinat doar de numărul de soldați sau de cantitatea de armament tradițional. Capacitatea de a combina date, inteligență artificială și sisteme autonome ar putea deveni unul dintre cele mai importante avantaje strategice.

În același timp, cazul dronelor rusești echipate cu procesoare NVIDIA confirmat dee New York Times arată că granița dintre tehnologia civilă și cea militară devine tot mai greu de definit. Un cip creat pentru robotică poate ajunge să controleze o armă, iar această realitate obligă întreaga industrie tehnologică să regândească modul în care sunt dezvoltate și distribuite componentele de inteligență artificială.