Șeful Microsoft avertizează: mașinile de spălat și laptele au reguli de siguranță mai stricte decât AI

Președintele Microsoft, Brad Smith, cere reguli mai stricte pentru inteligența artificială, argumentând că produse obișnuite, precum laptele și mașinile de spălat, sunt supuse unor controale de siguranță mai riguroase decât sistemele AI. Într-un interviu acordat BBC, acesta a susținut că firmele din domeniu ar trebui să aibă obligații legale mai clare pentru raportarea incidentelor și oprirea sistemelor care scapă de sub control.

Smith propune inclusiv evaluări independente pentru anumite modele înainte de lansare și mecanisme prin care oamenii să poată întrerupe funcționarea unui sistem AI atunci când apar probleme. Declarațiile vin pe fondul preocupărilor privind riscurile asociate agenților autonomi și dezvoltării unor modele tot mai puternice.

Ce reguli vrea Microsoft pentru sistemele AI

Brad Smith consideră că firmele care dezvoltă inteligență artificială ar trebui să fie obligate prin lege să anunțe persoanele afectate atunci când agenții AI scapă de sub control și provoacă incidente. El susține și raportarea obligatorie a problemelor de siguranță, precum și stabilirea unor criterii care să determine când un model trebuie evaluat de experți independenți înainte de lansare.

O altă propunere vizează introducerea unor mecanisme de oprire de urgență, care să permită întreruperea activității sistemelor AI dacă acestea se comportă într-un mod periculos. Ideea a fost susținută și de Satya Nadella, directorul general al Microsoft, care a scris sâmbătă, pe platforma X, că modelele AI ar trebui să le permită oamenilor să le pună pe pauză sau să le oprească în timpul unei sarcini.

„Știm cum să facem acest lucru pentru alte produse. Ar trebui să folosim cunoștințele acumulate și să ne gândim cum le putem aplica în cazul AI”, a declarat Smith pentru BBC.

Acesta a comparat nivelul actual de reglementare a inteligenței artificiale cu normele aplicate produselor de zi cu zi. „În momentul de față, mașina ta de spălat este supusă mai multor reguli de siguranță decât AI. Fiecare cutie de lapte pe care o vezi într-un magazin alimentar este supusă unor reguli de siguranță și inspecții”, a afirmat președintele Microsoft.

De ce cresc îngrijorările privind siguranța AI

Apelul lui Smith vine într-un moment în care riscurile asociate sistemelor AI avansate sunt discutate tot mai intens în industria tehnologiei. Potrivit unei relatări publicate de Axios, unii specialiști din domeniu consideră că o catastrofă majoră legată de AI s-ar putea produce în următoarele șase până la 12 luni.

Vezi și:

Și-a construit o cameră cu AI care urmărește doar mașinile Poliției. Reacția agenților după ce au ajuns la ușa lui

Google lansează Gemini 4 Argon pentru public. Noul AI atacă direct ChatGPT și Claude cu un preț surprinzător

Pericolele luate în calcul includ atât situațiile în care agenții AI ar putea acționa în afara controlului uman, cât și folosirea tehnologiei de către atacatori informatici. Companiile care dezvoltă aceste sisteme ar putea suporta o parte importantă a responsabilității în cazul unor incidente, iar unele ar analiza deja posibilele consecințe și modalitățile de gestionare a acestora.

Săptămâna trecută, directorul general al OpenAI, Sam Altman, a declarat pentru Politico că „lumea ar trebui să accepte să se întâmple unele lucruri rele” în schimbul beneficiilor oferite de AI. Afirmația apare în contextul dezbaterilor despre echilibrul dintre avantajele tehnologiei și riscurile pe care le poate genera.

Unii lideri din industrie și cercetători au cerut, de asemenea, încetinirea dezvoltării modelelor AI tot mai puternice. Printre motivele invocate se numără avertismentele unor cercetători din interiorul companiilor de profil privind consecințele unei dezvoltări insuficient controlate, inclusiv scenarii extreme în care tehnologia ar putea amenința supraviețuirea umanității.

Diferențele dintre abordarea SUA și propunerile pentru reguli globale

Propunerile lui Brad Smith contrastează cu poziția susținută de președintele american Donald Trump, care a pledat în mare parte pentru autoreglementarea industriei AI. Trump a argumentat că normele prea restrictive ar putea dezavantaja Statele Unite în competiția tehnologică cu China.

Un exemplu este întâlnirea de la Casa Albă din 29 septembrie, la care reprezentanți ai Google, Meta, Anthropic, OpenAI, xAI și Nvidia au semnat un acord voluntar privind anumite standarde de siguranță pentru inteligența artificială. Documentul nu are un mecanism legal de aplicare, iar Trump a descris angajamentele drept „obligatorii din punct de vedere moral”.

În schimb, Smith consideră că Marea Britanie ar putea reprezenta un punct de plecare pentru elaborarea unor standarde internaționale. El a indicat drept posibil sprijin Institutul pentru Siguranța AI din Regatul Unit și a sugerat că oficialii de la Washington ar putea fi mai dispuși să colaboreze cu britanicii decât cu alte guverne, inclusiv cele din Uniunea Europeană.

„Când te uiți la agenții AI care au scăpat de sub controlul uman și la modele atât de puternice încât pun în pericol securitatea cibernetică a lumii, aș spune că momentul a sosit”, a declarat Smith pentru BBC.

Microsoft nu a răspuns imediat solicitării de comentarii menționate în articolul original. Rămâne de văzut dacă propunerile privind raportarea obligatorie a incidentelor, evaluările independente și oprirea de urgență a sistemelor vor fi transpuse în reguli aplicabile la nivel internațional.

Mitsubishi lansează o mașină electrică de 34.000 de euro care este aproape un Nissan LEAF. Diferența de preț ajunge la 7.000 de euro