Microsoft propune un nou cod de conduită pentru AI, pe fondul îngrijorărilor legate de siguranța modelelor

Microsoft a publicat un proiect de „Humanist AI Code of Conduct”, document prin care compania își stabilește principiile pentru dezvoltarea viitoarelor modele de inteligență artificială. Documentul apare într-un moment în care discuțiile despre siguranța sistemelor AI avansate și despre controlul acestora de către oameni au devenit tot mai importante în industrie.

Compania nu consideră însă documentul o versiune definitivă. Microsoft va primi feedback timp de șase săptămâni, iar observațiile vor fi folosite pentru pregătirea unei versiuni revizuite, care ar urma să fie publicată până la sfârșitul anului. Principiile incluse în aceasta ar urma să ghideze dezvoltarea modelelor Microsoft AI, cunoscute drept MAI, începând din 2027 și în anii următori, scrie Fox Business.

Microsoft vrea ca oamenii să păstreze controlul asupra AI

Ideea centrală a documentului este că oamenii trebuie să păstreze un control real asupra sistemelor AI. Microsoft spune că acest principiu va sta la baza modului în care sunt antrenate modelele MAI, a controalelor tehnice și a sistemelor de monitorizare și operare folosite de companie.

În proiect, Microsoft pornește de la premisa că oamenii sunt mai importanți decât AI, iar rolul tehnologiei este să contribuie la progresul societății și la îmbunătățirea vieții oamenilor. Compania susține că beneficiile pe care le poate aduce AI-ul trebuie urmărite în paralel cu stabilirea unor limite clare și cu definirea încă de la început a modului în care sistemele vor fi controlate.

Documentul este legat și de ambițiile Microsoft în zona superinteligenței artificiale. Compania descrie superinteligența drept o categorie de sisteme care ar putea ajunge mai inteligente și mai capabile decât oamenii luați la un loc și estimează că, în următorul deceniu, astfel de sisteme ar putea depăși performanța umană în majoritatea sarcinilor.

Tocmai de aceea, Microsoft consideră că dezvoltarea unor astfel de tehnologii trebuie însoțită de mecanisme de control și aliniere. Compania susține că este la fel de important să stabilească ce nu trebuie să facă aceste sisteme precum este să urmărească beneficiile pe care le-ar putea aduce.

Microsoft spune că a pornit proiectul de superinteligență în noiembrie 2025 având deja în vedere principii menite să păstreze controlul uman asupra sistemelor avansate. Acestea ar trebui să se reflecte în modul în care modelele sunt calibrate, contextualizate și limitate de dezvoltatori.

Vezi și:

Un angajat Microsoft a cheltuit 28.000 de dolari pe AI într-o singură lună. Compania îi cere acum să mai reducă ritmul

Noul document apare în timp ce marile companii AI discută despre supraveghere

Proiectul Microsoft are 37 de pagini și a fost elaborat în aproximativ cinci-șase luni. Publicarea sa vine într-un moment în care și alte companii importante din industria AI discută despre modalități prin care dezvoltarea modelelor avansate ar putea fi supravegheată din exterior.

În ultima perioadă, șefii unor laboratoare importante de AI, inclusiv Sam Altman de la OpenAI și Dario Amodei de la Anthropic, au vorbit despre necesitatea unei supravegheri independente a dezvoltării modelelor, în special pentru a verifica dacă acestea rămân aliniate cu obiectivele stabilite de oameni.

Mustafa Suleyman, CEO-ul Microsoft AI, consideră că este momentul ca marile laboratoare să înceapă să colaboreze mai strâns în acest domeniu. El a declarat că industria trebuie să se coordoneze pentru a se asigura că oamenii păstrează controlul asupra tehnologiei și că este un moment potrivit pentru ca reprezentanții companiilor să poarte această discuție.

Microsoft nu spune că proiectul actual va fi ultima versiune a documentului. Compania intenționează să repete procesul de consultare și să dezvolte noi versiuni ale codului de conduită pe măsură ce modelele și obiectivele sale din domeniul AI evoluează.

Astfel, documentul nu stabilește doar reguli pentru produsele pe care Microsoft le dezvoltă în prezent, ci încearcă să creeze un cadru pentru modelele MAI din 2027 și pentru cele care vor urma. Pentru o companie care își extinde rapid investițiile în AI și superinteligență, mesajul transmis este că dezvoltarea unor sisteme tot mai capabile trebuie să fie însoțită de reguli clare privind limitele și controlul lor.

EXPERIENȚĂ Sony ULT TOWER 5 versus Sony ULT TOWER 7 – ce înseamnă o boxă de petrecere portabilă în 2026 și care este cea mai potrivită pentru amatorul de bass din tine