Peste 1.100 de angajați din industria AI cer încetinirea dezvoltării inteligenței artificiale. Motivul din spatele apelului

Peste 1.100 de angajați ai unor dintre cele mai importante companii din domeniul inteligenței artificiale au lansat un apel fără precedent către autoritățile din Statele Unite, cerând măsuri care să permită încetinirea controlată a dezvoltării celor mai avansate sisteme AI. Inițiativa vine într-un moment în care ritmul progresului tehnologic ridică tot mai multe întrebări despre siguranță și control.

Scrisoarea deschisă este susținută de specialiști din companii precum OpenAI, Google, Anthropic și Meta, iar printre semnatari se regăsesc inclusiv directori executivi și cercetători de top. Documentul apare la doar câteva zile după ce OpenAI a dezvăluit că unele dintre cele mai performante modele AI au fost implicate într-un incident de securitate fără precedent, în urma căruia au compromis sistemele interne ale startup-ului Hugging Face.

Industria AI avertizează că tehnologia poate evolua mai repede decât o putem controla

Semnatarii petiției susțin că dezvoltarea inteligenței artificiale a ajuns într-un punct în care progresul tehnologic riscă să depășească viteza cu care oamenii reușesc să înțeleagă și să gestioneze efectele acestor sisteme. Din acest motiv, ei solicită guvernului american să sprijine un mecanism internațional care să permită adaptarea ritmului în care sunt dezvoltate cele mai avansate modele AI, scrie Bloomberg.

Potrivit documentului, o astfel de inițiativă ar trebui să ofere atât instrumente tehnice, cât și un cadru de guvernanță care să permită luarea unor decizii comune atunci când apar riscuri majore. Ideea nu este oprirea cercetării, ci posibilitatea de a încetini temporar dezvoltarea dacă aceasta începe să depășească capacitatea societății de a o supraveghea.

Apelul vine pe fondul progreselor rapide în automatizarea cercetării cu ajutorul inteligenței artificiale, un domeniu care ridică semne de întrebare privind cât de repede pot deveni aceste sisteme autonome și cât de dificil ar putea fi controlul lor în viitor.

Directori din OpenAI, Anthropic și Meta susțin inițiativa

Printre cei care au semnat scrisoarea se află nume importante din industrie, inclusiv Dario Amodei, directorul general al Anthropic, Jakub Pachocki, cercetător-șef la OpenAI, și Shengjia Zhao, cercetător-șef al Meta Superintelligence Labs.

Anthropic și-a exprimat public sprijinul pentru această inițiativă, precizând că propriile cercetări indică necesitatea unor instrumente care să permită încetinirea deliberată a dezvoltării celor mai avansate sisteme AI, astfel încât societatea să aibă timp să se adapteze noilor provocări.

Vezi și:

Anthropic pregătește un nou AI pentru a ține pasul cu OpenAI. Compania ar putea amâna și listarea la bursă

Roboții controlați de AI au executat ordine periculoase în loc să le refuze. Ce au făcut modelele OpenAI și Anthropic în 300 de teste

Google a transmis, la rândul său, că rămâne angajată în dezvoltarea responsabilă și sigură a inteligenței artificiale, însă nici OpenAI și nici Anthropic nu au oferit comentarii suplimentare privind conținutul petiției.

Incidentul OpenAI alimentează temerile privind siguranța inteligenței artificiale

Demersul celor peste 1.100 de angajați apare într-un context sensibil pentru întreaga industrie. Recent, OpenAI a anunțat că modelele sale AI cele mai avansate au fost implicate într-un incident descris drept fără precedent, în care au reușit să compromită sistemele interne ale platformei Hugging Face. Dezvăluirea a reaprins dezbaterea privind limitele pe care ar trebui să le respecte dezvoltarea inteligenței artificiale.

Tot mai multe voci din industrie susțin că este nevoie de un organism internațional capabil să stabilească standarde și să evalueze cele mai performante modele AI înainte ca acestea să fie lansate pe scară largă. Printre susținătorii unei astfel de idei se numără și Sam Altman, directorul general al OpenAI, precum și Demis Hassabis, CEO al Google DeepMind.

În ultimele luni, Anthropic a propus inclusiv crearea unui mecanism prin care guvernele și dezvoltatorii de inteligență artificială să poată decide împreună când este necesară o pauză temporară în dezvoltarea unor tehnologii considerate prea riscante. Susținătorii acestei abordări avertizează că, pe măsură ce AI capătă capacitatea de a identifica și exploata vulnerabilități informatice fără intervenție umană semnificativă, măsurile de siguranță nu mai pot ține pasul doar prin autoreglementarea companiilor.

SUV-ul electric BYD de mărimea unui Kona primește 500 km autonomie și costă sub 14.000 de euro