Semnalul de alarmă al unui CEO AI, care a lucrat la Facebook: “GPT-4 poate deveni periculos foarte rapid”

OpenAI a lansat recent așteptatul său GPT-4, oferind un „raport tehnic” de 98 de pagini despre cea mai recentă iterație a modelului său.

Dar, în ciuda documentației îndelungate și a rădăcinilor non-profit ale companiei, OpenAI a dezvăluit extrem de puține informații despre cum funcționează, de fapt, cel mai recent AI – ceea ce îi îngrijorează pe experți, relatează Venture Beat.

„Având în vedere atât peisajul competitiv, cât și implicațiile de siguranță ale modelelor la scară largă precum GPT-4”, se arată în lucrarea companiei, „acest raport nu conține detalii suplimentare despre arhitectură (inclusiv dimensiunea modelului), hardware, calcul de antrenament, construcția setului de date, metoda de antrenament”.

GPT-4 are secrete

Cu alte cuvinte, aceasta este formula secretă de la OpenAI și nu vor oferi rețeta prea curând.

Potrivit directorului general al Lightning AI, William Falcon, un cercetător AI care a lucrat anterior ca om de știință AI al Meta, refuzul OpenAI de a-și patenta rețeta secretă GPT-4 este o mișcare precară.

De ce a lipsit Mihaela Botezatu de la înmormântarea lui Silviu Prigoană. Unde se afla în momentul în care milionarul a murit

De unde provin cotletul și ceafa de porc vândute la Kaufland. Mulți români le cumpără pentru că au mereu un preț bun, dar nu se uită pe etichetă

OpenAI „spune, în principiu, că este grozav, fă-ți treaba, nu ne pasă”, a spus Falcon pentru Venture Beat, argumentând că OpenAI a creat un „precedent rău” pentru startup-urile concurente de AI.

„Așa că vor fi toate aceste companii care nu vor mai fi stimulate să facă lucrurile open-source, să spună oamenilor ce fac, de fapt”, continua Falcon.

„Aceste modele pot deveni super-periculoase foarte repede, fără ca oamenii să le monitorizeze”, a adăugat el. „Și este foarte greu de monitorizat. Este un fel ca o bancă care nu aparține FINRA, cum ar trebui să o reglementezi?”.

Falcon are un punct de vedere plauzibil. Este ușor pentru oricine să spună că face toate lucrurile potrivite pentru a ajunge la un anumit rezultat. Dar dacă nu îți arăți, de fapt, munca, reglementarea din afara este aproape imposibilă.

Deși documentul OpenAI este numit un raport tehnic, nu conține exact multe informații tehnice. Și asta, spune Falcon, face tuturor un deserviciu. În orice caz, totuși, raportul tehnic a clarificat un lucru: că, în ciuda numelui său, ușile OpenAI sunt ferm închise și este puțin probabil să se schimbe.