Instrumentele AI de la Microsoft nu ar respecta drepturile de autor. Mărturia îngrijorătoare a unui angajat al gigantului

Shane Jones, un inginer Microsoft care a lucrat pentru companie timp de șase ani, a spus că AI-ul Copilot ignoră drepturile de autor și este capabil să creeze imagini violente și sexuale care l-au „îngrozit”.

După cum a raportat CNBC, Jones spune că, în ciuda faptului că a demonstrat că Copilot Designer al Microsoft, care este alimentat de tehnologia OpenAI, este capabil să genereze imagini care încalcă principiile de AI responsabil ale companiei, într-un proces cunoscut sub numele de red-teaming, Jones a testat activ Copilot Designer pentru a determina vulnerabilități și a descoperit că acesta ar prezenta o varietate de scene deranjante.

„A fost un moment revelator”

„A fost un moment revelator”, spune Jones pentru CNBC într-un interviu. „Este atunci când mi-am dat prima dată seama că acest model nu este cu adevărat sigur”.

Jones, care nu lucrează la CoPilot într-o capacitate profesională, spune că a testat Copilot în timpul său liber împreună cu alți membri ai companiei pentru a determina dacă ar putea apărea probleme atunci când se folosește platforma.

Cutremur în România duminică seară. Ce magnitudine a avut și unde s-a produs

Ce conține de fapt laptele vândut în supermaketurile din România. Detaliile de pe etichetă ignorate de mulți români

Conform raportului CNBC, a fost atât de deranjat de ceea ce a văzut încât a raportat descoperirile în decembrie. Microsoft pare să fi recunoscut, dar a refuzat să scoată produsul de pe piață, așa cum a sugerat Jones.

Microsoft refuză să evalueze produsul

El susține că Microsoft i-a blocat încercările de a alerta publicul cu privire la această problemă, așa că acum își duce plângerea direct la Comisia Federală de Comerț (FTC).

„Am îndemnat repetat Microsoft să elimine Copilot Designer din utilizarea publică până când ar putea fi puse în aplicare garanții mai bune”, scrie Jones în scrisoarea sa pe care a publicat-o și pe LinkedIn.

„Am depus eforturi extraordinare pentru a ridica această problemă intern, inclusiv raportarea către Biroul de AI responsabil, publicarea unei postări detaliate interne care a primit peste 70.000 de vizualizări pe canalul de comunitate Senior Leadership Connection, și întâlniri directe cu conducerea superioară responsabilă pentru CoPilot Designer”, continuă el.