ChatGPT sau Google Bard, motive de îngrijorare. Problemele semnalate de responsabilii pentru gestionarea riscurilor

ACTUALITATE

Inteligența artificială generativă precum ChatGPT de la OpenAI sau Google Bard a devenit, în cel de-al doilea trimestru al anului 2023, un motiv de îngrijorare pentru responsabilii în gestionarea riscurilor.

ChatGPT și Google Bard, al doilea cel mai frecvent risc

Conform unui sondaj realizat de o companie de consultanţi în IT, inteligenţa artificială generativă a fost al doilea cel mai frecvent risc identificat de directorii responsabili pentru gestionarea riscurilor din organizaţii.

Potrivit analiştilor de la compania americană de consultanţă şi cercetare în IT Gartner, disponibilitatea pe scară largă a inteligenţei artificiale generative, cum ar fi ChatGPT de la OpenAI sau Google Bard, a devenit în al doilea trimestru al anului 2023 o mare preocupare pentru directori.

“Inteligenţa artificială generativă a fost al doilea cel mai frecvent risc identificat în cadrul sondajului nostru din al doilea trimestru, apărând pentru prima dată în top 10.

Acest lucru reflectă atât creşterea rapidă a gradului de conştientizare a publicului şi utilizarea instrumentelor IA generative, cât şi amploarea potenţialelor cazuri de utilizare şi, prin urmare, riscurile potenţiale pe care le generează aceste instrumente”, a explicat Ran Xu, director de cercetare în cadrul Gartner Risk & Audit Practice.

Principalul risc ce a apărut în sondajul din trimestrul 2 al acestui an este viabilitatea terților. Incertitudinea planificării financiare a fost cel de-al treilea risc, urmat pe locul al patrulea în top de riscul de concentrare în cloud.

Locul cinci a fost ocupat de tensiunile comerciale din China. Riscurile au fost împărţite între problemele simptomatice ale volatilităţii macroeconomice şi geopolitice generale actuale şi preocupările legate de tehnologie.

Principalele probleme identificate de experți

Experții susțin că trebuie să fie abordate trei aspecte principale în ceea ce privește gestionarea riscului organizației: proprietatea intelectuală, confidenţialitatea datelor şi securitatea cibernetică.

“Informaţiile introduse într-un instrument de IA generativă pot deveni parte a setului său de instruire, ceea ce înseamnă că informaţiile sensibile sau confidenţiale ar putea ajunge în rezultate pentru alţi utilizatori.

Mai mult, utilizarea rezultatelor acestor instrumente ar putea sfârşi prin a încălca din neatenţie drepturile de proprietate intelectuală ale altora care le-au folosit”, a detaliat Ran Xu.

Specialiștii sunt de părere că este important să fie educată conducerea organizaţiei cu privire la necesitatea prudenţei şi a transparenţei în ceea ce priveşte folosirea unor astfel de instrumente, astfel încât riscurile de proprietate intelectuală să poată fi gestionate în mod corespunzător, atât în ceea ce priveşte introducerea de date, cât şi rezultatul obţinut prin instrumentele de inteligență artificială generativă.