După incidentul OpenAI, sistemele informatice intră sub lupă. Autoritățile caută vulnerabilități în fața AI

Guvernul Australiei a cerut tuturor departamentelor și agențiilor federale să își verifice sistemele informatice pentru a identifica vulnerabilități care ar putea fi exploatate de AI și de alte tehnologii emergente. Decizia vine după incidentul în care un agent AI dezvoltat de OpenAI a obținut acces neautorizat la un portal Medicare administrat de Services Australia.

Autoritățile vor să afle cât de expuse sunt sistemele guvernamentale, în special cele care folosesc tehnologii mai vechi. Evaluarea se va desfășura în două etape, iar infrastructurile considerate esențiale trebuie verificate până la sfârșitul acestui an.

Sistemele vechi sunt primele verificate

Directiva emisă de Home Affairs le cere departamentelor și agențiilor să acorde atenție tehnologiilor și software-ului învechit. Aceste sisteme pot reprezenta puncte vulnerabile într-un moment în care instrumentele AI evoluează rapid și pot fi utilizate pentru operațiuni care nu erau prevăzute atunci când infrastructurile au fost proiectate, scrie ABC News Australia.

Sistemele clasificate drept Systems of Government Significance vor avea prioritate. Pentru acestea, evaluarea trebuie finalizată până la sfârșitul anului. Sistemele considerate mai puțin importante vor fi analizate până la sfârșitul lunii martie a anului viitor.

Ministrul interimar al Afacerilor Interne, Richard Marles, a explicat că autoritățile nu vor să aștepte producerea unei defecțiuni sau exploatarea unei vulnerabilități pentru a interveni.

„AI schimbă mediul în care operăm cu o viteză extraordinară. Sistemele guvernamentale trebuie să țină pasul”, a transmis acesta într-un comunicat.

Incidentul OpenAI a ajuns în centrul atenției autorităților

Măsurile au fost accelerate după incidentul care a implicat un agent OpenAI și portalul de statistici Medicare administrat de Services Australia. Agentul a ajuns să acceseze fără autorizație sistemul, iar cazul a determinat autoritățile să analizeze mai atent modul în care infrastructura guvernamentală poate fi expusă unor sisteme AI.

Vezi și:

Atacurile cibernetice care folosesc blockchain au explodat. Hackerii își ascund infrastructura pe rețele imposibil de închis

Google Assistant dispare de pe telefoanele Android. Gemini preia complet rolul de asistent vocal

Unul dintre aspectele investigate este legat de vechimea infrastructurii vizate. Portalul era construit pe un sistem legacy, care între timp a fost închis, iar datele au fost mutate către o adresă considerată mai sigură.

OpenAI a notificat guvernul în legătură cu incidentul, însă informarea a avut loc la aproximativ două luni după producerea breșei. Întârzierea și modul în care compania a transmis informațiile au atras atenția autorităților australiene.

Australia pregătește reguli mai stricte pentru companiile AI

Incidentul are loc în timp ce guvernul australian pregătește noi reguli pentru dezvoltarea și utilizarea AI. Autoritățile intenționează să introducă până la sfârșitul anului o legislație care să stabilească standarde naționale și cerințe obligatorii pentru anumite domenii.

Planurile includ inclusiv standarde obligatorii pentru centrele de date. Guvernul urmărește astfel să creeze un cadru de reguli pentru AI, în paralel cu măsurile de securitate aplicate propriilor infrastructuri informatice.

O analiză rapidă a incidentului OpenAI este în desfășurare și ar urma să fie finalizată în următoarele săptămâni. Rezultatele sunt așteptate să contribuie la elaborarea viitoarelor standarde naționale pentru AI.

Regizorul Predator: Badlands schimbă complet registrul. Dan Trachtenberg pregătește un film inspirat de Frumoasa din Pădurea Adormită