Legea care reglementa inteligența artificială, retrasă după ce s-a descoperit că era scrisă chiar cu AI. Decizia din Africa de Sud fără precedent

Africa de Sud a retras proiectul primei sale politici naționale pentru inteligență artificială după ce s-a descoperit că documentul conținea surse academice fictive, cel mai probabil generate de AI. Ironia este greu de ignorat: un text menit să reglementeze tehnologia care produce răspunsuri convingătoare, dar uneori false, a ajuns el însuși compromis de exact această problemă.

Ministrul Comunicațiilor și Tehnologiilor Digitale, Solly Malatsi, a anunțat retragerea proiectului după verificări care au arătat că cel puțin șase dintre cele 67 de trimiteri academice nu existau. Jurnalele menționate erau reale, însă articolele citate nu au putut fi găsite, iar editorii unor publicații academice au confirmat că referințele erau false.

Un document despre viitor, blocat de o eroare de bază

Proiectul fusese lansat pentru consultare publică și trebuia să marcheze ambiția Africii de Sud de a deveni un lider regional în dezvoltarea și reglementarea inteligenței artificiale. Documentul propunea crearea unor instituții dedicate, printre care o comisie națională pentru AI, un consiliu de etică și o autoritate de reglementare, alături de stimulente precum granturi, subvenții și facilități fiscale pentru sectorul privat.

În loc să transmită stabilitate și viziune tehnologică, proiectul a deschis o discuție incomodă despre calitatea procesului administrativ. Malatsi a admis că explicația cea mai plauzibilă este includerea unor citări generate de AI fără verificare umană riguroasă. Ministrul a descris situația drept o problemă care afectează nu doar forma documentului, ci și credibilitatea întregii politici publice.

Vezi și:

Alertă meteo de furtuni în București și alte 12 județe până la ora 23:00. Sunt așteptate vijelii, grindină și ploi torențiale

Cazul a fost semnalat inițial de publicația sud-africană News24, care a identificat referințe imposibil de verificat în lista bibliografică. Ulterior, scandalul a forțat autoritățile să retragă documentul și să promită consecințe pentru cei implicați în redactarea lui.

De ce halucinațiile AI sunt periculoase în politici publice

Modelele de limbaj pot produce texte fluente, coerente și aparent bine documentate, dar nu funcționează ca baze de date infailibile. Ele anticipează continuarea probabilă a unui text, iar atunci când lipsesc informații solide pot genera titluri de articole, autori, jurnale sau date care sună perfect credibil, deși nu corespund realității.

Într-un eseu, o astfel de eroare poate fi stânjenitoare. Într-un document guvernamental, problema devine mult mai gravă. O politică publică trebuie să fie construită pe date verificabile, mai ales când vizează o tehnologie cu impact asupra educației, economiei, administrației, securității și drepturilor cetățenilor. Dacă fundamentul bibliografic este inventat, întregul proces de consultare publică pornește cu un deficit de încredere.

Vezi și:

Cum devii atât de bun la AI încât colegii vor crede că ești robot: șapte obiceiuri care îți schimbă munca de zi cu zi

AI-ul antrenat pe computer cuantic a trecut un test pe care modelul obișnuit l-a ratat: descoperirea care poate schimba viitorul inteligenței artificiale

Incidentul din Africa de Sud arată și o vulnerabilitate tot mai frecventă: folosirea AI ca scurtătură în documentare. Nu utilizarea tehnologiei este, în sine, problema, ci absența verificării. Un instrument de redactare poate accelera munca, dar nu poate înlocui responsabilitatea celor care semnează, publică sau aprobă documente oficiale.

Lecția pentru guverne, universități și companii

Retragerea proiectului nu înseamnă sfârșitul politicii AI din Africa de Sud. Autoritățile sunt așteptate să revizuiască textul și să îl retrimită în consultare publică. Până atunci, însă, episodul rămâne un avertisment pentru orice instituție care integrează instrumente generative în procese sensibile.

Problema citărilor inventate nu se limitează la administrație. Ea apare tot mai des în mediul academic, în rapoarte, în analize tehnice și în materiale care ar trebui să fie susținute de dovezi solide. Cu cât presiunea pentru rapiditate crește, cu atât tentația de a accepta rezultatele AI fără verificare devine mai periculoasă.

În cele din urmă, scandalul lovește exact în centrul dezbaterii despre inteligența artificială: tehnologia poate fi utilă, rapidă și impresionantă, dar nu este sinonimă cu adevărul. Pentru statele care vor să o reglementeze, prima regulă ar trebui să fie simplă: niciun document critic nu ajunge în spațiul public fără verificare umană completă. Africa de Sud tocmai a oferit lumii o demonstrație costisitoare a motivului pentru care această regulă nu poate fi tratată ca o formalitate.

Podul Giurgiu–Ruse se închide complet timp de două zile. Ce rute alternative au la dispoziție șoferii