Criptonita inteligenței artificiale ar putea fi chiar inteligența artificială: cum și-a „pierdut mințile” AI

Inteligența artificială și-a pierdut mințile după ce a fost instruită pe date generate de AI.

„Pe măsură ce utilizarea modelelor generative continuă să crească rapid, această situație nu va face decât să se accelereze”, spun experții.

Într-o nouă lucrare fascinantă, oamenii de știință de la Rice și de la Universitatea Stanford au descoperit că furnizarea de conținut generat de AI către modele AI pare să provoace erodarea calității rezultatelor. Antrenarea de modele AI generative – modele mari de limbaj și generatoare de imagini – se pare că va „sparge” creierul digital al modelului.

Inteligența artificială distruge inteligența artificială

Sau, conform acestor oameni de știință, va conduce modelul „MAD”.

„Progresele în algoritmii AI generativi pentru imagini, text și alte tipuri de date au condus la tentația de a folosi date sintetice pentru a antrena modele de generație următoare”, scriu cercetătorii. „Repetarea acestui proces creează o buclă „autoconsumătoare” ale cărei proprietăți sunt prost înțelese”.

„Concluzia noastră principală pentru toate scenariile este că, fără suficiente date reale proaspete în fiecare generație a unei bucle autocunoscătoare, viitoarele modele generative sunt sortite să scadă calitatea (precizia) sau diversitatea (reamintirea)”, au adăugat ei. „Numim această afecțiune model de tulburare de autofagie (MAD)”.

Cu alte cuvinte, fără „date reale proaspete” – traducere: munca umană originală, spre deosebire de chestii generate de AI – pentru a hrăni AI, ne putem aștepta ca rezultatele acesteia să sufere drastic. Când sunt instruite în mod repetat pe conținut sintetic, spun cercetătorii, informațiile periferice, mai puțin reprezentate la periferia datelor de antrenament ale unui model vor începe să dispară. Modelul va începe apoi să tragă din date din ce în ce mai convergente și mai puțin variate și, ca rezultat, va începe în curând să se prăbușească.

Termenul MAD, așa cum a fost inventat de cercetători, reprezintă acest proces de „auto-înghițire”.

Rezultatele lucrării unt convingătoare. După cum se detaliază în lucrare, modelul AI testat a trecut doar prin cinci runde de antrenament cu conținut sintetic, înainte să înceapă să se arate crăpăturile în rezultate. Așadar, AI, de fapt, distruge AI și există implicații în lumea reală.