Un jucător a învins inteligența artificială la un joc pe computer: care sunt punctele slabe ale AI, în jocul de strategie Go

Un jucător amator al jocului Go a învins un sistem AI de rang înalt, după ce a exploatat o slăbiciune descoperită de un al doilea computer.

Go este un boardgame de strategie pentru doi jucători, în care scopul este să acoperi mai mult teritoriu decât adversarul. Jocul a fost inventat în China cu peste 2.500 de ani în urmă și se crede că este cel mai vechi joc boardgame jucat continuu până în prezent.

Conform The Financial Times, prin exploatarea defectului, jucătorul american Kellin Pelrine a învins sistemul KataGo în mod decisiv, câștigând 14 din 15 jocuri fără ajutor suplimentar pe computer. Este o victorie Go rară pentru oameni de la victoria lui AlphaGo din 2016, care a ajutat la deschiderea drumului pentru nebunia actuală a inteligenței artificiale. De asemenea, arată că chiar și cele mai avansate sisteme AI pot avea puncte slabe.

Inteligența artificială, bătută la Go de un om

„Nu este complet banal, dar nu este super-dificil de învățat”, a spus Pelrine.

Jucătorul a folosit aceeași metodă să o învingă pe Leela Zero, un alt Go AI de top.

Cea mai falsificată bancnotă în 2024. La ce trebuie să fii atent ca să nu pici în capcană

Cutremur în România duminică seară. Ce magnitudine a avut și unde s-a produs

Iată cum funcționează: scopul este de a crea o „buclă” mare de pietre care să încercuiască grupul adversarului, apoi să distragă atenția computerului făcând mișcări în alte zone ale tablei. Chiar și atunci când grupul său era aproape înconjurat, computerul nu a observat strategia.

„Ca om, ar fi destul de ușor de observat”, a spus Pelrine, deoarece pietrele care înconjoară ies în evidență clar pe tablă.

Defectul demonstrează că sistemele AI nu pot „gândi” cu adevărat dincolo de pregătirea lor, așa că fac adesea lucruri care par incredibil de stupide oamenilor. Am văzut lucruri similare cu roboții de chat, cum ar fi cel folosit de motorul de căutare Bing de la Microsoft.

Deși a fost bun la sarcini repetitive, cum ar fi să vină cu un itinerar de călătorie, a oferit și informații incorecte, i-a mustrat pe utilizatori pentru că și-au pierdut timpul și chiar a manifestat un comportament „deranjant” – probabil din cauza modelelor pe care a fost antrenat.

Lightvector (dezvoltatorul KataGo) este cu siguranță conștient de problema pe care jucătorii o exploatează de câteva luni. Într-o postare GitHub, a spus că se lucrează la o remediere pentru o varietate de tipuri de atacuri în joc.