Profeția despre inteligența artificială: cum ne-ar putea duce spre extincție, ce spun specialiștii
Inteligența artificială prezintă un „risc de a ne duce spre dispariție”, la fel ca războiul nuclear, spun liderii industriei. Atenuarea acesteia ar trebui să fie o „prioritate globală”.
Odată cu creșterea ChatGPT, Bard și a altor modele de limbaj mari (LLM), am auzit avertismente de la oameni implicați, precum Elon Musk, cu privire la riscurile reprezentate de inteligența artificială (AI). Acum, un grup de lideri din industrie de profil înalt a emis o declarație de o singură propoziție confirmând efectiv aceste temeri.
Inteligența artificială, periculoasă
Atenuarea riscului de dispariție din cauza IA ar trebui să fie o prioritate globală alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear.
A fost postată pe Centrul pentru Siguranța Inteligenței Artificiale, o organizație cu misiunea „de a reduce riscurile la scară societală din cauza inteligenței artificiale”, potrivit site-ului. Semnatarii sunt specialiști din industria AI, inclusiv directorul executiv al OpenAI, Sam Altman, și șeful Google DeepMind, Demis Hassabis. Cercetătorii câștigători ai premiului Turing Geoffrey Hinton și Yoshua Bengio, considerați de mulți nașii inteligenței artificiale moderne, și-au pus și ei numele.
Este a doua astfel de declarație din ultimele luni. În martie, Musk, Steve Wozniak și alți peste o mie au cerut o pauză de șase luni în domeniul inteligenței artificiale: „Ultimele luni au văzut laboratoarele de inteligență artificială blocate într-o cursă scăpată de control pentru a dezvolta și implementa minți digitale din ce în ce mai puternice pe care nimeni – nici măcar creatorii lor – nu le pot înțelege, prezice sau controla în mod fiabil”, se arată în scrisoare.
Deși AI nu este (probabil) conștient de sine, așa cum s-au temut unii, prezintă deja riscuri de utilizare greșită și vătămare prin deepfake, dezinformare automată și multe altele. LLM-urile ar putea schimba, de asemenea, modul în care sunt produse conținutul, arta și literatura, afectând potențial numeroase locuri de muncă.