AI-ul care începe să se construiască singur. Startupul de 650 de milioane de dolari care vrea să ducă inteligența artificială într-o zonă periculoasă și fascinantă

Una dintre cele mai mari obsesii ale industriei AI nu mai este doar construirea unui model mai puternic, ci apariția unui sistem care se poate îmbunătăți singur. Exact această idee stă în centrul unui nou startup din San Francisco, Recursive Superintelligence, lansat oficial cu o finanțare uriașă de 650 de milioane de dolari și cu o ambiție care sună aproape SF: crearea unei inteligențe artificiale capabile să își identifice singură slăbiciunile, să propună soluții și să se redeseneze fără intervenție umană directă.

Compania este condusă de Richard Socher, o figură cunoscută în zona AI, fondator al You.com și cercetător asociat anterior cu proiecte importante din domeniu. Alături de el se află nume grele, inclusiv Peter Norvig și Tim Shi, cofondator Cresta. Împreună, echipa încearcă să atingă unul dintre cele mai dificile obiective ale cercetării moderne în inteligență artificială: auto-îmbunătățirea recursivă.

Ce înseamnă, de fapt, AI care se îmbunătățește singur

În forma simplă, multe sisteme AI pot fi folosite deja pentru a îmbunătăți ceva: un text, un program, o imagine, o strategie sau chiar un alt model, se arată într-o analiză TechCrunch. Dar Socher spune că asta nu este auto-îmbunătățire recursivă adevărată. Este doar îmbunătățire asistată de AI. Diferența majoră apare atunci când întregul proces devine automat: ideea de cercetare, testarea, implementarea și validarea rezultatului.

Recursive Superintelligence vrea să construiască un sistem care poate lucra asupra propriei arhitecturi, nu doar asupra unor sarcini externe. Practic, un AI ar trebui să înțeleagă unde greșește, ce nu poate face suficient de bine, ce limitări are și cum ar putea să le corecteze. Este o direcție care, dacă ar funcționa la scară mare, ar accelera enorm progresul tehnologic.

Vezi și:

7 semne că un anunț de cazare de pe Booking ar putea fi fals. Ce trebuie să verifici înainte să plătești

Termenul-cheie folosit de companie este „open-endedness”, adică ideea unor sisteme care pot evolua permanent, fără o țintă finală simplă. Socher compară această logică cu evoluția biologică: organismele se adaptează la mediu, alte organisme reacționează, iar procesul continuă timp de milioane sau miliarde de ani. În AI, o astfel de abordare ar însemna modele care nu doar rezolvă probleme date de oameni, ci generează continuu probleme noi, soluții noi și moduri noi de a progresa.

De la cercetare automată la competiții între AI-uri

Un exemplu interesant este așa-numitul „rainbow teaming”, o extensie a conceptului de red teaming. În securitate, red teaming înseamnă testarea unui sistem prin încercări de atac. În cazul AI, asta poate însemna să verifici dacă un model poate fi convins să ofere informații periculoase sau să încalce reguli de siguranță.

Ideea dusă mai departe este ca un AI să testeze alt AI, încercând să găsească toate unghiurile prin care îl poate face să greșească. Apoi modelul atacat este îmbunătățit, iar procesul se repetă de milioane de ori. În teorie, două sisteme pot evolua împreună: unul atacă, celălalt se apără, iar rezultatul ar trebui să fie un model mai robust și mai sigur.

Vezi și:

Cum devii atât de bun la AI încât colegii vor crede că ești robot: șapte obiceiuri care îți schimbă munca de zi cu zi

AI-ul antrenat pe computer cuantic a trecut un test pe care modelul obișnuit l-a ratat: descoperirea care poate schimba viitorul inteligenței artificiale

Această abordare ar putea avea aplicații enorme, de la programare și matematică până la medicină, cercetare științifică și dezvoltare de noi tehnologii. Socher vorbește inclusiv despre o lume în care întrebarea principală va deveni câtă putere de calcul vrem să alocăm pentru rezolvarea unei probleme: cancer, virusuri, energie, materiale noi sau alte provocări majore.

Entuziasm uriaș, dar și întrebări greu de ignorat

Recursive Superintelligence nu se prezintă doar ca un laborator de cercetare, chiar dacă face parte din noua generație de companii AI axate pe cercetare avansată. Socher insistă că vrea să construiască și produse reale, folosite de oameni, nu doar demonstrații tehnice sau lucrări științifice. Primele produse ar putea apărea în câteva trimestre, nu peste ani, ceea ce arată că startupul vrea să intre rapid în piață.

Totuși, ideea unui AI care își dezvoltă singur capacitățile ridică întrebări serioase. Cine verifică direcția în care evoluează? Cum se controlează un sistem care devine tot mai bun la a-și modifica propriile metode? Ce se întâmplă dacă viteza progresului depășește capacitatea oamenilor de a înțelege ce se petrece în interiorul modelului?

Susținătorii acestei direcții spun că auto-îmbunătățirea ar putea produce salturi uriașe în știință și tehnologie. Criticii se tem că tocmai această accelerație poate deveni riscantă, mai ales dacă sistemele devin opace, greu de controlat și dependente de cantități masive de putere de calcul. Într-o astfel de lume, competiția nu se mai dă doar între idei, ci între cine are cele mai multe centre de date, energie și cipuri.

Recursive Superintelligence intră, astfel, într-un teritoriu fascinant și neliniștitor. Dacă eșuează, va fi încă un startup AI cu ambiții mai mari decât rezultatele. Dacă reușește, ar putea deschide o etapă complet nouă: momentul în care inteligența artificială nu mai este doar construită de oameni, ci începe să participe activ la propria ei construcție. Iar acolo, întrebarea nu mai este doar ce poate face AI-ul pentru noi, ci cât timp vom mai înțelege cu adevărat ce face.

Cum faci un cocktail clasic cu whiskey de secară și cognac – Vieux Carré spune o poveste de aproape 90 de ani