Google lansează TurboQuant, tehnologia AI care ar putea reduce drastic consumul de memorie

Google a anunțat o nouă descoperire în zona inteligenței artificiale care ar putea schimba modul în care funcționează modelele moderne. Se numește TurboQuant și, dacă ți se pare că sună a ceva dintr-un serial, nu ești singurul.

Internetul a făcut deja legătura cu Silicon Valley și celebra companie fictivă Pied Piper. Ideea de bază este aproape identică: comprimarea extrem de eficientă a datelor fără pierderi semnificative de calitate.  Doar că, de data asta, nu vorbim despre un scenariu TV, ci despre o posibilă revoluție reală în AI.

Ce face, mai exact, TurboQuant

Pe scurt, TurboQuant este un algoritm care reduce cantitatea de memorie de care are nevoie un sistem AI pentru a funcționa, fără să-i afecteze performanța, scrie TechCrunch.

Mai concret, tehnologia optimizează ceea ce specialiștii numesc „working memory” sau KV cache, adică memoria folosită de AI atunci când procesează informații în timp real. Printr-o tehnică de compresie bazată pe cuantizare vectorială, sistemul reușește să „înghesuie” mai multe date în mai puțin spațiu. Rezultatul? Modelele AI pot reține mai mult, folosind mai puține resurse.

Cât de mult contează asta? Conform cercetătorilor, Google TurboQuant ar putea reduce necesarul de memorie de rulare de cel puțin 6 ori. Asta înseamnă costuri mai mici, eficiență mai mare și, potențial, AI mai accesibil la scară largă.

De ce toată lumea vorbește despre „Pied Piper”

Comparația cu Silicon Valley nu este întâmplătoare. În serial, startup-ul Pied Piper devine celebru datorită unui algoritm de compresie revoluționar care schimbă regulile jocului în tech.

Exact asta promite și TurboQuant, cel puțin în teorie.

Vezi și:

Google vrea să elibereze 64 de milioane de țânțari într-o anume regiune. De ce consideră oamenii de știință proiectul o veste bună

Europa mai taie o legătură cu Google. Parlamentul European ar putea schimba motorul de căutare implicit

Mai mult, unii lideri din industrie, precum CEO-ul Cloudflare, au mers și mai departe, numind această descoperire un posibil „moment DeepSeek”, adică un salt major de eficiență într-un domeniu dominat de costuri uriașe.

Totuși, există o diferență importantă: TurboQuant este, momentan, doar un rezultat de laborator. Nu este încă implementat pe scară largă, iar impactul real va depinde de cât de bine poate fi integrat în sisteme existente.

Ce nu rezolvă (încă) această tehnologie

Deși sună impresionant, Google TurboQuant nu este soluția magică pentru toate problemele AI.

Algoritmul optimizează doar memoria folosită în timpul utilizării modelului, nu și în timpul antrenării acestuia. Iar antrenarea rămâne una dintre cele mai costisitoare etape, necesitând cantități uriașe de resurse hardware.

Asta înseamnă că, deși TurboQuant ar putea face AI mai eficient în utilizare, nu va elimina complet problema costurilor ridicate din industrie.

Așadar, hype sau începutul unei schimbări reale?

Ca multe inovații din AI, Google TurboQuant vine cu mult entuziasm și promisiuni mari. Dacă va livra ceea ce promite, ar putea deveni una dintre acele tehnologii „invizibile” care, în timp, schimbă totul.

Până atunci, rămâne în faza de promisiune. Dar una suficient de interesantă încât să pună pe gânduri întreaga industrie.

Poate un avion să aterizeze în siguranță dacă are o defecțiune la trenul de aterizare?