Soluția care ar putea pune capăt crizei de memorie RAM. Tehnologia prin care serverele ar putea împărți resursele folosind lumina

Soluția care ar putea pune capăt crizei de memorie RAM. Tehnologia prin care serverele ar putea împărți resursele folosind lumina
foto - The Register
Ozana Mazilu
Google Urmărește pe Google
Criza de memorie RAM, alimentată de dezvoltarea accelerată a inteligenței artificiale, îi determină pe producătorii de hardware să regândească modul în care sunt construite sistemele informatice. În loc să echipeze fiecare server cu o cantitate uriașă de memorie, companiile ar putea utiliza resurse comune, accesibile prin conexiuni optice de mare viteză.

Marvell Technology și Penguin Solutions dezvoltă împreună o tehnologie bazată pe fotonică, prin intermediul căreia mai multe servere vor putea accesa aceeași infrastructură de memorie. Potrivit publicației The Register, primele sisteme comerciale bazate pe această soluție sunt așteptate în a doua jumătate a anului 2027.

Memoria RAM ar putea fi accesată prin intermediul conexiunilor optice

Tehnologia are la bază o soluție dezvoltată inițial de Celestial AI, companie achiziționată de Marvell pentru 3,5 miliarde de dolari. Aceasta permite combinarea memoriei DDR5 convenționale cu memoria HBM, caracterizată printr-o lățime de bandă foarte mare.

Fiecare modul de extindere include 72 GB de memorie HBM3e, suport pentru opt canale DDR5 și o interfață fotonică din siliciu, capabilă să ofere o lățime de bandă bidirecțională de 900 GB/s.

Primele echipamente dezvoltate de Penguin Solutions vor putea integra până la 16 asemenea module, oferind o capacitate de până la 16 TB de memorie DDR5. Generațiile ulterioare ar putea dubla această capacitate.

Un singur echipament va putea deservi simultan până la 16 servere, prin intermediul unei infrastructuri optice cu o lățime de bandă totală de 57,6 Tbps.

Conceptul seamănă, într-o anumită măsură, cu cel al dispozitivelor de stocare conectate la rețea. Diferența majoră este că serverele vor putea accesa resurse comune de memorie RAM, nu doar spațiu destinat stocării fișierelor.

Potrivit anunțului oficial al Penguin Solutions, configurația prezentată de companie include și 576 GB de memorie HBM3e, însă alte configurații ar putea ajunge la aproximativ 1 TB.

Inteligența artificială ar putea consuma mai puține resurse hardware

Noua tehnologie este dezvoltată în special pentru centrele de date care găzduiesc sisteme de inteligență artificială, responsabile în mare măsură pentru actuala criză a memoriilor RAM.

Modelele AI generează cantități importante de date temporare în timpul procesării solicitărilor utilizatorilor. Aceste informații, cunoscute sub denumirea de KV cache, permit sistemelor să păstreze contextul conversațiilor și să execute sarcini complexe fără a repeta anumite calcule.

În prezent, aceste date sunt transferate adesea în memoria DRAM sau pe dispozitive de stocare flash atunci când nu mai sunt utilizate activ.

Soluția propusă de Marvell permite utilizarea memoriei HBM drept cache de mare viteză. Datele accesate frecvent sunt păstrate în memoria performantă, în timp ce informațiile mai puțin utilizate sunt transferate în memoria DDR5, care beneficiază de o capacitate superioară.

Astfel, centrele de date ar putea utiliza mai eficient resursele disponibile, fără să fie nevoite să instaleze cantități suplimentare de memorie în fiecare server.

Ce ar putea însemna noua tehnologie pentru prețurile memoriilor RAM

Dezvoltarea infrastructurii dedicate inteligenței artificiale a dezechilibrat considerabil piața componentelor IT. Producătorii de semiconductori prioritizează comenzile venite din partea marilor companii de tehnologie, în detrimentul segmentului destinat consumatorilor obișnuiți.

În consecință, prețurile memoriilor DDR5 au crescut spectaculos, afectând inclusiv costurile de producție ale calculatoarelor, laptopurilor și consolelor de jocuri.

Dacă tehnologia dezvoltată de Marvell și Penguin Solutions va fi adoptată pe scară largă, centrele de date ar putea reduce cantitatea de memorie instalată individual în fiecare sistem. În teorie, acest lucru ar putea diminua presiunea asupra producătorilor și ar putea contribui la stabilizarea pieței.

Nu există însă garanția că economiile realizate vor compensa creșterea continuă a cererii pentru infrastructura AI. Marile companii tehnologice continuă să negocieze contracte pentru aprovizionarea cu cipuri de memorie, anticipând necesități tot mai mari în următorii ani.

În plus, primele echipamente bazate pe noua tehnologie sunt așteptate abia în a doua jumătate a anului 2027, ceea ce înseamnă că efectele asupra pieței nu vor fi imediate.