AI-ul nu încape în vechile servere. De ce infrastructura clasică a companiilor nu mai este suficientă

Inteligența artificială este livrată utilizatorilor prin aplicații și servicii software, însă adevărata transformare se produce în spatele acestora. Companiile care trec de la experimente la implementări reale descoperă că serverele, rețelele și sistemele de răcire construite pentru aplicații clasice nu pot susține ușor noile sarcini, potrivit unei analize publicate de ASUS Press. 

Diferența nu se rezumă la instalarea unor procesoare mai rapide. Infrastructura tradițională execută procese relativ previzibile, precum baze de date, pagini web, tranzacții și aplicații interne. Sistemele AI trebuie să proceseze volume uriașe de date în paralel, să transfere informații rapid între sute sau mii de acceleratoare și să suporte perioade lungi de funcționare la capacitate maximă.

GPU-urile schimbă regulile

Serverele clasice sunt construite în jurul procesoarelor CPU. Acestea sunt foarte bune pentru activități secvențiale, bazate pe reguli clare. Un sistem financiar, un magazin online sau o platformă de comunicare execută de obicei fluxuri stabile, care pot fi anticipate și distribuite relativ simplu.

Antrenarea unui model AI funcționează diferit. Sistemul trebuie să realizeze simultan un număr enorm de calcule matematice. Din acest motiv, infrastructura modernă folosește GPU-uri și acceleratoare specializate, capabile să proceseze în paralel mii de operațiuni.

Vezi și:

Cu cât crește pensia dacă mai lucrezi 5 ani după stagiul complet. Calcul pentru un salariu mediu

Puterea suplimentară vine însă cu cerințe noi. GPU-urile consumă multă energie și produc cantități importante de căldură. Un centru de date pentru AI are nevoie de alimentare electrică mai puternică, răcire eficientă și sisteme capabile să funcționeze constant fără reducerea performanței.

Acesta este și motivul pentru care Nvidia a devenit esențială pentru infrastructura mondială de inteligență artificială. Cipurile sale nu sunt folosite doar individual, ci în clustere în care sute de unități trebuie să lucreze ca un singur sistem.

Datele circulă altfel

Într-o infrastructură tradițională, o parte importantă a traficului circulă între utilizatori și serviciile companiei. O persoană trimite o solicitare către un site, serverul o procesează, iar rezultatul este transmis înapoi. Acest tip de comunicare este cunoscut drept trafic nord-sud.

Vezi și:

Inteligența artificială intră într-o nouă eră, iar CPU-urile au din nou un rol-cheie

Cloud sau servere proprii? ASUS explică unde ar trebui să ruleze inteligența artificială a unei companii

Într-un centru de date AI, cea mai mare parte a traficului poate circula în interiorul infrastructurii. GPU-urile, serverele și sistemele de stocare schimbă permanent informații între ele. Modelele mari sunt împărțite între mai multe echipamente, iar orice întârziere în transfer poate lăsa acceleratoarele costisitoare fără date de procesat.

Din acest motiv, rețelele clasice cu mai multe niveluri pot deveni un blocaj. Infrastructura AI folosește arhitecturi precum Spine-Leaf sau Fat-Tree, construite pentru a permite transferuri rapide și simultane. Tehnologii precum NVLink și InfiniBand conectează acceleratoarele la viteze mult mai mari decât cele întâlnite într-o rețea obișnuită de birou.

Și stocarea trebuie schimbată. Modelele au nevoie de seturi uriașe de date pentru antrenare, iar rezultatele trebuie livrate cu latență redusă atunci când utilizatorii cer un răspuns. Sistemul trebuie să susțină atât perioade de procesare intensă, cât și milioane de solicitări de inferență.

Această cursă explică investițiile masive făcute în centre de date și infrastructură AI. Companiile nu cumpără doar cipuri. Ele trebuie să dezvolte clădiri, rețele, capacități energetice și sisteme de stocare adaptate unei noi generații de sarcini.

Răcirea devine critică

Densitatea mare de calcul face ca răcirea tradițională cu aer să nu mai fie suficientă în anumite configurații. Serverele cu mai multe GPU-uri pot genera o cantitate enormă de căldură într-un spațiu foarte mic. Dacă temperatura crește prea mult, echipamentele își reduc automat performanța sau se pot opri pentru protecție.

Soluțiile moderne includ răcirea lichidă directă, prin care agentul de răcire ajunge foarte aproape de cipuri. Sistemul poate elimina căldura mai eficient și poate permite instalarea unui număr mai mare de acceleratoare în același rack. Proiectarea infrastructurii trebuie făcută astfel împreună, de la procesor și rețea până la energie și climatizare.

ASUS oferă drept exemplu supercomputerul NCHC Nano 4 din Taiwan. Sistemul furnizează o performanță de până la 81,55 petaflopi și ocupă locul 29 în clasamentul TOP500. Compania susține că infrastructura a obținut un indicator PUE de 1,18, ceea ce indică o utilizare eficientă a energiei în raport cu puterea consumată de echipamentele de calcul.

Eficiența devine esențială deoarece expansiunea AI pune presiune asupra rețelelor electrice. Centrele de date au nevoie de energie nu doar pentru procesoare, ci și pentru răcire, stocare și transportul informațiilor. Efectul se vede deja în creșterea amprentei de carbon a marilor companii tehnologice.

Infrastructura AI nu mai poate fi tratată ca o simplă extindere a departamentului IT. Ea trebuie proiectată ca un sistem unitar, capabil să se adapteze modelelor noi și cererii imprevizibile. Pentru companii, investiția nu înseamnă doar mai multe servere, ci construirea unei fundații complet diferite pentru viitoarele servicii digitale.