AMD pregătește procesoarele EPYC pentru noua etapă a sistemelor cu agenți AI
Sistemele cu agenți AI schimbă modul în care sunt folosite resursele de calcul, deoarece o singură solicitare poate declanșa mai multe operațiuni succesive. Căutarea unor informații, apelarea unor instrumente, execuția de cod și obținerea rezultatului pot face parte din același flux de lucru, iar cerințele de calcul se pot modifica de la o execuție la alta.
În acest context, AMD își poziționează noua generație de procesoare EPYC ca o soluție care poate acoperi mai multe tipuri de sarcini din infrastructura destinată sistemelor cu agenți AI. Compania susține că procesoarele pot fi configurate în funcție de cerințele fiecărei etape, astfel încât infrastructura să poată fi adaptată pe măsură ce aceste cerințe se schimbă.
De la antrenarea modelelor la fluxurile de lucru cu agenți AI
În urmă cu doi ani, planificarea infrastructurii pentru AI era concentrată în mare parte pe resursele necesare pentru antrenarea modelelor. Ulterior, inferența a devenit un factor important în stabilirea cerințelor de infrastructură. Odată cu apariția sistemelor cu agenți AI, fluxurile de lucru au devenit mai variate.
Un agent poate transforma o singură solicitare într-o succesiune de operațiuni care presupune accesarea unor informații, folosirea unor instrumente, rularea unor coduri și obținerea rezultatelor. Prin urmare, aceeași infrastructură poate ajunge să gestioneze tipuri diferite de sarcini în cadrul unei singure operațiuni.
AMD susține că această schimbare face ca flexibilitatea infrastructurii să devină importantă la fiecare nivel, inclusiv în cazul procesoarelor. Compania pornește de la faptul că aplicațiile enterprise, bazele de date, virtualizarea, analiza datelor, serviciile web, aplicațiile de calcul tehnic și AI au avut oricum cerințe diferite de procesare.
Sistemele cu agenți AI reunesc însă mai multe dintre aceste tipuri de activități într-un singur flux de lucru. Din acest motiv, AMD a evaluat procesoarele pentru servere din seria EPYC 9006 „Venice”, generația a șasea, în mai multe categorii de utilizare, de la aplicații generale și enterprise până la cloud, AI și calcul de înaltă performanță.
Ce rezultate raportează AMD pentru EPYC 9996
În testele SPECrate 2026 Integer prezentate de companie, procesorul pentru servere AMD EPYC 9996 a obținut o performanță pe nucleu de 1,2 ori mai mare decât o platformă cu Nvidia Vera 1. La nivelul întregii platforme, AMD indică o performanță de 2,24 ori mai mare.
Pentru aplicațiile enterprise și cele dezvoltate special pentru cloud, testele au inclus Java pe server, OpenSSL, MongoDB, Redis, NGINX și procesarea tranzacțiilor. În aceste scenarii, AMD raportează o performanță de 2,4 până la 3,7 ori mai mare.
Compania a comparat EPYC 9996 și cu Intel Xeon 6980P în aplicații precum dinamica moleculară, modelarea materialelor și prognoza meteo. Potrivit AMD, procesorul său oferă în aceste situații o performanță de 1,8 până la 3,13 ori mai mare.
AMD prezintă și o estimare pentru un rack de 100 de kilowați. Modelarea companiei indică o capacitate de procesare de aproximativ 3,4 ori mai mare decât în cazul unei platforme cu Vera.
Patru familii de procesoare în același mediu software
Portofoliul „Venice” este construit în jurul ideii de a putea utiliza procesoare diferite pentru sarcini diferite, fără schimbarea mediului software. AMD spune că gama include patru familii de procesoare, cu modele care pornesc de la variante cu 8 nuclee destinate sistemelor edge și ajung până la procesoare cu 256 de nuclee.
În portofoliu sunt incluse și soluții pentru serverele gazdă utilizate în sistemele AI integrate într-un rack. Astfel, companiile pot selecta procesorul în funcție de cerințele fiecărei sarcini dintr-un flux de lucru cu agenți AI, păstrând același mediu software.
AMD pune accent și pe diferența dintre performanța pe nucleu și densitatea totală de nuclee. O performanță ridicată pe nucleu poate susține operațiunile sensibile la latență, în timp ce un număr mare de nuclee permite rularea simultană a mai multor sarcini și poate crește capacitatea de procesare la nivelul unui rack.
Procesoarele „Venice” sunt deja în producție
Procesoarele AMD EPYC 9006 „Venice” se află deja în producție, potrivit companiei. Platformele principalilor producători OEM urmează să fie lansate conform calendarului stabilit, iar furnizorii importanți de servicii cloud vor începe să implementeze aceste procesoare în cursul acestui an.
AMD își construiește astfel oferta pentru o infrastructură în care sarcinile de lucru cu agenți AI pot varia de la o operațiune la alta. În locul unei singure configurații pentru toate tipurile de activități, compania propune un portofoliu de procesoare care permite alegerea soluției în funcție de cerințele fiecărei sarcini.