AMD a prezentat recent noile sale acceleratoare grafice, MI350X și MI355X, menite să sprijine dezvoltarea aplicațiilor de inteligență artificială (AI). Aceste unități sunt optimizate pentru a îmbunătăți eficiența procesării datelor, îndeosebi în centrele de date mari, unde cerințele de calcul sunt în continuă creștere.
Aceste acceleratoare sunt construite pe o arhitectură avansată care permite o viteză de procesare de patru ori mai mare comparativ cu modelul anterior, MI300X, în special în formatele FP4 și FP6, utilizate de companii precum Meta pentru training-ul modelelor AI.
MI350X și MI355X sunt caracterizate printr-o capacitate de memorie de 288 GB HBM3E și o lățime de bandă de 8 TB/s, ceea ce le permite să gestioneze un număr semnificativ de parametri, facilitând astfel utilizarea simultană a multiplelor servicii AI. Aceste unități pot consuma până la 1400W, fiind dedicate infrastructurilor de mari dimensiuni.
Performanța acestor acceleratoare se traduce în costuri mai reduse pentru procesarea tokenilor, cu 40% mai mulți tokeni per dolar în comparație cu echipamentele competitorilor. Aceasta reprezintă o îmbunătățire semnificativă pentru aplicațiile AI, unde eficiența costurilor este esențială.
De asemenea, AMD a anunțat că seria MI350 poate susține modele AI cu până la 520 de miliarde de parametri, ceea ce permite o scalabilitate remarcabilă în utilizarea resurselor de calcul. În plus, compania lucrează deja la dezvoltarea generației următoare, MI400X, care promite și mai multă memorie și o lățime de bandă crescută.
În cadrul aceleași conferințe, AMD a lansat și noua versiune a platformei ROCm 7, care va permite utilizatorilor de laptopuri și PC-uri cu placă video AMD să ruleze modele AI local, reducând astfel costurile și îmbunătățind accesibilitatea la aceste tehnologii avansate.
