AMD prezentē Helion — atvērtu statnes dizainu MI aģentiem ar līdz 32 768 kodoliem

Mikroshēmu ražotājs AMD pirmdien, 12. oktobrī, Open Compute Project (OCP) globālajā samitā Sanhosē, Kalifornijā, prezentēja Helion — statnes mēroga atsauces dizainu datu centriem, kas veidots tieši MI aģentu darbināšanai. Pašas statnes AMD nepārdos: specifikāciju tas plāno nodot OCP kopienai, bet gatavus risinājumus pēc šī dizaina būvēs serveru ražotāji.

MI aģenti ir programmas, kas patstāvīgi izpilda vairāku soļu uzdevumus — raksta un palaiž kodu, strādā ar dokumentiem, izsauc citus rīkus. AMD vecākais viceprezidents Dens Maknamara paziņojumā uzsvēra, ka aģentu MI nav viena veida slodze: tā aptver personīgos aģentus, uzņēmumu lietotnes, koda izpildi un sarežģītas darba plūsmas, un katrai no tām vajadzīga atšķirīga skaitļošanas jauda. Tāpēc Helion ļauj klientiem pašiem salāgot procesoru kodolu blīvumu, veiktspēju un enerģijas patēriņu ar grafisko paātrinātāju jaudu.

Dizains piedāvā divus galvenos variantus. Tikai ar procesoriem aprīkota statne lielajiem mākoņpakalpojumu sniedzējiem izmanto sestās paaudzes EPYC procesorus ar kodola nosaukumu Venice un var ietvert līdz 32 768 procesoru kodoliem. Tā paredzēta tikai aģentu darbību izpildei, bet pašus valodas modeļus darbina atsevišķa infrastruktūra. Uzņēmumiem domātā «viss vienā» statne apvieno EPYC procesoru mezglus, līdz 16 Instinct MI350P grafiskajiem paātrinātājiem un vispārējas nozīmes serverus.

Pēc The Register datiem, procesoru moduļi pieejami trīs veidos: blīvie ar 400 vatu mikroshēmām, sabalansētie ar 256 kodolu procesoriem, kas patērē 600 vatus, un ražīgie ar 96 kodolu procesoriem, kuru takts frekvence ir 5 GHz. Grafiskās izvades modulī ir astoņi MI350P paātrinātāji 5U augstā korpusā, bet tīkla caurlaidspēja sasniedz līdz 102 Tbit/s. Statnes var dzesēt gan ar gaisu, gan ar šķidrumu.

AMD izceļ arī iebūvētu tā saukto žetonu maršrutētāju, kas aģentu pieprasījumus valodas modeļiem sadala starp jaudīgākajiem komerciālajiem un atvērtā koda modeļiem. Uzņēmums apgalvo, ka Helion ļauj ieviest aģentu MI jau esošajā IT infrastruktūrā.

Helion papildina AMD Helios statnes risinājumu, kas paredzēts liela mēroga MI modeļu apmācībai un izvadei. The Register norāda, ka līdzīgie nosaukumi var radīt pārpratumus, taču produktu mērķi atšķiras: Helion, kā raksta Tom's Hardware, galvenokārt balstās uz procesoriem, nevis grafiskajiem paātrinātājiem.

AMD paziņojumā kā partneri minēti Cisco, Dell, HPE, Hon Hai (Foxconn), Lenovo, QCT, Supermicro un Wiwynn. Pēc uzņēmuma teiktā, Helion konfigurācijas pašlaik tiek izstrādātas kopā ar partneriem, un tās plānots darīt pieejamas 2026. gada novembrī.