Nvidia klusi samazina Vera Rubin MI paātrinātāju atmiņas joslas platumu

Nvidia bez atsevišķa paziņojuma ir mainījusi publicētās specifikācijas savai jaunākajai mākslīgā intelekta datu centru platformai Vera Rubin. Pēc jaunajiem datiem viens Rubin grafikas procesors (GPU) nodrošina 19,2 TB/s HBM4 atmiņas joslas platumu, nevis iepriekš solītos 22 TB/s, un 3 TB/s NVLink 6 savienojuma ātrumu, nevis 3,6 TB/s. Tas ir attiecīgi aptuveni par 13 % un 17 % mazāk.

Izmaiņas pirmais pamanīja Ķīnas tehnoloģiju portāls IT Home, salīdzinot Nvidia oktobra dokumentāciju ar jūnijā saglabātu versiju. Pēc Wccftech un TechRadar ziņotā, interneta arhīva kopijas liecina, ka produktu lapas labotas laikā no 1. līdz 11. septembrim, tātad jaunie skaitļi tur bija redzami vairākas nedēļas, pirms par tiem sāka rakstīt mediji.

Atmiņas apjoms – 288 GB HBM4 vienam GPU – un teorētiskā skaitļošanas jauda MI modeļu darbināšanai 50 PFLOPS NVFP4 formātā palikuši nemainīgi. Visas 72 grafikas procesoru statnes Vera Rubin NVL72 kopējais atmiņas joslas platums gan samazinājies no 1580 līdz 1400 TB/s. Vislielākās izmaiņas skārušas astoņu GPU serveru plati HGX Rubin NVL8, ko visbiežāk izmanto mākoņpakalpojumu sniedzēji: tās joslas platums sarucis no 176 līdz 130 TB/s jeb par aptuveni 26 %, bet atmiņas apjoms no 2,3 līdz 2 TB. Vienīgais rādītājs, kas uzlabojies, ir tīkla savienojums ar citiem serveriem – par 12,5 %.

Nvidia pārstāvis Wccftech skaidroja, ka izstrādes laikā publicētie skaitļi bija sākotnēji arhitektūras mērķi, bet galīgās specifikācijas atspoguļo to, ko sistēma uztur kvalificētā sērijveida ražošanā. Uzņēmums arī uzsvēra, ka atsevišķu komponentu parametri nenosaka lietotņu veiktspēju un ka līdz šim publicētie neatkarīgie testi jau veikti ar ražošanas specifikācijām.

Atmiņas joslas platums ir būtisks tāpēc, ka lielo valodas modeļu atbilžu ģenerēšanas ātrumu bieži ierobežo tieši tas, cik ātri dati tiek pievadīti no atmiņas. ServeTheHome norāda, ka Nvidia bija izvēlējusies HBM4 atmiņai ļoti agresīvu datu pārraides ātrumu, kas krietni pārsniedz nozares standartā noteikto, un, visticamāk, ražotāji to nespēja nodrošināt pietiekamā apjomā. Pats uzņēmums samazinājuma iemeslu nav nosaucis.

Pārskatītie skaitļi maina arī salīdzinājumu ar galveno konkurentu AMD. TechRadar aprēķinājis, ka AMD Instinct MI455X uz papīra tagad apsteidz Rubin pēc atmiņas joslas platuma vienam procesoram, bet AMD statne Helios apsteidz Vera Rubin NVL72 gan pēc atmiņas, gan statnes iekšējā savienojuma joslas platuma. Neviena no pusēm šos rādītājus vēl nav apstiprinājusi neatkarīgos salīdzinošos testos. Nvidia apgalvo, ka Vera Rubin NVL72 jau tiek sērijveidā ražota un piegādāta klientiem.