Amazon ar TorchNeuron ļaus PyTorch kodu darbināt uz Trainium čipiem bez pārrakstīšanas

Amazon pirmdien paziņoja par jaunu programmatūru TorchNeuron, kas ļauj uz uzņēmuma paša izstrādātajiem Trainium MI čipiem darbināt kodu, kas rakstīts populārajā PyTorch ietvarā, bez pārrakstīšanas. Pēc Amazon čipu nodaļas Annapurna Labs teiktā, izstrādātājiem pietiek nomainīt vienu iestatījumu, kas norāda, kuru čipu izmantot. Rīks tiks publicēts bez maksas kā atvērtā koda programmatūra PyTorch konferencē Ziemeļamerikā, kas 20. oktobrī sākas Silīcija ielejā.

Solis ir vērsts pret Nvidia, kuras dominējošā pozīcija MI skaitļošanas tirgū lielā mērā balstās programmatūrā. Ziņu aģentūra Reuters atgādina, ka Nvidia vairāk nekā desmit gadus ir attīstījusi savu rīku CUDA, kas nodrošina PyTorch koda efektīvu darbību uz tās čipiem. Tāpēc pāreja uz cita ražotāja aparatūru izstrādātājiem līdz šim bieži nozīmējusi mēnešiem ilgu darbu, pielāgojot un atkārtoti pārbaudot jau gatavus modeļus.

PyTorch ir atvērtā koda ietvars, ko uztur Meta un ko izmanto lielākā daļa MI izstrādātāju. Amazon paziņojumā norāda, ka PyTorch kodu raksta 85 % MI pētnieku un izstrādātāju. Pēc Reuters ziņām, arī Google, kam ir savi MI čipi, strādā pie labākiem PyTorch rīkiem, lai piesaistītu izstrādātājus, kuri līdz šim izmantojuši Nvidia.

Tehniski TorchNeuron pieslēdzas standarta mehānismam, ar kuru PyTorch ļauj reģistrēt jaunu aparatūru. AWS dokumentācijā teikts, ka rīks atbalsta gan tūlītēju izpildi, gan kompilāciju ar torch.compile un PyTorch standarta sadalītās apmācības rīkus, un tas paredzēts Trainium2 un Trainium3 čipiem. Līdz šim TorchNeuron bija pieejams tikai slēgtā beta programmā, un Amazon jau iepriekš paziņoja, ka atteiksies no līdzšinējās pieejas, kas balstījās uz PyTorch/XLA.

Annapurna Labs programmatūras viceprezidents Kolins Breiss intervijā Reuters sacīja, ka mērķis ir samazināt soļu skaitu, kas izstrādātājiem jāveic, lai izmēģinātu Amazon čipus. Viņš norādīja, ka jauno programmatūru jau izmanto vairāk nekā 30 agrīnie klienti robotikas, pasaules modeļu un balss MI jomā, un pāreja uz Amazon čipiem var dot ievērojamu izmaksu ietaupījumu.

Amazon arī apgalvo, ka demonstrācijā viens un tas pats apmācības skripts uz parastā čipa un uz Trainium deva vienādus rezultātus vienādā tempā. Lieliem uzņēmumiem tas varētu ļaut vienu un to pašu aparatūru izmantot gan modeļu apmācībai, gan to darbināšanai, ārpus maksimālās slodzes stundām pārslēdzot jaudu uz apmācību. Tie ir uzņēmuma paša apgalvojumi.