Svarīgākais Latvijai

Trešdiena, 21. oktobris Šodien vārda dienu svin: Urzula, Severīns

Rīga: 8 °C, neliels mākoņu daudzums, vējš DA 3 m/s (LVĢMC mērījums, Rīga Universitāte, 23:00) Rīga

Google padara TorchTPU par atvērtu kodu un vilina PyTorch izstrādātājus uz saviem čipiem

Google otrdien PyTorch konferencē paziņoja, ka TorchTPU, rīks PyTorch modeļu darbināšanai uz uzņēmuma TPU čipiem, ir pieejams kā atvērtā koda projekts. Tas notiek dienu pēc līdzīga Amazon soļa, un abi uzņēmumi cenšas mazināt izstrādātāju atkarību no Nvidia.

Google padara TorchTPU par atvērtu kodu un vilina PyTorch izstrādātājus uz saviem čipiem
Ilustratīvs attēls. Foto: Domaintechnik / Unsplash

Google otrdien, 20. oktobrī, konferencē PyTorch Conference 2026 paziņoja, ka TorchTPU ir publicēts GitHub kā atvērtā koda projekts. Tā ir PyTorch aizmugursistēma (backend), kas ļauj ar šo populāro MI izstrādes rīkkopu veidotus modeļus apmācīt un darbināt uz Google pašu izstrādātajiem MI paātrinātājiem, tā sauktajiem TPU (Tensor Processing Unit).

Līdz šim lielākā daļa MI lietotņu pēc noklusējuma tiek rakstītas Nvidia grafiskajiem procesoriem. PyTorch sākotnēji izstrādāja Meta, un daudzas tā funkcijas tika veidotas tieši Nvidia aparatūrai, norāda TechCrunch. Izdevums Google soli vērtē kā mēģinājumu kopā ar Amazon mazināt Nvidia priekšrocības izstrādātāju vidē. Amazon tikai dienu iepriekš laida klajā līdzīgu rīku TorchNeuron saviem Trainium čipiem.

Pēc Google un PyTorch projekta skaidrojuma TorchTPU izstrāde sākās 2025. gada vidū sadarbībā ar Meta PyTorch komandu. Esošu PyTorch kodu var pārcelt uz TPU ar nelielām izmaiņām, piemēram, ierīces norādi "cuda" nomainot uz "tpu". Rīks atbalsta gan interaktīvo (eager) režīmu kļūdu meklēšanai, gan kompilēšanu ar torch.compile un sadalītu apmācību vairākos čipos. Iepriekšējais risinājums PyTorch/XLA prasīja koda pārveidošanu un ilgi kompilēja, atzīst paši izstrādātāji.

Google sadarbojās arī ar citiem atvērtā koda projektiem. Hugging Face bibliotēkās Transformers un Diffusers modeļus tagad var palaist uz TPU, norādot ierīci "tpu", un uzņēmums savā blogā raksta, ka atsevišķs rīks Optimum TPU šim nolūkam vairs nav vajadzīgs. TPU atbalsts pievienots arī modeļu apkalpošanas dzinējiem vLLM un SGLang, apmācības rīkam TorchTitan un uzdevumu orķestrēšanas sistēmai Ray.

Papildus Google paziņoja, ka ierīcēs darbināmo modeļu rīks LiteRT (agrāk TensorFlow Lite) pievienojas PyTorch ekosistēmai, bet TPU aģentu komplekts, kas palīdz pārcelt modeļus uz Google čipiem un labot kļūdas, ir pieejams kā agrīns priekšskatījums. Uzņēmums apgalvo, ka TorchTPU jau tiek lietots ražošanā dažiem lielākajiem Google Cloud klientiem.

TechCrunch norāda, ka jaunie rīki paši par sevi nenozīmē, ka izstrādātāji masveidā atteiksies no Nvidia aparatūras. Amazon gan iet vēl tālāk un iesniedz izmaiņas arī pamata PyTorch projektā, lai daļu funkciju atsaistītu no Nvidia čipiem. Tas, vai šīs izmaiņas tiks pieņemtas, noteiks, cik viegli nākotnē PyTorch kodu varēs pārnest starp dažādu ražotāju aparatūru un mākoņpakalpojumiem.

Avoti

  1. Google Cloud Blog: TorchTPU is now open source: Run native PyTorch on TPUs cloud.google.com
  2. TechCrunch: Google has joined Amazon in attacking Nvidia's stronghold with AI app developers techcrunch.com
  3. PyTorch: Introducing TorchTPU pytorch.org
  4. Hugging Face: Hugging Face ❤️ TorchTPU: TPUs, Natively huggingface.co

Rakstu sagatavojis MI, pamatojoties uz norādītajiem avotiem.

Seko inews.lv Facebook Seko mūsu jaunākajām ziņām Facebook Sekot

Komentāri 0

Tavs komentārs

Komentārus raksta lasītāji. Tie parādās pēc redakcijas pārbaudes. Saites nav atļautas.

Pārbaudes kods

Vēl nav komentāru. Uzraksti pirmo.