Reflection publisko 501 miljarda parametru MI modeļa Beam svarus ar Apache 2.0 licenci

ASV MI jaunuzņēmums Reflection 16. oktobrī platformā Hugging Face publiskoja sava pirmā atvērtā svara valodas modeļa Beam svarus. Modelis izplatīts ar Apache 2.0 licenci, kas ļauj to lejupielādēt, darbināt savā infrastruktūrā, pielāgot un izmantot arī komerciāli. Uzņēmums Beam paredzējis programmēšanai, spriešanai un ilgstošiem MI aģentu uzdevumiem.

Beam ir ekspertu maisījuma jeb MoE modelis ar 501 miljardu parametru kopumā, taču katras teksta vienības (tokena) apstrādē tiek iesaistīti tikai aptuveni 23 miljardi. Tāpēc modelis darbojas ātrāk nekā tikpat liels blīvais modelis, lai gan atmiņā joprojām jāglabā visi parametri. Beam strādā tikai ar tekstu, un tā konteksta logs ir aptuveni miljons tokenu.

Svari pieejami trīs precizitātes formātos: BF16, FP8 un NVFP4. Pilnās precizitātes versija aizņem gandrīz terabaitu, bet saspiestā NVFP4 versija ir ap 280 gigabaitiem, un to var darbināt uz četriem Nvidia B300 grafikas procesoriem. Modeli jau no pirmās dienas atbalsta plaši lietotās atvērtā koda bibliotēkas Transformers, vLLM un SGLang, un Reflection kopā ar to piedāvā arī savu programmēšanas aģenta rīku Mirror CLI.

Pirmo reizi Reflection Beam prezentēja 5. oktobrī, kad parādīja tā testu rezultātus, bet svarus apsolīja publiskot vēlāk šajā mēnesī. Uzņēmums apgalvo, ka Beam līdzīgus spriešanas un programmēšanas uzdevumus atrisina, patērējot trīs līdz četras reizes mazāk skaitļošanas jaudas nekā salīdzināmi atvērtie modeļi.

Šos rezultātus sniedzis pats uzņēmums. TechCrunch norādīja, ka tie nav neatkarīgi pārbaudīti, un arī Hugging Face savā modeļa aprakstā testu tabulu publicē kā Reflection komandas sniegtus datus, bet paša veiktos izmēģinājumus dēvē par neformāliem, nevis par etalontestiem.

Līdz ar svaru publiskošanu modelis kļuvis pieejams arī mākoņpakalpojumos. Google Cloud paziņoja par atbalstu jau izlaišanas dienā un publicēja gatavas izvietošanas instrukcijas, savukārt Hugging Face piedāvā Beam izmantot caur pakalpojumu sniedzējiem Baseten, Fireworks un Together.

Reflection savu modeli mērķē uz uzņēmumiem un valstu iestādēm, kas vēlas MI sistēmas darbināt un pielāgot savā infrastruktūrā, nevis paļauties uz slēgtiem modeļiem. Tā kā svari tagad ir publiski, uzņēmuma apgalvojumus par modeļa spējām un efektivitāti varēs pārbaudīt neatkarīgi pētnieki un izstrādātāji.