Mistral publisko Large 4 svarus, modeli var lejupielādēt un darbināt pašu serveros

Parīzē bāzētais mākslīgā intelekta uzņēmums Mistral 29. oktobrī publiskoja sava lielākā modeļa Mistral Large 4 svarus. Modelis, kam uzņēmums devis iesauku „Le Chonk”, tagad pieejams Hugging Face platformā, un ikviens to var lejupielādēt un palaist pats. Mistral to pozicionē kā rīku programmatūras izstrādei un kiberdrošības speciālistiem, kuriem jāatrod, jāatkārto un jāizlabo ievainojamības.

Šis nav pilnīgi jauns modelis. Mistral Large 4 publiskajā priekšskatījumā tika laists klajā 6. oktobrī. Uzņēmums norāda, ka nākamajās trīs nedēļās to turpināja apmācīt, izmantojot klientu un partneru atsauksmes, un testēja reālos apstākļos kopā ar kiberdrošības uzņēmumiem. Reuters vēsta, ka testos piedalījās arī valdības.

Galvenā atšķirība no tādām sistēmām kā Google Gemini ir tā, ka Large 4 nav jāizmanto tikai caur tiešsaistes pakalpojumu. Organizācija modeli var izvietot savos serveros, tāpēc sensitīvi dati, piemēram, uzņēmuma pirmkods, nav jānodod ārējam MI pakalpojumam. Euronews gan piebilst, ka šādai izvietošanai joprojām vajag piemērotu aparatūru un speciālistus, kas to spēj droši uzturēt.

Saskaņā ar Mistral dokumentāciju modelim kopā ir aptuveni 1,05 triljoni parametru, no kuriem katrā solī aktīvi ir 52 miljardi, jo tas veidots kā ekspertu maisījuma (MoE) arhitektūra. Tas pieņem tekstu un attēlus, atbild ar tekstu un kodu, un tā konteksta logs ir viens miljons tokenu. Uzņēmums apgalvo, ka ļaunprātīgus kiberuzbrukumu pieprasījumus modelis vidēji noraida 96,6 % gadījumu, kas pēc Mistral mērījumiem ir augstākais rādītājs starp atvērtajiem modeļiem. Neatkarīgi šie dati vēl nav pārbaudīti.

Modelis izplatīts ar Mistral Ecosystem Open-Weight licenci, kas ir pārveidota MIT licence. To drīkst bez maksas izmantot, mainīt, pielāgot un lietot komerciāli, taču uzņēmumiem, kas modeli piedāvā kā maksas pakalpojumu citiem, no Mistral jāiegūst atsevišķa komerciāla licence. Caur Mistral API viena miljona ievades tokenu cena ir 0,70 dolāri, bet izvades tokenu – 2,10 dolāri.

Mistral zinātnes viceprezidents Pjērs Stoks aģentūrai Reuters sacīja, ka nejustos ērti pasaulē, kurā nav atvērtu modeļu svaru. Viņš atzina, ka pēc publiskošanas piekļuvi modelim vairs nav iespējams ierobežot. Tas pasargā lietotājus no iespējas, ka pakalpojuma sniedzējs viņus atslēdz, taču nozīmē arī to, ka modeli var izmantot jebkurš.

Izlaidums nāk laikā, kad Eiropa cenšas veidot alternatīvas ASV un Ķīnas MI tehnoloģijām, bet atvērto modeļu jomā līdz šim dominējuši Ķīnas uzņēmumi. Mistral solījis nākamajos mēnešos izlaist arī mazākas modeļa versijas, tostarp tādu, kas darbotos klēpjdatorā, taču datumus uzņēmums nav nosaucis.