Prime Intellect: vairāk nekā 2000 MI aģentu pārrakstīja kodēšanas aģentu Rust valodā

ASV uzņēmums Prime Intellect piektdien, 9. oktobrī, paziņoja, ka tā atvērtā koda kodēšanas aģents Prime Agent ir pārrakstīts no TypeScript uz Rust. Pēc kompānijas un neatkarīga tehnoloģiju medija RuntimeWire ziņām pārrakstīšanu veica vairāk nekā 2000 MI aģentu bariņš, kas strādāja vairāk nekā divas nedēļas.

Prime Intellect norāda, ka aģenti izmantoja vairāk nekā 10 000 Prime Sandboxes un vairāk nekā 200 miljardus tokenu no kompānijas GLM-5.3 secinājumu galapunkta. Saknes aģents koordinēja uzdevumus, bet pats produktu kodu nerakstīja; plānošana, ieviešana, pārskatīšana un pārbaude bija sadalīta starp atsevišķiem aģentiem.

Lai salīdzinātu jaunās un vecās versijas uzvedību, uzņēmums izmantoja diferenciālus testus: salīdzināja termināļa kadru attēlojumus, sesiju transkriptus, pieprasījumus modeļu piegādātājiem un demona protokola ziņojumus. RuntimeWire uzsver, ka automatizētās pārbaudes samazināja cilvēku iesaisti sākotnējā portēšanā, taču inženieri joprojām virzīja turpmāko darbu, izmeklēja iekšējās lietošanas laikā atrastās nepilnības un pārskatīja rezultātus.

Kopš augusta laidiena Prime Agent esot lejupielādēts vairāk nekā 300 000 reižu un apstrādājis vairāk nekā 8 triljonus tokenu — šos skaitļus publicējusi pati kompānija. Tās iekšējos mērījumos (bez secināšanas laika) Rust versijas aukstais starts līdz ievades gatavībai bijis aptuveni 14 reizes ātrāks nekā TypeScript, un atmiņas patēriņš pēc starta — būtiski mazāks; salīdzinājumus ar citiem aģentu ietvariem uzņēmums aicina uztvert piesardzīgi, jo nav vienota nozares standarta.

Pārrakstīšana ļāvusi arī pārstrukturēt kodu: izveidoti deviņi Rust crates, sesiju izolācija atsevišķos procesos un Windows beta atbalsts, kā arī instalācija caur Homebrew. Prime Agent paliek atvērtā koda projekts. Nākamais solis, pēc kompānijas teiktā, ir ciešāka integrācija ar Prime Intellect ekosistēmu — smilškastēm, secinājumiem, trasēm un mākoņa aģentu bariem.