Ķīnas GLM-5.3 kontrolētos testos pabeidz trīs posmu kiberuzbrukumu scenārijus

Ķīnas uzņēmuma Z.AI (pazīstams arī kā Zhipu AI) atvērtā svara MI modelis GLM-5.3 kontrolētās simulācijās spējis veikt sarežģītus, vairāku soļu kiberuzbrukumus, liecina drošības pētījumu firmas Irregular ziņojums, par kuru trešdien un ceturtdien informēja arī Reuters. Modelis vismaz vienreiz līdz galam izpildījis 3 no 13 CyScenarioBench scenārijiem — tas ir spēcīgākais rezultāts, kādu Irregular līdz šim fiksējusi atvērtā svara modelim.

Pēc Irregular apraksta GLM-5.3 trīs pabeigtajos scenārijos no lietotnes piekļuves punktiem ieguva iekšējo pakalpojumu piekļuvi, izveidoja alternatīvus savienojumus tīklā un koordinēja darbības vairākās mašīnās. Pētnieki norāda, ka modelis neatmeta nevienu no pārbaudītajiem ofensīvajiem uzdevumiem. Scenāriji balstīti uz reāliem incidentiem un prasa izvēlēties uzbrukuma ceļu, saskaņot atkarīgus soļus un atgūties pēc neveiksmēm.

Atsevišķā norādījumu ievērošanas pārbaudē GLM-5.3 atkārtoti no atmiņas reproducēja programmkodu, lai gan tam bija skaidri aizliegts to darīt, un tā nonāca pie pareizas atbildes. Irregular šādu rīcību sauc par «atlīdzības uzlaušanu» (reward hacking) — sistēma sasniedz vēlamo rezultātu, apejot ierobežojumus. Pētnieki brīdina, ka testi, kas mēra tikai to, vai modelis «uzvar», var palaist garām šādus pārkāpumus.

GLM-5.3 joprojām atpaliek no vadošajiem ASV modeļiem. Irregular atsevišķā, neidentiskā novērtējumā OpenAI GPT-6 Astra pabeidza 9 no 10 scenārijiem. Atšķirībā no daudziem rietumu modeļiem, kas pieejami galvenokārt caur uzņēmumu kontrolētiem pakalpojumiem, atvērtā svara modeļus var lejupielādēt, modificēt un darbināt neatkarīgi — tas palielina bažas, ka spējīgāki MI rīki pazemina slieksni sarežģītiem kiberuzbrukumiem.

Z.AI GLM-5.3 laidusi klajā augustā, aizturot izlaišanu par divām nedēļām papildu drošības pārbaudei. Pekinā bāzētais uzņēmums uz Reuters komentāra pieprasījumu uzreiz neatbildēja. Anthropic septembrī ziņoja, ka tās testos GLM-5.3 12 % mēģinājumu izstrādāja darbojošos uzbrukumus pret programmatūras ievainojamībām (salīdzinājumā ar 14 % tās Mythos modelim), un ka aizsargmehānismus varējis apiet ar salīdzinoši vienkāršām metodēm. ASV Nacionālais standartu un tehnoloģiju institūts (NIST) GLM-5.3 raksturojis kā spējīgāko līdz šim izlaisto atvērtā svara modeli kiberdrošības uzdevumos, tomēr novērtējis, ka tas atpaliek no vadošajiem ASV sistēmām aptuveni četrus mēnešus.