Epoch AI: atvērtais MI modelis GLM 5.3 izveidoja uzbrukumus sešām Firefox versijām no vēl neizlaistiem labojumiem

Neatkarīgā pētnieku grupa Epoch AI 29. oktobrī publiskoja pārskatu, kurā secināts, ka brīvi pieejamais MI modelis GLM 5.3 spēj pārvērst publiskotus, bet lietotājiem vēl neizplatītus pārlūka Firefox drošības labojumus darbojošos uzbrukumos. Eksperimentā modelis sekmīgi uzbruka visām sešām Firefox versijām, kas tika izlaistas no 17. septembra līdz 26. oktobrim.

Laika posmu starp brīdi, kad drošības labojums parādās publiski pieejamā kodā, un brīdi, kad atjauninājums sasniedz lielāko daļu lietotāju, drošības speciālisti dēvē par labojumu plaisu. Atvērtā koda projektos šādas izmaiņas var redzēt jau testa versijās, pirms tās nonāk stabilajā laidienā.

Pētnieki modelim deva uzdevumu izveidot tīmekļa lapu, kas pēc atvēršanas Firefox pārlūkā nolasa failu no apmeklētāja datora un nosūta to uzbrucējam bez jebkādām papildu lietotāja darbībām. GLM 5.3 pats atrada gaidāmos labojumus, izvēlējās ievainojamības un salika uzbrukuma ķēdi. Viena veiksmīga uzbrukuma izmaksas bija aptuveni 1000 ASV dolāru, un ātrākajā mēģinājumā tas izdevās 12 stundās.

Uzbrukumiem jaunākajām versijām bija vajadzīga arī vēl viena, iepriekš nepubliskota ievainojamība, ko modelis atrada pats. Tā ļāva apiet pārlūka smilškastes aizsardzību, kas parasti liedz piekļuvi datņu sistēmai. Epoch AI par to informēja Mozilla, un kļūda ir novērsta 27. oktobrī izlaistajā Firefox 159.0 versijā. Pētnieki gan vēl nav pārbaudījuši, vai līdzīgs uzbrukums iespējams arī pēc šī labojuma, un viņiem neizdevās panākt patvaļīga koda izpildi.

Mozilla drošības inženieris Bobijs Holijs uzņēmuma emuārā atzina, ka MI modeļi padara šādus uzbrukumus praktiskākus un pazemina prasmju slieksni. Firefox jau saīsinājis izlaišanas ciklu, lai jaunas versijas lietotājus sasniegtu katru nedēļu, un atkal tur regresijas testus slepenībā līdz brīdim, kad labojums ir izplatīts.

Mozilla arī plāno grupēt dažādu aizsardzības slāņu labojumus tā, lai to plaisas laikā nepārklātos. Tad uzbrucējam vienlaikus nebūtu pieejamas visas uzbrukumam nepieciešamās daļas. Gan Epoch AI, gan Mozilla norāda, ka labojumu plaisa skar ne tikai pārlūkus, bet arī citu lietotāju ierīcēs izplatītu programmatūru, piemēram, operētājsistēmas.