Google: zagtas MI piekļuves dēļ uzņēmumi saņem rēķinus līdz miljonam dolāru

Google draudu izlūkošanas grupa (GTIG) un tās kiberdrošības vienība Mandiant 2. novembrī publicēja ziņojumu par uzbrukumiem, kuros noziedznieki pārņem uzņēmumu piekļuvi lielajiem valodu modeļiem. Šo paņēmienu sauc par LLMjacking. Pētnieki raksta, ka atsevišķos incidentos krāpnieciskie maksājumi par mākoņpakalpojumiem vienā dienā pārsniedza 100 000 ASV dolāru, bet dažās organizācijās kopsumma pirms piekļuves atsaukšanas sasniedza vienu miljonu dolāru.

Būtība ir vienkārša: uzbrucējs iegūst API atslēgu, ar kuru uzņēmums piekļūst MI modeļiem, un sāk tos lietot pats vai pārdod piekļuvi tālāk. Maksā likumīgais konta īpašnieks. Atslēgas tiek iegūtas ar pikšķerēšanu, no nopludināta pirmkoda, nepareizi konfigurētām vidēm vai no lietotnēs atklāti atstāta koda. Daļa uzbrucēju arī meklē internetā publiski pieejamus modeļu galapunktus.

Atšķirībā no kriptovalūtu ieguves slepenās izmantošanas, kur resursu patēriņš pieaug pakāpeniski, šādi uzbrukumi rēķinu var uzpūst dažās stundās. Ziņojumā aprakstīts gadījums, kad viens uzbrucējs mazāk nekā astoņās stundās veica vairāk nekā 500 000 modeļa API izsaukumu. BleepingComputer norāda, ka pieprasījumu skaits pēc piekļuves pārdošanas mēdz pārsniegt 1000 sekundē.

Pētnieki apraksta arī veselu nelegālu tirgu. Nozagtās atslēgas tiek apvienotas tā sauktajos LLM mikseros, kas mēra lietojumu, slēpj pieprasījumu izcelsmi un pārdod piekļuvi abonentiem. Viens no minētajiem pakalpojumiem, Jet Night, piedāvājis neierobežotu piekļuvi modeļiem par aptuveni 60 dolāriem mēnesī un, pēc Google datiem, vienai cietušajai organizācijai radījis gandrīz miljonu dolāru lielas izmaksas. Daži uzbrucēji upuru kontos ieslēdza papildu MI pakalpojumus, veidoja jaunas atslēgas un, lai apietu ierobežojumus, nemitīgi izveidoja un dzēsa īslaicīgus servisa kontus.

Skartās organizācijas atrodas Ziemeļamerikā, Dienvidamerikā un Āzijas un Klusā okeāna reģionā, un tās darbojas finanšu, mazumtirdzniecības, tehnoloģiju un transporta nozarē. Uzbrukumi skāruši vairāku mākoņa un MI pakalpojumu sniedzēju klientus, ne tikai Google.

Google iesaka glabāt atslēgas centralizētās noslēpumu pārvaldības sistēmās un regulāri tās mainīt, lietotājiem dot tikai darbam nepieciešamās tiesības, ieviest pikšķerēšanas noturīgu daudzfaktoru autentifikāciju, noteikt tēriņu limitus un uzraudzīt neparedzētu pakalpojumu ieslēgšanu. Pētnieki sagaida, ka noziedznieki arvien biežāk izvēlēsies tieši MI piekļuves zagšanu, jo uzņēmumi savos procesos ievieš dārgākus modeļus un MI aģentus.