Cloudflare atklāj kļūdu, kuras dēļ GLM-5.3 atbildēs nonāca citu klientu dati

Interneta infrastruktūras uzņēmums Cloudflare 26. oktobrī publiskoja incidenta ziņojumu par to, ka tā mākslīgā intelekta pakalpojumā Workers AI modelis GLM-5.3 dažiem klientiem atdeva atbildes, kurās bija dati no citu klientu pieprasījumiem. Problēma pastāvēja no 27. augusta līdz 9. septembrim, un kopumā tā skāra 155 atbildes.

Šāda veida kļūda ir nopietna, jo MI pakalpojumus vienlaikus izmanto daudzi uzņēmumi, un tiem jābūt pārliecinātiem, ka viņu ievadītais teksts nenonāk pie kāda cita. Cloudflare raksta, ka citi Workers AI modeļi netika skarti un ka pazīmes par apzinātu kļūdas izmantošanu nav atrastas. Ziņojumā gan nav precizēts, vai noplūdušajos fragmentos bija personas dati.

Kļūdu atklāja drošības pētnieks Gadi Evrons no uzņēmuma Knostic. Pēc Knostic stāstītā, pētnieki darba laikā caur starpnieku pakalpojumu OpenRouter pamanīja dīvainas atbildes, piemēram, failu ceļus no svešas datora sistēmas un ķīniešu valodas mācību materiālus. Viņi izsekoja, ka problēma ir Cloudflare pusē, un 8. septembrī par to ziņoja uzņēmuma kļūdu atlīdzības programmā HackerOne.

Cēlonis bija divu problēmu sakritība. Cloudflare modeli bija piedāvājis ar konteksta logu nedaudz virs miljona tokenu, taču atmiņas apgabalā, kur apstrādā ievadi, vietas pietika tikai 681 280 tokeniem. Visas 155 skartās atbildes bija uz pieprasījumiem, kas bija garāki par šo robežu. Otrā problēma bija atvērtā koda MI izpildes dzinējā SGLang: pārāk garu pieprasījumu tas atzīmēja kā noraidītu, taču kļūdas paziņojuma vietā turpināja apstrādi, un atbilde tika ģenerēta, izmantojot atmiņā palikušos datus no iepriekšējiem pieprasījumiem.

Pēc Cloudflare datiem, uzņēmums kļūdu atkārtoja nākamajā rītā, 40 minūšu laikā atslēdza modeli un tajā pašā dienā, 9. septembrī, to atjaunoja ar laboto konfigurāciju un dzinēja ielāpu. Tagad atmiņas apgabals ietilpina aptuveni 2,04 miljonus tokenu, tātad vairāk nekā viss konteksta logs.

SGLang izstrādātāji savā ziņojumā apraksta arī vairākas radniecīgas kļūdas, kas varēja sajaukt datus starp pieprasījumiem sistēmās, kur ievades apstrāde un atbildes ģenerēšana notiek atsevišķos serveros. Viņi iesaka šādu sistēmu uzturētājiem pāriet uz SGLang versiju 0.5.21 vai jaunāku, bet daļai konfigurāciju vajadzīga 0.5.22.