Jaunuzņēmuma Cathedral MI aģenti 12 stundās iekļūst Anthropic iekšējās sistēmās

Kiberdrošības jaunuzņēmums Cathedral paziņojis MI izstrādātājam Anthropic, ka tā MI aģenti mazāk nekā 12 stundās atraduši ceļu uz uzņēmuma iekšējām sistēmām. Par to pirmdien, 26. oktobrī, ziņoja laikraksts The Washington Post, atsaucoties uz Cathedral ziņojuma melnrakstu. Anthropic piekļuvi apstiprināja, taču uzsver, ka tās apjoms bijis ierobežots.

Ielaušanās nenotika caur paša Anthropic programmatūru, bet gan izmantojot vājās vietas trešo pušu biznesa rīkos, ko uzņēmums, tāpat kā daudzi citi, lieto administratīviem un pārdošanas darbiem. Cathedral ziņojumā teikts, ka aģenti nonākuši līdz sanāksmju atšifrējumiem, informācijai par algām un darba piedāvājumiem, kā arī Slack ziņām, kurās apspriesti uzņēmuma jaunākie MI modeļi. Pēc Anthropic teiktā, pētnieki pirms tam vairākas dienas neveiksmīgi mēģinājuši uzlauzt tieši tā programmatūru.

Anthropic norāda, ka pētnieki piekļuvuši ierobežotam pārdošanas, personāla un IT sistēmu lokam, tostarp dažu klientu un partneru kontaktinformācijai un pamata lietotāju kontu ierakstiem. Lietotāju sarunām ar Claude, modeļa atbildēm, pirmkodam un modeļu svariem viņi neesot tikuši klāt. Uzņēmuma uzraudzības sistēma daļu aktivitātes pamanījusi vēl pirms Cathedral ziņojuma, un piekļuve slēgta tajā pašā dienā. Skartie rīki atslēgti, līdz to piegādātāji apstiprināja, ka kļūdas novērstas, un par incidentu informētas ASV federālās iestādes.

Pārbaude notika Anthropic programmā, kurā ārējie pētnieki var meklēt un ziņot par ievainojamībām. Tomēr uzņēmums apgalvo, ka Cathedral nav pilnībā ievērojis programmas noteikumus, jo nav atklājis visu savu darbību sistēmās. Cathedral savukārt uzstāj, ka datiem piekļuvis tikai tik daudz, cik nepieciešams pētījumam. Anthropic arī uzskata, ka jaunuzņēmums pārspīlē incidenta nozīmi valsts drošībai, un nav atradis pierādījumus, ka šīs vājās vietas būtu izmantojis kāds cits.

Cathedral dibinājuši bijušie ASV valdības izdevumu samazināšanas vienības DOGE dalībnieki, un tas piedāvā MI balstītus kiberdrošības rīkus valdības iestādēm un uzņēmumiem. Viens no līdzdibinātājiem ir Gevins Klaigers, kurš līdz aprīlim bija Pentagona galvenais datu speciālists. Aģentūra Reuters jūlijā ziņoja, ka jaunuzņēmums piesaistījis 160 miljonus dolāru pie 1,4 miljardu dolāru vērtējuma. Anthropic vienlaikus ir strīdā ar Pentagonu par ierobežojumiem Claude militārai izmantošanai.

Kāda ASV administrācijas amatpersona laikrakstam pauda bažas, ka līdzīgas vājās vietas varētu izmantot arī Ķīnas hakeri. Gadījums uzskatāmi parāda, ka lielo MI uzņēmumu riski bieži slēpjas nevis pašos modeļos, bet gan nomātajos biroja un pārdošanas rīkos, kurus MI aģenti var pārbaudīt daudz ātrāk nekā cilvēki. Incidents kļuva zināms tajā pašā dienā, kad Anthropic iesniedza dokumentus akciju sākotnējam publiskajam piedāvājumam.