Anthropic paplašina programmu, kas pārbaudītiem kiberdrošības speciālistiem dod Claude modeļus ar mazāk ierobežojumiem

ASV mākslīgā intelekta uzņēmums Anthropic otrdien, 6. oktobrī, paziņoja par paplašinātu Kiberdrošības verifikācijas programmu (Cyber Verification Program). Tā ļauj pārbaudītiem drošības speciālistiem izmantot uzņēmuma jaudīgākos modeļus ar mazāk automātisku bloķējumu, kas parasti aptur ar kiberuzbrukumiem saistītus pieprasījumus. Programmā apvienota arī līdz šim šauram partneru lokam paredzētā iniciatīva Project Glasswing.

Jaunā programma ir sadalīta trīs līmeņos. Aizsardzības līmenis paredzēts incidentu izmeklēšanai, ļaunatūras analīzei un ievainojamību pārbaudei. Tam var pieteikties uzņēmumu, bezpeļņas organizāciju, universitāšu un valsts iestāžu drošības komandas, kā arī kritiskās infrastruktūras operatori, atvērtā koda projektu uzturētāji un pētnieki, kuri jau iepriekš ziņojuši par ievainojamībām. Sarkanās komandas līmenis papildus atļauj sankcionētu ielaušanās testēšanu, bet specializētais līmenis ar vismazākajiem ierobežojumiem pieejams tikai nelielam skaitam pārbaudītu organizāciju.

Visos līmeņos pieejami Claude Opus 5.5, Claude Sonnet 5.5 un Claude Mythos 5.1, kā arī nākamie uzņēmuma modeļi. Arī sarkanās komandas līmenī reāllaikā tiek bloķētas darbības, kas varētu izraisīt fizisku kaitējumu vai plašus traucējumus, piemēram, izspiedējvīrusu izmantošana. Pieteicējiem jāpierāda sava identitāte un atbilstošas drošības kontroles.

Anthropic apgalvo, ka Project Glasswing partneri no aprīļa līdz jūlijam ar Mythos modeļiem savās sistēmās atraduši vismaz 129 000 pārbaudītu programmatūras ievainojamību, bet uzņēmuma paša atvērtā koda skenēšana no aprīļa līdz oktobrim atklājusi vēl 5500. Vairāk nekā 33 000 no tām novērtētas kā kritiskas vai augstas bīstamības. Uzņēmums pieļauj, ka patiesā ietekme ir vismaz piecas reizes lielāka, jo dati iegūti aptaujā tikai no daļas partneru.

Uzņēmums publiskoja arī sava testa rezultātus. Aizsardzības līmenī drošības mehānismi modelim Claude Opus 5.5 bloķēja 46 no 50 kiberuzdevumiem, bet sarkanās komandas līmenī neviens uzdevums netika bloķēts un modelis izpildīja 34 no 50. Bez programmas piekļuves visi uzdevumi tika bloķēti jau pirmajā pieprasījumā.

Project Glasswing līdz šim apvienoja vairāk nekā 40 organizāciju, starp tām Amazon, Apple, Microsoft, Google un Linux Foundation, jo Anthropic piekļuvi Mythos modelim bija ierobežojis tā divējāda lietojuma dēļ: tas būtiski paātrina ievainojamību atrašanu, ko varētu izmantot arī uzbrucēji. Uzņēmums apgalvo, ka testi dod pārliecību par drošu piekļuves paplašināšanu aizstāvjiem, taču drošības eksperti norāda, ka nav skaidrs, vai šie drošības mehānismi pietiekami pasargās no ļaunprātīgas izmantošanas.

Anthropic sola uz aizsardzības līmeņa pieteikumiem atbildēt dažu dienu laikā, bet sarkanās komandas līmeņa pārbaude var ilgt vairākas nedēļas. Esošie programmas dalībnieki piekļuvei jaunajiem modeļiem tiks izvērtēti automātiski.