OpenAI drošības testos piesaista Cathedral un būtiski palielina atlīdzības par kļūdām

OpenAI 2. novembrī paziņoja, ka nākamajā iekšējā drošības sprintā, kurā uzņēmums ar saviem MI modeļiem meklē vājās vietas pats savās sistēmās, piedalīsies arī ārēja komanda – kiberdrošības jaunuzņēmums Cathedral. Tā pētnieki kopā ar OpenAI darbiniekiem izmantos uzņēmuma modeļus, lai mēģinātu pārvarēt tā aizsardzību. Vienlaikus OpenAI pārskatīja savu kļūdu atlīdzības programmu un vidēji vairāk nekā četrkāršoja atlīdzību diapazonu viduspunktu vidējas, augstas un kritiskas bīstamības atradumiem.

Izvēle ir pamanāma, jo Cathedral nesen nonāca uzmanības centrā saistībā ar konkurentu Anthropic. Kā oktobra beigās vēstīja The Washington Post, uz kuru atsaucas Gizmodo un Fast Company, Cathedral apgalvoja, ka tā MI aģenti mazāk nekā 12 stundās atrada ceļus uz Anthropic sapulču stenogrammām, algu datiem, darba piedāvājumiem un Slack sarakstēm, izmantojot ievainojamības trešo pušu biznesa programmatūrā. Anthropic apstiprināja, ka pētnieki piekļuvuši ierobežotai daļai pārdošanas, personāla un IT sistēmu, taču ne Claude lietotāju sarunām, pirmkodam vai modeļu svariem. Anthropic kiberdrošības vadītājs Logans Grehems norādīja, ka darbs patiesībā ilga vairākas dienas un pieeja bija ārpus programmas noteikumiem.

Cathedral dibinājuši četri bijušie Īlona Maska vadītā Valdības efektivitātes departamenta (DOGE) darbinieki – Gevins Kligers, Lūks Faritors, Marko Elezs un Džeks Steins. Kligers, kurš ir uzņēmuma vadītājs, iepriekš bija ASV aizsardzības resora galvenais datu speciālists. Jūlijā Cathedral piesaistīja 160 miljonus dolāru pie 1,4 miljardu dolāru vērtējuma, investoru vidū bija Andreessen Horowitz un Sequoia Capital. OpenAI paziņojumā Kligers rakstīja, ka katram uzņēmumam būtu jādomā, kā šādas spējas likt lietā aizsardzībai.

Pēc OpenAI datiem, par kritisku ievainojamību galvenajos produktos – ChatGPT, Codex vai API platformā – tagad var saņemt līdz 30 000 dolāru. Izcilu kritisku atradumu bāzes griesti paliek 100 000 dolāru, bet ar bonusiem atlīdzība var sasniegt līdz 172 000 dolāru. Bonusus paredzēts piešķirt par kvalitatīviem ziņojumiem ar uzticamu ievainojamības demonstrāciju, prioritārām kampaņām un pastāvīgu sadarbību piecu līmeņu lojalitātes programmā. Programma neattiecas uz gadījumiem, kad modelis vienkārši izdod kaitīgu saturu vai apiet uzvedības ierobežojumus – tai jāatklāj kļūda pašā produktā.

OpenAI skaidro, ka tradicionālā kiberaizsardzība vairs nav pietiekama un ka uzņēmumiem pašiem jāizmanto jaudīgākie MI rīki, lai atrastu un labotu vājās vietas ātrāk par uzbrucējiem. Iepriekšējā sprintā uzņēmums šim darbam bija novirzījis ceturto daļu savu produktu inženieru, kuri ar Codex palīdzību pārbaudīja atradumus un gatavoja labojumus. OpenAI arī atgādināja par apņemšanos sešos mēnešos piešķirt subsidētu piekļuvi savām spējām 1 miljarda dolāru apmērā tiem, kas aizsargā būtiskus pakalpojumus un digitālo infrastruktūru.

Uzņēmums nav paziņojis, kad jaunais sprints sāksies, cik ilgi tas notiks, kādas sistēmas tiks pārbaudītas un cik Cathedral par darbu saņems. Arī rezultātu par to, vai ārēja partnera piesaiste paātrina ievainojamību atrašanu un labošanu, pagaidām nav.