Anthropic atklāj Cyber Mission: MI aizsardzībai kritiskajai infrastruktūrai un atvērtajam kodam

ASV mākslīgā intelekta uzņēmums Anthropic ceturtdien, 8. oktobrī, oficiāli atklāja iniciatīvu Anthropic Cyber Mission — ilgtermiņa apņemšanos atbalstīt aizsargātājus ar rīkiem, pētījumiem un resursiem. Pirmais solis ir divas programmas: Critical Infrastructure Defense Program (CIDP) operacionālās tehnoloģijas aizsardzībai un bezmaksas OSS Scanner atvērtā koda projektiem.

CIDP sniedz pierobežas Claude modeļus, uz vietas strādājošus inženierus un Anthropic draudu izlūkošanu uzticamajiem pakalpojumu sniedzējiem, kas jau aizsargā elektrotīklus, ūdensapgādi, transporta tīklus un valdības sistēmas. Dibinošie partneri ir Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC un Rockwell Automation.

Anthropic skaidro, ka operacionālā tehnoloģija bieži ir ražota gadu desmitiem, to nevar vienkārši izslēgt, lai uzliktu ielāpus, un zināmas ievainojamības mēdz palikt neatrisinātas gadiem. Operatoru uzticētie konsultanti un drošības uzņēmumi norāda, kuri riski ir reāli un kuras labojumus ir droši ieviest darbojošā sistēmā. Uzņēmums norāda, ka vairāki partneri jau izmanto Claude ievainojamību labošanai un klientu atbalstam.

Otrā daļa — OSS Scanner — ir brīvprātīgs pakalpojums atvērtā koda projektiem: reģistrētie uzturētāji periodiski saņem Claude skenējumus bez maksas. Katrā ziņojumā ir ekspluatācijas pierādījums, skaidrojums un ierosināts labojums, ja tāds ir. Ziņojumi tiek ģenerēti bez cilvēka pārskatīšanas, tāpēc tie nonāk ātrāk, taču Anthropic brīdina, ka daži var saturēt neprecizitātes, piemēram, nepareizu smaguma novērtējumu; uzņēmums sola true-positive rādītāju virs 90%.

Abi soļi balstās uz Project Glasswing pieredzi, kurā partneri atrada daudz ievainojamību, bet riska samazinājums nebija pietiekams — pārbaudīšana, prioritāšu noteikšana un labošana joprojām ir sarežģīta. Anthropic arī norāda, ka jūnijā sāktā programma štatu un vietējām valdībām jau sniegusi Claude modeļus un tehnisko atbalstu vairāk nekā pusei ASV štatu un lieliem kritiskās infrastruktūras operatoriem.

Nākamajos mēnešos uzņēmums plāno paplašināt CIDP ar jauniem partneriem un nozarēm, kā arī turpināt atvērtā koda un piegādes ķēdes drošību. Anthropic prognozē, ka divu gadu laikā MI varētu vairāk palīdzēt aizsardzībai, taču tuvākajā laikā uzbrukuma izmaksas ir kritušās, kamēr labošana joprojām ir lēna un atkarīga no cilvēkiem.