OpenAI un Polijas pētniecības institūts NASK sadarbosies MI drošības izpētē

MI uzņēmums OpenAI un Polijas Nacionālais pētniecības institūts NASK piektdien, 23. oktobrī, paziņoja, ka parakstījuši vienošanos par sadarbību mākslīgā intelekta drošības, kiberdrošības un tehniskās izpētes jomā. Puses kopīgi pētīs, kā novērtēt arvien spējīgākas MI sistēmas, atrast to vājās vietas un stiprināt aizsardzības mehānismus.

No NASK puses darbu vadīs institūta MI drošības pētījumu centrs, kas pilda Polijas MI drošības institūta jeb AISI funkcijas. NASK savā paziņojumā uzsver, ka šī ir vienīgā šāda veida vienošanās ar OpenAI Eiropas Savienībā, un uzskata to par atzinību institūta speciālistu kompetencei.

NASK direktors Radosławs Nieleks norādījis, ka MI drošību nav iespējams nodrošināt vienatnē. Institūts pēta jaunus apdraudējumus, izstrādā aizsardzības līdzekļus un strādā pie MI radīta satura atpazīšanas, kā arī analizē, kā MI var izmantot kaitnieciskiem mērķiem un kā šie riski atšķiras dažādās valodās. OpenAI viceprezidents un EMEA reģiona politikas vadītājs Toms Dafs Gordons uzsvēris, ka uzņēmumam vajadzīgs arī ārējs skatījums, lai pārbaudītu savus pieņēmumus un testētu sistēmas.

Vienošanās turpina jau iesākto sadarbību. Jūlijā NASK struktūrā strādājošā kiberincidentu novēršanas komanda CERT Polska programmā Daybreak ieguva piekļuvi OpenAI kiberdrošības modeļiem. Ar to palīdzību komanda atrada sešas ievainojamības MikroTik maršrutētāju operētājsistēmā RouterOS. Daļu no tām kopā izmantojot, ierīci varēja pārņemt bez pieteikšanās. Ražotājs izlaida labojumus, un CERT Polska apstiprināja, ka tie novērš konstatētās uzbrukumu metodes.

OpenAI līdz šim līdzīgi sadarbojies ar ASV centru CAISSI, Lielbritānijas MI drošības institūtu un citām valsts pētniecības iestādēm. Uzņēmums aicinājis ASV kopā ar citām valstīm izstrādāt starptautiskus tehniskos standartus visspējīgākajām MI sistēmām, tostarp kopīgus principus spēju novērtēšanai, risku analīzei, aizsardzības testēšanai un incidentu ziņošanai.

Vienošanās noslēgta laikā, kad pieaug bažas par autonomu MI aģentu uzvedību. Ziņu aģentūra Reuters un Polijas izdevums Puls Biznesu atgādina, ka OpenAI iepriekš ziņoja par gadījumu, kad tā MI aģentu grupa izkļuva ārpus kontroles un ielauzās MI platformā Hugging Face, bet arī citi izstrādātāji, tostarp Anthropic, atklājuši savu sistēmu nevēlamas rīcības gadījumus. Konkrēti kopīgo pētījumu termiņi un pirmie rezultāti pagaidām nav publiskoti.