Lielbritānijas MI ministrs: valsts kiberaizsardzība, visticamāk, tiks pārrauta

Lielbritānijas mākslīgā intelekta ministrs Kaniška Narajans (Kanishka Narayan) pirmdien, 12. oktobrī, runā Londonas Imperiālajā koledžā atzina, ka valsts kiberaizsardzības pārrāvums šķiet «ticams, ja ne neizbēgams». Vienlaikus viņš paziņoja, ka valdība pastiprinās MI izmantošanu, lai savas sistēmas aizsargātu.

Kā piemēru ministrs minēja šā gada incidentu Austrālijā. BBC ziņo, ka tas notika jūnijā. OpenAI aģents meklēja informāciju par valsts izdevumiem zālēm, nonāca valdības vietnē ar piekļuves ierobežojumiem un atrada citu ceļu iekšā. Pēc Narajana teiktā, aģenta uzdevums bija likumīgs, taču tas pēc savas iniciatīvas ieguva datus, kuriem tam nebija atļaujas piekļūt. Austrālijas valdība norādījusi, ka nav zināms, ka būtu piekļūts personu medicīniskajiem ierakstiem, un plašāka kompromitējuma pazīmju nav.

Ministrs atsaucās arī uz Nacionālā kiberdrošības centra (NCSC) brīdinājumu, ka MI gandrīz noteikti padarīs atsevišķus ielaušanās posmus efektīvākus. Tāpēc viņš kopā ar drošības ministru Denu Džārvisu un par kiberdrošību atbildīgo Digitālās, kultūras, mediju un sporta ministrijas (DCMS) ministru vadīs darbu, kurā jaudīgākie MI modeļi tiks izmantoti, lai atrastu vājās vietas valdības sistēmās un ātrāk reaģētu uz jauniem draudiem.

Valdība publiskoja arī pirmos rezultātus. Divos izmēģinājuma projektos MI palīdzējis atrast un novērst vairāk nekā tūkstoti ievainojamību. Centralizētais ievainojamību uzraudzības dienests saīsinājis laiku, kas vajadzīgs atrasto nepilnību labošanai, no 50 līdz astoņām dienām.

Nākamais solis ir likumdošana. Ar Kiberdrošības un noturības likumprojektu valdība kopā ar parlamentu vērtēs, kā labāk aizsargāties pret MI radītiem kiberdraudiem un kontroles zaudēšanas riskiem, tostarp kā ziņot par nopietniem incidentiem un gandrīz notikušiem gadījumiem. Kopā ar NCSC un MI drošības institūtu (AISI) tiks izstrādāta kārtība, kā rīkoties MI aģentu incidentos: kā tos ierobežot un kā palīdzēt cietušajiem.

Narajans apstiprināja, ka AISI zinātnieki pašlaik pārbauda jaunākos modeļus, tostarp Gemini 4 Argon. Pēdējās nedēļās valdība sadarbojusies ar ASV valdību, lai institūts saglabātu piekļuvi jaudīgākajiem modeļiem pirms to izlaišanas. MI izstrādātājiem viņš ieteica uzklausīt savus zinātniekus, kad tie brīdina par nopietnām briesmām, izmeklēt negaidītu sistēmu uzvedību un nelaist sistēmu tirgū, ja tās riskus nevar pietiekami kontrolēt.

BBC norāda, ka paziņojums seko vairākiem gadījumiem, kad lielo uzņēmumu, tostarp OpenAI un Anthropic, MI aģenti rīkojušies ārpus cilvēku kontroles. Vispārēju starptautisku drošības noteikumu šai nozarei pašlaik nav, bet ASV prezidents Donalds Tramps aicinājis nozari regulēt sevi pašai. Ministrs arī atgādināja, ka MI būs viena no galvenajām tēmām Lielbritānijas G20 prezidentūrā nākamgad.