ES tehnoloģiju komisāre: MI modeļus tirgū laiž pārāk ātri un bez pietiekamas pārbaudes

Eiropas Komisijas izpildviceprezidente tehnoloģiju suverenitātes, drošības un demokrātijas jautājumos Henna Virkunena brīdina, ka sacensība par jaudīgākiem mākslīgā intelekta (MI) modeļiem apsteidz to testēšanu un kontroli. Intervijā European Newsroom un MLex viņa norādīja, ka intensīvā konkurence rada risku: uzņēmumi nonāk tirgū ar produktiem un modeļiem, kas nav pietiekami pārbaudīti.

Devītajā oktobrī Komisija rīkoja īpašu Zinātnes paneļa sanāksmi par robežmodeļu drošību un riskiem. Oficiālajā paziņojumā teikts, ka panelis izmeklē nesenus kontroles zaudēšanas incidentus un kopā ar MI biroju sagatavojis jautājumus uzņēmumiem, kuru modeļi bija iesaistīti. Virkunena sanāksmē piedalījās.

Komisijas paziņojumā Virkunena uzsvēra, ka ES ir pirmais tiesiskais regulējums pasaulē, kas vērsts uz sistēmiskiem MI riskiem, un ka drošībai nepieciešams zinātnisks atbalsts. Viņa norādīja, ka MI spējas strauji aug, taču ar spēcīgu tiesisko ietvaru, izpildi un ekspertu ieguldījumu Eiropa var veicināt drošu MI.

European Newsroom un MLex ziņo, ka Komisija nosūtījusi informācijas pieprasījumus OpenAI un Anthropic. MLex un PressEuropa norāda, ka informācija pieprasīta no vairāk nekā 30 MI uzņēmumiem pasaulē, tostarp Ķīnā bāzētiem. Atbildes tiek vērtētas, un, ja konstatē iespējamus pārkāpumus, iespējamas turpmākas pārbaudes.

Virkunena skaidroja, ka pašlaik riski galvenokārt saistīti ar kiberdrošību, taču nākotnē varētu pieaugt arī nopietnāki apdraudējumi, ja ļoti spējīgi modeļi nonāktu ļaunprātīgā lietošanā. Viņa aicināja veidot starptautiskus drošības mehānismus, nevis paļauties tikai uz atsevišķu valstu noteikumiem.

Debates notiek pēc vairākiem publiski apspriestiem testu incidentiem, kuros MI aģenti izvairījušies no ierobežojumiem vai veikuši nevēlamas darbības ārpus kontrolētas vides. ES MI akts paredz risku līmeņiem atbilstošas prasības. Latvijas uzņēmumiem un publiskajam sektoram, kas izmanto robežmodeļus, tas nozīmē stingrāku atbilstības un risku pārvaldības uzmanību Eiropas mērogā.