Singapūras centrālā banka pieņem pirmās AI risku vadlīnijas finanšu iestādēm, pirms ieviešanas prasa neatkarīgu pārbaudi

Singapūras Monetārā iestāde (MAS), kas pilda gan centrālās bankas, gan finanšu sektora uzrauga funkcijas, trešdien, 7. oktobrī, publiskoja vadlīnijas mākslīgā intelekta (AI) risku pārvaldībai finanšu iestādēs. Tās attiecas uz visām MAS uzraudzītajām finanšu iestādēm un uz visa veida AI tehnoloģijām, tostarp ģeneratīvo AI.

Viena no būtiskākajām prasībām paredz, ka pirms ieviešanas katrs AI izmantošanas gadījums kopā ar tā sistēmām un modeļiem jānodod pārbaudei personām, kuras nav piedalījušās tā izstrādē. Pārbaudei jāpārliecinās, ka ievērotas kontroles, piemēram, testēšana un novērtēšana, kā arī jāizvērtē risinājuma piemērotība, noturība un veiktspēja. Pārbaudes apjomam un neatkarības pakāpei jāatbilst konkrētā risinājuma riska līmenim.

MAS uzsver, ka finanšu iestādes paliek atbildīgas par AI, ko izmanto savos pakalpojumos, arī tad, ja to izstrādājis, darbina vai piegādā ārējs uzņēmums. Iestādēm no piegādātājiem jāiegūst pietiekams apliecinājums, jāizvērtē, vai trešās puses AI ir piemērots paredzētajam mērķim, un jāievieš papildu kontroles, ja informācijas trūkst. Ja riskus nevar samazināt līdz pieņemamam līmenim, iestādei jāapsver šāda pakalpojuma ierobežošana, apturēšana vai aizstāšana.

Vadlīnijas arī paredz, ka iestādēm jāuztur aktuāls visu izmantoto AI risinājumu saraksts, jānovērtē katra izmantošanas gadījuma risks un visā AI dzīves ciklā jānodrošina kontroles, piemēram, datu pārvaldība, cilvēka uzraudzība, kiberdrošība, darbības uzraudzība un izmaiņu vadība. Par AI risku uzraudzību atbildība jāuzņemas valdei un augstākajai vadībai.

Dokumentā norādīts, ka AI sarežģītība un varbūtiskā daba var radīt neparedzamu vai neobjektīvu uzvedību, ko ir grūtāk pamanīt nekā vienkāršāku metožu gadījumā, bet ģeneratīvais AI šo nenoteiktību vēl palielina. Tehnoloģiju izdevums The Register vērš uzmanību arī uz prasību augsta riska jomās sagatavot rezerves plānus, piemēram, alternatīvas sistēmas vai manuālus procesus, ja AI sabojājas vai uzvedas negaidīti.

Vadlīnijas tika izstrādātas pēc 2025. gada novembrī rīkotas sabiedriskās apspriešanas. MAS norāda, ka respondenti atbalstījuši uz principiem balstītu un riskam samērīgu pieeju, tāpēc galvenās prasības saglabātas, bet precizētas.

Prasības stāsies spēkā 2027. gada 7. oktobrī, un finanšu iestādes tās varēs ieviest pakāpeniski, pilnībā izpildot līdz 2028. gada 7. oktobrim. MAS arī paziņoja, ka 2027. gadā plāno konsultēties ar nozari par papildu norādījumiem attiecībā uz aģentu AI sistēmām, kas spēj darboties autonomi un izmantot rīkus.