Berklija pētnieki: globāla «cietā» pauze frontier MI apmācībai ir tehniski īstenojama

Kalifornijas Universitātes Berklijā (UC Berkeley) vadīta starptautiska darba grupa piektdien, 9. oktobrī, publiskoja pirmā šāda veida akadēmisko pētījumu, kurā kartēts ceļš uz starptautiski savstarpēji verificējamu pauzi frontier mākslīgā intelekta (MI) modeļu apmācībai vismaz uz desmit gadiem. Ziņojumā piedalās 26 pētnieki no datorzinātnes, ekonomikas, vēstures, starptautisko attiecību un politikas jomām, tostarp Berklijas profesori Veslijs Holidejs (Wesley Holliday), Viljams Fitjans (William Fithian), Stjuarts Rasels (Stuart Russell), Berijs Eihengrīns (Barry Eichengreen) un Vinods Agarvāls (Vinod Aggarwal), kā arī kolēģi no Princeton, Stanford, Harvard un Oxford.

Centrālais priekšlikums ir apturēt MI apmācībai paredzēto mikroshēmu ražošanu un laika gaitā aizstāt esošo krājumu ar specializētām «tikai secināšanai» (inference-only) mikroshēmām. Tās ļautu ātri un enerģijas ziņā efektīvi darbināt jau apstiprinātus modeļus, taču praktiski nebūtu derīgas jaunu frontier modeļu apmācībai — pat ja mikroshēmas tiktu nozagtas vai konfiscētas —, jo ierobežojumi būtu iebūvēti aparatūrā.

Holidejs ziņojumā raksta, ka pētnieki izskata scenāriju, kurā pasaules līderi vēlas pauzi, ja var būt pārliecināti, ka arī citi to ievēro vai ka pārkāpumus varētu pietiekami ātri atklāt. Fitjans uzsver, ka MI mikroshēmu piegādes ķēde ir ļoti koncentrēta ar vairākiem «šķēršļu punktiem», tāpēc apiet esošās ķēdes būtu ārkārtīgi grūti — tas varētu palīdzēt starptautiski aizliegt frontier apmācību, balstoties uz aparatūras kontroli.

Pēc autoru teiktā, «cietā» pauze ļautu sabiedrībām kontrolēt, cik spēcīgi modeļi var kļūt, saglabājot iespēju izmantot jau pieejamos MI produktus zinātnē, medicīnā un ekonomikā, vienlaikus mazinot nekontrolētas MI sacensības riskus. Ziņojums arī aplūko politisko pieņemamību: zinātnisko un medicīnisko pētījumu turpināšanu, stratēģisku aizsardzību pret valstīm, kas pauzi pārkāptu, un lētākas secināšanas ekonomiskos ieguvumus patērētājiem.

Pētnieki norāda uz aizsardzību pret slēptu apiešanu (kad valsts oficiāli ievēro pārbaudes, bet slepeni apmāca jaunus modeļus) un atklātu «izlaušanos» (kad valsts atklāti atkāpjas no vienošanās, lai ātri uzbūvētu daudz spēcīgāku modeli). Veiksme esot atkarīga no līderu sadarbības un gatavības nodot vai izņemt no aprites pirms pauzes uzkrātās apmācības mikroshēmas, tostarp uz starptautiski pārvaldītiem datu centriem.

Ziņojumā kā precedenti minēti starptautiski nolīgumi par kodolenerģijas militāro un mierīgo izmantošanu un ozona slāņa aizsardzību. Autori secina, ka koordinācija ir iespējama, ja lēmumu pieņēmēji rūpējas par nākotni, ne tikai tūlītējiem ieguvumiem, un ja uzraudzība ļauj ticami sodīt pārkāpumus. Dokuments ir akadēmisks īstenojamības izvērtējums, nevis valdību jau pieņemts politisks lēmums.