Anthropic piedāvā ASV likumdevējiem savu MI likumprojektu, kas ierobežotu modeļu apturēšanu

ASV mākslīgā intelekta uzņēmums Anthropic, kas izstrādā Claude modeļus, klusām iepazīstinājis Kongresa locekļus ar paša sagatavotu likumprojektu par jaudīgāko jeb robežmodeļu drošību, piektdien ziņoja izdevums Politico, atsaucoties uz trim informētiem avotiem. Projekts ļautu valdībai bloķēt modeļa izlaišanu vai lietošanu tikai tad, ja tas rada paredzamu un tūlītēju risku nodarīt vairāk nekā miljardu dolāru lielus zaudējumus vai nogalināt vai smagi savainot vairāk nekā 50 cilvēkus.

Turklāt šādam riskam jābūt saistītam ar vienu no trim scenārijiem: bioloģiskā ieroča radīšanu vai izplatīšanu, modeļa izkļūšanu no izstrādātāja kontroles vai kiberuzbrukumu. Citi iespējamā kaitējuma veidi šajā iejaukšanās kārtībā neietilpst.

Uzraudzību veiktu neatkarīgi vērtētāji, kas reģistrētos ASV Tirdzniecības ministrijā un periodiski pārbaudītu MI laboratorijas un to modeļus. Uzņēmumi drīkstētu vērtētājiem maksāt, ja vien samaksa nav atkarīga no vērtējuma iznākuma. Ja vērtētāji konstatētu kādu no likumprojektā uzskaitītajiem tūlītējiem riskiem, viņiem par to būtu jāziņo ministrijai 72 stundu laikā pēc pārbaudes pabeigšanas.

Pati ministrija modeli apturēt nevarētu. Tai būtu jālūdz rīkojums federālajai Kolumbijas apgabala tiesai Vašingtonā, un tikai tiesnesis varētu likt modeļa darbību apturēt. Projekts arī skaidri aizliegtu jebkurai citai federālajai iestādei vai amatpersonai apturēt modeļa izstrādi, ieviešanu vai iekšējo lietošanu.

Anthropic pārstāvis aģentūrai Reuters apstiprināja, ka likumprojekts atspoguļo priekšlikumus, ko uzņēmums šogad izklāstīja savā politikas dokumentā Advanced AI Framework. Pēc pārstāvja teiktā, šāds likums dotu valdībai iespēju bloķēt vai atturēt bīstamu jaudīgāko modeļu ieviešanu, bet izstrādātājiem liktu modeļus testēt, atklāti informēt par rezultātiem un nodot tos neatkarīgam vērtējumam. Tirdzniecības ministrija uz Reuters jautājumiem uzreiz neatbildēja.

Uzņēmuma priekšlikums nonāk jau tā piesātinātā debatē par to, kā ASV regulēt jaudīgāko MI. Pārstāvju palātā Lori Trahana un Džejs Obernolte virza likumprojektu FRONTIER Act, kas arī paredz valdības iespēju iejaukties riskantu modeļu darbībā. Senātā vairākuma līderis Džons Tūns kopā ar senatoriem Tedu Krūzu un Eimiju Klobučāri strādājis pie sava likumprojekta par katastrofāliem MI riskiem.

Anthropic projekts pagaidām ir tikai melnraksts, ko uzņēmums rāda likumdevējiem, un tas Kongresā oficiāli nav iesniegts. Tas, vai likumdevēji piekritīs tik šauriem iejaukšanās nosacījumiem, ietekmēs, cik lielas pilnvaras federālajai valdībai būs pār jaudīgākajām MI sistēmām.