OpenAI un Anthropic privāti vingrinās «dienā pēc» katastrofālas MI kiberuzbrukuma sekām

Vadošo mākslīgā intelekta uzņēmumu, tostarp OpenAI un Anthropic, augstākā līmeņa vadītāji privāti izstrādā scenārijus, kā rīkoties sabiedriskās un politiskās reakcijas gadījumā pēc katastrofāla MI incidenta. Par to piektdien, 9. oktobrī, ziņoja Axios, atsaucoties uz nozares avotiem. Visticamākais scenārijs, ko plānotāji izskata, ir plaša mēroga kiberuzbrukums, kas varētu pārtraukt piekļuvi finanšu pakalpojumiem, internetam vai pat elektroenerģijai un ūdensapgādei.

Atšķirībā no ierastās uzņēmumu un valsts drošības iestāžu scenāriju plānošanas, daudzi nozares pētnieki un vadītāji, pēc Axios avotu teiktā, uzskata, ka nopietns incidents ir neizbēgams. OpenAI pārstāvis aģentūrai norādīja, ka uzņēmums veic gatavības vingrinājumus, kuros komandas izskata dažādus iespējamos scenārijus, un uzsvēra, ka šie scenāriji netiek uzskatīti par neizbēgamiem, bet gan paredzēti, lai sagatavotos dažādām situācijām. Anthropic no komentāriem atteicās.

Plānošana ietver «sarkanās komandas» jeb pretinieka lomas spēlēšanu pret sliktākajiem scenārijiem un ātru Kongresa locekļu informēšanu. Vadītāji apzinās, ka regulējums pašlaik ASV Kongresā praktiski nav iespējams, taču vēlas ietekmēt likumus un politikas, pie kurām Vašingtona vērsīsies pēc pirmā lielā incidenta. Daudzi nozares pārstāvji Axios teikuši, ka nopietnu notikumu gaida sešu līdz 12 mēnešu laikā.

Decrypt, atsaucoties uz to pašu Axios ziņojumu, papildina, ka vainas meklēšana sāktos neatkarīgi no tā, vai «aģentu» sistēma izlauztos no iekšējās testēšanas vides, vai ļaunprātīgs lietotājs atrastu jaunus veidus, kā izmantot pieejamos modeļus. Kā piemēru reālām MI rīku ļaunprātīgām izmantošanām Decrypt min CrowdStrike ziņojumu par uzbrukumiem Dienvidkorejas bankām, kuros uzbrucējs, iespējams, izmantojis Claude un DeepSeek balstītus aģentus.

Pirmais nozīmīgais kaitējums, kas saistīts ar nedrošu MI, pēc ziņojuma, vēl vairāk nostiprinātu sabiedrības skepticismu pret tehnoloģiju un tās vadītājiem, tostarp Anthropic izpilddirektoru Dario Amodei un OpenAI vadītāju Semu Altmenu, kā arī pret ASV prezidentu Donaldu Trampu, kurš līdz šim bijis atturīgs pret nozares regulēšanu. Plānotāji rēķinās, ka pēc 3. novembra midtermiem demokrāti varētu mēģināt ātri ierobežot MI, taču saskartos ar novecojušu Kongresu, ekonomiku, kas cieši saistīta ar MI infrastruktūru, un brīvi lejupielādējamiem atvērtā svara modeļiem.

Starp politiskajiem priekšlikumiem, ko Decrypt min kā iespējamu reakciju, ir arī bipartiski atbalstīta prasība pēc «avārijas izslēgšanas» (kill switch) uzlabotām MI sistēmām, kā arī stingrāki soļi pret «superinteliģenci». Eksperti tomēr apšauba, vai praktiski iespējams izslēgt visas MI sistēmas vienlaikus. Axios norāda, ka reālā krīzē Vašingtona spēj atlikt partiju strīdus, kā tas bijis Covid-19 un 2008. gada finanšu krīzes laikā.