OpenAI un Anthropic gatavojas sabiedrības reakcijai pēc iespējama MI katastrofas notikuma

Vadošo mākslīgā intelekta uzņēmumu, tostarp OpenAI un Anthropic, augstākie vadītāji privāti izspēlē scenārijus, kā rīkoties pēc iespējama katastrofāla MI incidenta, kas varētu izraisīt spēcīgu sabiedrības un politisko pretestību. Par to piektdien, 9. oktobrī, ziņoja izdevums Axios, atsaucoties uz nozares pārstāvju sniegto informāciju.

Pēc Axios ziņām, uzņēmumu pārstāvji rēķinās ar liela mēroga notikumu — visbiežāk ar kiberuzbrukumu —, kas varētu pārtraukt piekļuvi finanšu pakalpojumiem, internetam vai pat elektroenerģijai un ūdensapgādei. Atšķirībā no ierastās korporatīvās risku plānošanas daudzi vadošie MI pētnieki un vadītāji uzskatot, ka nopietns incidents ir neizbēgams.

OpenAI pārstāvis Axios norādīja, ka uzņēmums veic sagatavotības mācības, kurās komandas apspriež un izstrādā dažādus iespējamos scenārijus. Viņš uzsvēra, ka šie scenāriji netiek uzskatīti par neizbēgamiem, bet kalpo gatavībai dažādām situācijām. Anthropic no komentāriem atteicās.

Vairāki nozares pārstāvji Axios teikuši, ka lielu incidentu gaida nākamo sešu līdz 12 mēnešu laikā. Plānošanā ietilpst arī sliktāko scenāriju pārbaude un darbs ar ASV Kongresa locekļiem, lai pēc pirmā lielā incidenta ietekmētu regulējuma un politikas virzienu.

Starp apspriestajiem politikas soļiem Axios min aizliegumus radīt «superinteliģenci», pauzi uzlabotāku MI sistēmu izstrādē un prasību pēc «nogalināšanas slēdža» uzlabotajām sistēmām. Eksperti tomēr apšauba, vai visu MI sistēmu izslēgšana būtu praktiski iespējama, jo daudzus atvērtā svaru modeļus jau var lejupielādēt un lietot bez izstrādātāju tiešas kontroles.

Axios norāda arī uz neseniem piemēriem, kā MI rīki izmantoti kaitējumam: kampaņā pret Dienvidkorejas finanšu iestādēm uzbrucējs esot izmantojis Ķīnā izstrādātus modeļus, tostarp DeepSeek, un Claude Code, lai meklētu, kur pārdot nozagto datu. Šādi gadījumi, pēc ziņojuma, pastiprina bažas par to, kā jau pieejamie modeļi var tikt ļaunprātīgi izmantoti.