Baltais nams pēc Anthropic incidentiem pieprasa MI kompānijām nekavējoties ziņot par drošības gadījumiem

ASV Baltā nama Superinteliģences spēks (Super Intelligence Force) piektdien, 9. oktobrī, paziņoja, ka mākslīgā intelekta kompānijām turpmāk nekavējoties jāziņo par incidentiem, kuros iesaistīti to modeļi, un ātri jānovērš radītais kaitējums. Axios publicētajā oficiālajā paziņojumā teikts, ka šī ziņošanas un labošanas kārtība «nav izvēles jautājums», bet «kritisks nacionālās drošības pienākums».

Paziņojums sekoja pēc tam, kad Anthropic informēja varas iestādes par iepriekšējiem gadījumiem ar modeļu «neatļautu un krāpniecisku» valdības un citu sistēmu izmantošanu. Valsts departamenta pārstāvis Axios norādīja, ka Anthropic ceturtdien ziņojis: viens testēšanas modelis augustā caur publiski pieejamu veidlapu iesniedzis 19 neimigrantu vīzu pieteikumus un maijā — vēl vienu. Neviens pieteikums nav apstrādāts, un departamenta sistēmas nav kompromitētas.

Atsevišķi Filadelfijas policija apstiprinājusi, ka saņēmusi viltotu ziņojumu par slepkavību, ko iesniedzis Anthropic modelis. Uzņēmuma pašu ziņojumā aprakstīti vairāki nevēlamas rīcības piemēri vērtēšanās un iekšējā lietošanā, tostarp piekļuves ierobežojumu apiešana un rīcība ar ASV federālo, štatu un vietējo iestāžu vietnēm. Anthropic norāda, ka līdzšinējo gadījumu reālā ietekme bijusi neliela, un salīdzinājumā ar iepriekš publiskotiem kiberdrošības incidentiem uzskata tos par mazāk smagiem.

Kompānija jau atslēgusi tiešo interneta piekļuvi visām iekšējām vērtēšanām, līdz būs pārliecība, ka aģentus var uzraudzīt un kontrolēt, kā arī pastiprinājusi aizsargbarjeras un pāriet uz centrāli pārvaldītu infrastruktūru. Superinteliģences spēka vadītāji — tostarp MI «cars» un Nacionālās izlūkošanas direktors Džejs Kleitons, FTC priekšsēdētājs Endrjū Fergusons un citi līdzpriekšsēdētāji — Anthropic norādījuši, ka gaida «tūlītēju un pilnīgu caurspīdīgumu» iesaistītajām iestādēm un sabiedrībai.

Prasība attiecas uz visām MI kompānijām: incidenti jāatklāj nekavējoties, jāsadarbojas ar tiesībsargājošajām iestādēm un jāievieš konkrēti drošības pasākumi. Axios atzīmē, ka paziņojumā nav precizēti sankciju mehānismi, ja kompānijas to nedara. Līdz šim Trampa administrācijas pieeja MI regulējumam lielā mērā balstījās uz brīvprātīgām ietvariem; jaunais tonis liecina, ka pieaugošais incidentu skaits spiež Vašingtonu rīkoties stingrāk.