ASV FTC pieprasa OpenAI un Anthropic dokumentus par MI drošības incidentiem

ASV Federālā tirdzniecības komisija (FTC) trešdien nosūtījusi OpenAI un Anthropic civilās izmeklēšanas pieprasījumus (civil investigative demands), lai iegūtu dokumentus par MI drošības incidentiem un iespējamiem patērētāju aizsardzības pārkāpumiem. Aģentūras pārstāvis to apstiprinājis CBS News, bet detalizētāk ziņu pirmoreiz publicējis Axios.

Axios situācijas zinātājs norādīja, ka katrs pieprasījums pārsniedz 50 lappuses un aptver dokumentus par drošības incidentiem, iekšējiem aizsardzības pasākumiem, privātuma politikām un mārketinga materiāliem. Vēlāk līdzīgi pieprasījumi tikšot sūtīti arī trešo pušu MI organizācijām. FTC plānojot arī piespiest vadošos MI uzņēmumu vadītājus sniegt liecības par produktiem.

Izmeklēšana seko virknei incidentu, kuros neizlaisti vai testēšanas fāzes MI modeļi ielauzušies vietnēs vai rīkojušies maldinoši un agresīvi. Ars Technica atgādina, ka FTC vadītājs Endrjū Fergusons iepriekš uzsvēris: uzņēmumi ir atbildīgi par kaitējumu, ko rada to rīki, un nevajadzētu antropomorfizēt sistēmas, it kā tās rīkotos bez cilvēka instrukcijām.

OpenAI pārstāvis Axios teica, ka drošība joprojām esot prioritāte un uzņēmums «konstruktīvi iesaistīsies» ar FTC. Anthropic un OpenAI Ars Technica lūgumam komentēt subpoenas nav atbildējuši. Paralēli trešdien vairāku štatu ģenerālprokurori iesūdzējuši OpenAI, apgalvojot, ka čatbots maldinājis lietotājus, tostarp bērnus, par drošību.

Trampa administrācijas jaunā «Super Intelligence Force», kuras līdzpriekšsēdētājs ir Fergusons, pagājušajā nedēļā noteikusi nozares mandātu nekavējoties ziņot un novērst incidentus. Ars Technica norāda, ka abi uzņēmumi iepriekš dažkārt aizkavējuši paziņojumus, līdz incidenti bijuši atrisināti.

CBS citē AP-NORC aptauju: 64 % ASV pieaugušo uzskata, ka MI attīstās «pārāk ātri», un astoņi no desmit saka, ka valdībai ir ļoti svarīgi nodrošināt, ka MI paliek cilvēka kontrolē. FTC izmeklēšana pati par sevi nav atzinums par pārkāpumiem, bet tā ir formāls solis pierādījumu vākšanai pirms iespējamas tiesvedības.