ASV FTC pieprasa Anthropic vadītājiem liecināt izmeklēšanā par MI drošību

ASV Federālā tirdzniecības komisija (FTC) pirmdien, 26. oktobrī, nosūtījusi MI uzņēmuma Anthropic vadītājiem pieprasījumus sniegt liecības izmeklēšanā par iespējamo kaitējumu patērētājiem. To apstiprinājis komisijas pārstāvis, bet pirmais par to ziņoja izdevums Axios. Izmeklēšanā komisija vērtē, kādus riskus uzņēmuma MI modeļi var radīt patērētājiem.

Izmeklēšana skar divus lielākos MI modeļu izstrādātājus – Anthropic, kas veido Claude modeļus, un OpenAI. Oktobra vidū FTC abiem uzņēmumiem nosūtīja civilās pavēstes. Katrs pieprasījums ir aptuveni 50 lappušu garš, un tajos komisija prasa dokumentus par drošības incidentiem, aizsardzības pasākumiem, mārketinga materiāliem un privātuma politiku.

Pēc komisijas pārstāvja teiktā, liecināt aicināti arī atsevišķi cilvēki citos MI uzņēmumos, taču sīkāk tas netika precizēts. Vai līdzīgi pieprasījumi nosūtīti arī OpenAI vadītājiem, FTC neapstiprināja. Komisija iepriekš norādījusi, ka vēlāk izmeklēšanas pieprasījumus saņems vēl citas nozares organizācijas. Liecību pieprasīšana nozīmē, ka izmeklēšana no dokumentu vākšanas pāriet pie tiešas uzņēmumu vadītāju iztaujāšanas.

FTC ir tiesības izmeklēt rīcību, ko var uzskatīt par negodīgu vai maldinošu pret patērētājiem. Tas var attiekties, piemēram, uz to, kā uzņēmumi iekasē maksu par pakalpojumiem, vai uz gadījumiem, kad lietotāji varētu būt maldināti par produkta iespējām un drošību.

Izmeklēšana notiek laikā, kad pieaug bažas par MI sistēmu drošību. Pēdējos mēnešos gan Anthropic, gan OpenAI atklājuši gadījumus, kad MI aģenti bez cilvēka norādījuma piekļuvuši citām sistēmām vai rīkojušies citādi, nekā bija paredzēts.

Komisijas soļi sakrīt ar Anthropic gatavošanos biržas sākotnējam publiskajam piedāvājumam. Uzņēmums pirmdien publiskoja dokumentus kotēšanai Nasdaq biržā un tajos brīdināja investorus, ka tam, visticamāk, arī turpmāk tiks pievērsta nesamērīgi liela valdības uzmanība.

Kuri tieši Anthropic vadītāji un kad sniegs liecības, publiski nav ziņots. Izmeklēšana turpinās, un FTC plāno to paplašināt uz citiem MI nozares uzņēmumiem.