Microsoft ievieš rīkus, kas uzņēmumu MI aģentus uzrauga kā iespējamus iekšējos draudus

Microsoft pirmdien, 19. oktobrī, paziņoja par jauniem drošības rīkiem, kas uzņēmumos darbinātos MI aģentus uztver kā iespējamus iekšējos draudus, līdzīgi kā darbinieku, kurš var nodarīt kaitējumu no iekšpuses. Jaunās funkcijas būs daļa no Microsoft 365 E7, kas ir uzņēmuma augstākā līmeņa darba programmatūras un MI rīku komplekts, kā arī drošības sistēmas Project Perception.

Rīku pamatā ir nepārtraukti atjaunināts katra aģenta riska novērtējums. Tas ņem vērā, piemēram, kādiem datiem aģents var piekļūt un vai tā darbības sāk novirzīties no uzdotā uzdevuma. Ja risks pieaug, sistēma var atņemt aģentam tiesības veikt izmaiņas, vienlaikus atstājot iespēju datus lasīt, var pieprasīt cilvēka apstiprinājumu svarīgam solim vai aģentu pilnībā apturēt. Aģenta piekļuvi var arī pielāgot konkrētajam uzdevumam.

Microsoft paplašina arī iespējas atrast MI aģentus, kas darbojas darbinieku datoros. Atpazīstamo aģentu veidu skaits palielināts no 25 līdz 60, un to vidū ir arī populāri programmēšanas rīki, piemēram, Anthropic Claude Code, OpenAI Codex un GitHub Copilot.

Sistēma Project Perception, ko Microsoft prezentēja jūlijā, tagad papildināta ar tā dēvētajiem sargaģentiem (Guardian Agents). Tie noskaidro, kāpēc cita aģenta risks ir mainījies, un var ieteikt vai paši veikt pasākumus tā ierobežošanai.

Microsoft drošības jomas vadītāja savā paziņojumā norādīja, ka jaudīgākajiem MI modeļiem neatkarīgi no to izcelsmes nevar uzticēties. Pēc viņas teiktā, iemesls nav ļaunprātība, bet gan tas, ka modeļi ir apmācīti sasniegt rezultātu, nevis ievērot organizācijas normas, un tāpēc to rīcība var būt neparedzama. Pieeja balstās uz Microsoft vadītāja Satjas Nadellas šomēnes pausto domu, ka kontrolei pār MI jāatrodas ārpus paša modeļa un ka intelekta piegāde jānodala no varas pār to.

Paziņojums nāk laikā, kad arvien biežāk ziņots par gadījumiem, kad MI aģenti veikuši darbības, kuras tiem nebija atļautas. Jaunās funkcijas pagaidām pieejamas slēgtā priekšskatījumā, bet plašāku pieejamību Microsoft plāno savā Ignite konferencē, kas notiks no 17. līdz 19. novembrim. Microsoft 365 E7 komplekts maksā 99 ASV dolārus par vienu lietotāju mēnesī.