Anthropic licencē Opaque konfidenciālā MI tehnoloģiju un pieņem darbā tās vadītājus

ASV mākslīgā intelekta uzņēmums Anthropic noslēdzis vienošanos ar jaunuzņēmumu Opaque Systems, kas izstrādā tā saukto konfidenciālās skaitļošanas tehnoloģiju MI sistēmām. Anthropic licencēs Opaque risinājumus un pieņems darbā daļu tā darbinieku, tostarp izpilddirektoru Āronu Fulkersonu un tehnoloģiju direktoru Rišabu Poddaru. Opaque pati savu darbību izbeidz, un darījuma finanšu noteikumi nav atklāti.

Konfidenciālā skaitļošana ļauj MI sistēmām strādāt ar sensitīviem datiem tā, ka tos aizsargā pati aparatūra arī apstrādes brīdī, nevis tikai glabāšanā vai pārsūtīšanā. Tas ir būtiski bankām, slimnīcām, valsts iestādēm un citiem, kas vēlas izmantot MI, bet nedrīkst riskēt ar datu noplūdi. Tehnoloģiju analītiķu uzņēmums Constellation Research norāda, ka darījums atbilst Anthropic centieniem piesaistīt uzņēmumus, kuri apsver MI izvietošanu savās telpās un tā saukto suverēnā MI arhitektūru.

Opaque par vienošanos paziņoja 13. oktobrī, rakstot, ka tās komanda pievienojas Anthropic, lai turpinātu iesākto darbu. Uzņēmuma mājaslapā tagad teikts, ka Opaque Systems pakāpeniski beidz darbību. Anthropic izdevumam The Information apstiprināja, ka licencē tehnoloģiju un pieņem darbā daļu inženieru, taču citas detaļas nav sniedzis. Pēc The New Stack ziņām, uz Anthropic pāriet ne visi Opaque darbinieki.

Opaque aizsākās apmēram pirms desmit gadiem kā pētniecības projekts Kalifornijas Universitātes Bērklijā RISELab laboratorijā. Tās dibinātāju vidū ir Databricks un Anyscale līdzdibinātājs Ions Stoika un drošības pētniece Raluka Ada Popa, kura tagad strādā Google DeepMind. Šogad uzņēmums B kārtā piesaistīja 24 miljonus dolāru pie 300 miljonu dolāru novērtējuma, un starp tā klientiem bija minēti Anthropic, ServiceNow un Accenture.

Pēdējā laikā Opaque bija paplašinājusi darbu no datu aizsardzības uz tā saukto pārbaudāmo MI. Ideja ir dot kriptogrāfiskus pierādījumus tam, kāda programma darbojusies, kur tā darbojusies un pēc kādiem noteikumiem, lai MI aģentu uzvedību varētu neatkarīgi pārbaudīt, nevis vienkārši uzticēties piegādātājam.

Neskaidrs paliek Opaque atvērtā koda projektu liktenis, piemēram, Agent Governance Toolkit, TRACE un Confidential MCP. Ne Opaque, ne Anthropic nav paziņojušas, vai tos turpinās uzturēt, un SecurityWeek norāda, ka nav arī skaidrs, ko darbības izbeigšana nozīmē esošajiem klientiem. Uzņēmuma 0G Labs vadītājs Maikls Heinrihs izdevumam The New Stack norādīja uz iespējamu interešu konfliktu: ja pārbaudes rīki pieder modeļu piegādātājam, pārbaudāmā puse kontrolē daļu pārbaudes. Vienlaikus viņš atgādināja, ka Confidential MCP ir publicēts ar MIT licenci, tāpēc to var turpināt izmantot arī bez Opaque.