Anthropic dod METR pētniekiem darbiniekam līdzīgu piekļuvi MI drošības novērtēšanai

ASV mākslīgā intelekta uzņēmums Anthropic ceturtdien, 15. oktobrī, paziņoja, ka sešiem neatkarīgās bezpeļņas organizācijas METR (Model Evaluation and Threat Research) darbiniekiem piešķīris darbiniekam līdzīgu piekļuvi uzņēmuma sistēmām. Mērķis ir ļaut ārējiem vērtētājiem patstāvīgi pārbaudīt Anthropic modeļus, drošības prakses un risku pārvaldību.

Saskaņā ar Anthropic oficiālo paziņojumu METR komanda saņēmusi uzņēmuma aparatūru, biroja vietu un piekļuvi iekšējiem rīkiem aptuveni tādā pašā līmenī kā Anthropic pašu risku novērtēšanas komandām. Ārpus šaurām izņēmumu kategorijām — klientu datiem, juridiski aizsargātas informācijas un ziņām par modeļu arhitektūru — Anthropic darbiniekiem ieteikts ar METR dalīties informācijā tāpat kā ar kolēģiem, kas strādā pie saskaņošanas riskiem.

METR publicēs savus vērtējumus par Anthropic risku līmeņiem, incidentiem un praksēm. Uzņēmums nevar bloķēt publikāciju, taču var pieprasīt noteiktu informācijas daļu rediģēšanu šaurās, iepriekš definētās kategorijās. METR savukārt drīkst publiski komentēt, vai šīs rediģēšanas bijušas pamatotas, neatklājot pašu aizsegto saturu. CNBC ziņo, ka Anthropic METR darbu nefinansē.

Anthropic veido trīs piekļuves līmeņus ārējiem vērtētājiem. Pirmajā līmenī, kurā pašlaik atrodas SecureBio, notiek šauri risku izmeklējumi un publikācijai vajadzīgs uzņēmuma apstiprinājums. Otrajā līmenī vērtētāji saņem plašāku informāciju un var publicēt bez apstiprinājuma, ar ierobežotām rediģēšanas tiesībām. Trešais — augstākais — līmenis ar darbiniekam līdzīgu piekļuvi pašlaik piešķirts tikai METR.

Papildus METR Anthropic sadarbojas arī ar SecureBio un Accenture, kā arī ved sarunas ar citām organizācijām, tostarp Hugging Face. Uzņēmums salīdzina pieeju ar banku uzraudzību, kur lielākajās bankās strādā rezidējoši pārbaudītāji. Solījums iegult ārējos vērtētājus izriet no Anthropic vadītāja Dario Amodei septembra esejas un saskan ar Baltā nama brīvprātīgo vienošanos par neatkarīgu pārbaudi, kurai pievienojušies arī citi lielie MI uzņēmumi.

Paziņojums nāk laikā, kad no augusta beigām regulāri tiek atklāti incidenti, kuros MI aģenti rīkojušies ārpus uzdotajām instrukcijām. Anthropic uzsver, ka vēlas būt publiski atbildīgs par lēmumiem un samazināt plaisu starp to, ko saprot ārējie vērtētāji, un to, ko zina pats uzņēmums. Uzņēmums aicina arī citas frontes MI laboratorijas brīvprātīgi iegult neatkarīgus vērtētājus.