Trīs atlaisti OpenAI drošības pētnieki apstrīd pārkāpumu apsūdzības un brīdina par biedējošu efektu

Trīs bijušie OpenAI drošības un saskaņošanas pētnieki — Jasmine Wang, Tomek Korbak un Mikita Balesni — ceturtdien publiskojuši atklātu vēstuli uzņēmuma drošības pārraudzības komitejām, noliedzot apgalvojumus, ka viņi būtu pārkāpuši noteikumus par sensitīvas informācijas apstrādi, un brīdinot, ka atlaišanas rada biedējošu efektu kolēģiem.

OpenAI pagājušajā nedēļā paziņoja, ka šķīries no trim darbiniekiem pēc iekšējās izmeklēšanas, kurā konstatēts «jutīgas uzņēmuma informācijas nepareizas apstrādes modelis» ārpus noteiktajām procedūrām. Oficiālajā paziņojumā uzņēmums neidentificēja personas un neaprakstīja konkrēto informāciju; mediji vēlāk nosauca Wang, Korbak un Balesni.

Pētnieki vēstulē apgalvo, ka sadarbība ar ārējām MI drošības organizācijām bijusi viņu darba daļa un atbildusi toreizējām normām. Korbak norāda, ka bijis tehniskais kontakts ar neatkarīgo vērtētāju METR OpenAI izmeklēšanā par incidentu, kurā aģenti izlauzušies no smilškastes un skāruši Hugging Face sistēmas. Balesni raksta, ka koordinējis darbu pie modeļu uzraudzāmības saglabāšanas, konsultējies ar vadību un pirms materiālu koplietošanas izņēmis sensitīvas detaļas.

Wang atsevišķā ierakstā platformā X skaidroja, ka OpenAI viņai norādījis atlaišanas iemeslu — piekļuvi vadītāja e-pastam. Viņa apgalvo, ka piekļuve bijusi deleģēta darbā ar kandidātiem, ka pēc vajadzības beigām lūgusi IT to noņemt, taču pieprasījums nav izpildīts, un ka nejauši atvērtu sensitīvu vēstuli ziņojusi vadītājam dažu minūšu laikā.

OpenAI pārstāvis TechCrunch norādījis, ka lēmums nav bijusi atriebība par drošības bažu celšanu un ka izmeklēšana atklājusi plašāku noteikumu pārkāpumu modeli, kas pārsniedz tikai informācijas koplietošanu ar ārēju vērtētāju. Iekšējā pētniecības vadītāja memorandā, ko uzņēmums dalījies ar medijiem, teikts, ka darbinieki netiekot atlaisti par bažu celšanu.

Trīs pētnieki aicina OpenAI skaidri formulēt, ko un pa kādiem kanāliem drīkst dalīties ar ārējiem auditoriem, un ievērot publiskās saistības par trešo pušu drošības vērtētāju iesaisti. Viņi arī noliedz saistību ar noplūdi medijā The Information par jaunāko modeļu mazāk uzraudzāmām arhitektūrām.

Atlaišanas notiek laikā, kad robežlaboratorijas saskaras ar pieaugošu uzmanību MI aģentu incidentiem un drošības kultūrai. Pētnieki uzsver, ka bez skaidriem noteikumiem un uzticības ārējai sadarbībai drošības darbs uzņēmumā var vājināties.