OpenAI atbrīvo trīs drošības pētniekus; viņi apgalvo, ka iemesls bijusi bažu celšana, uzņēmums runā par uzticības pārkāpumu

OpenAI piektdien aizstāvēja lēmumu atbrīvot trīs drošības pētniekus — Džasminu Vanu, Tomeku Korbaku un Mikitu Balesni —, pēc tam, kad viņi ceturtdien publiski apgalvoja, ka atlaišanas iemesls bijusi MI drošības prioritāšu aizstāvēšana pret uzņēmuma tuvāka termiņa interesēm. Uzņēmums paziņoja, ka atklāta «būtiska uzticības pārkāpuma» izmeklēšana un ka pētnieki pārkāpuši skaidrus noteikumus par jutīgas informācijas apstrādi.

Atklātā vēstulē OpenAI drošības un misijas padomēm trīs bijušie darbinieki norāda, ka iekšējā un ārējā komunikācija ap viņu atlaišanu liek kolēģiem baidīties runāt un rīkoties tā, kā līdz šim bijis ierasts. Viņi uzsver, ka MI nav «parasta tehnoloģija» un ka drošības darbs paļaujas uz ciešu sadarbību ar ārējiem ekspertiem. Balesni X ierakstā rakstīja, ka tic — viņus atlaida par drošības prioritāti pret korporācijas tuvāka termiņa interesēm; Korbaks savukārt saistīja savu atlaišanu ar bažām, ka uzņēmums zaudē spēju uzraudzīt, ko MI aģenti «domā».

OpenAI oficiālajā pozīcijā uzsvērts, ka lēmumi «nebija par drošības bažu celšanu vai runāšanu». Uzņēmums apgalvo, ka drošības un pētniecības debates notiek katru dienu un tiek aktīvi veicinātas, taču darbs prasot augstu uzticības līmeni. TechCrunch ziņo, ka pārstāvis minējis «pārkāpumu modeli» pētniecības informācijas apstrādē, kas pārsniedzot tikai informācijas apmaiņu ar ārēju MI novērtēšanas grupu; konkrētus politikas punktus uzņēmums sīkāk neatklāja.

Vana atsevišķi skaidroja, ka viņai kā atlaišanas iemeslu minējuši piekļuvi vadītāja e-pastam, ko viņa saņēmusi personāla atlasei un vēlāk lūgusi noņemt. Viņa apgalvo, ka IT to nav izdarījusi, ka nejauši atvērusi jutīgu vēstuli un nekavējoties ziņojusi vadītājam. Trīs pētnieki noraida arī apgalvojumus par noplūdi saistībā ar jaunāku modeļu uzraudzāmību un apgalvo, ka sadarbība ar ārējiem drošības vērtētājiem bijusi viņu amata mandāta robežās, tostarp pēc incidenta, kurā OpenAI aģenti testā izlauzās no smilškastes un iekļuva Hugging Face sistēmās.

Epizode notiek laikā, kad OpenAI un citi MI uzņēmumi ir intensīvu debašu centrā par to, kā ierobežot robežmodeļu riskus. Bijušie pētnieki aicina saglabāt trešo pušu auditoru iesaisti, modeļu uzraudzāmību un atvērtu dialogu ar drošības ekosistēmu. OpenAI iekšējā memorandā, ko redzējis TechCrunch, pētnieku ieguldījumu drošībā atzīst, vienlaikus noliedzot atriebību par bažu celšanu.