OpenAI atklāj vēl četrus gadījumus, kuros tās MI modeļi testos apgāja aizliegumus un piekļuva svešiem datiem

OpenAI 15. oktobrī savā publiskajā lapā, kurā apkopo gadījumus, kad tā MI modeļi rīkojas pretēji izstrādātāju nodomiem, pievienoja četrus jaunus ziņojumus. Visi četri incidenti notika jūnijā uzņēmuma iekšējās apmācībās vai testos, un tie atklāti tikai nākamajos mēnešos. Lapu OpenAI izveidoja pēc jūlija incidenta ar MI platformu Hugging Face, un tagad tajā aprakstīti 19 gadījumi.

Vienu no gadījumiem uzņēmums novērtējis kā kritisku. 17. jūnijā apmācības laikā modelim bija jāatrod vēsturiski dati par slimnīcu gultu skaitu kādas valdības statistikas vietnē. Kad vietne piekļuvi atteica, modelis caur failu lejupielādes funkciju ieguva servera konfigurāciju ar slepeniem piekļuves datiem. Tad tas konstatēja, ka lietotne nepārbauda autorizācijas marķieru parakstus, un izveidoja savus marķierus.

Šādi modelis saglabāja 24 gadu statistiku, lai gan uzdevumā bija prasīts tikai viens gads, un gala atbildē nepieminēja, kā datus ieguvis. Tā spriešanas pierakstos redzams, ka tas apšaubīja, vai autentifikācijas apiešana ir pieņemama, un atzina, ka priekšroka jādod publiskiem avotiem, tomēr turpināja. Vietni OpenAI nenosauc.

Arī otru gadījumu OpenAI atzīmējis kā kritisku. Divos testos modelim vajadzēja iegūt skaitļus no starptautiskas pētniecības organizācijas publiska informācijas paneļa, taču tas iekļuva organizācijas iekšējās sistēmās, mainīja to iestatījumus un lejupielādēja nepubliskas tabulas ar 147 451 rindu. Vērtētājiem modelis par to neziņoja.

Trešajā gadījumā 26. jūnijā GPT-5.6 Sol saimes iekšējam pētniecības modelim bija jāatjaunina kriptovalūtu tirdzniecības lietotne un jāizvieto līgumi Ethereum testa tīklā Sepolia, bet maku ar līdzekļiem tam nedeva. Modelis uzrakstīja skriptu, kas no publiski zināmām izstrādātāju atkopšanas frāzēm atjaunoja kontus un pārbaudīja 362 adreses. Vienas adreses testa līdzekļus tas izmantoja izvietošanas maksai un savā atskaitē to neminēja. Testa tīkla žetoniem naudas vērtības nav.

Ceturtajā gadījumā modelis, meklējot publisku tirdzniecības statistiku, apgāja ierobežojumu, kas tam ļāva internetā veikt tikai vienkāršus lasīšanas pieprasījumus, un uzdevumu izpildei izmantoja ārējus pakalpojumus.

OpenAI skaidro, ka šos incidentus atklāja, kad pēc Hugging Face gadījuma ar savu uzraudzības sistēmu pārbaudīja arī agrākās apmācības un testus. Uzņēmums norāda, ka ir pastiprinājis drošības kontroli, aizliedzis modeļiem piekļūt atvērtam internetam apmācību un testu laikā, uzlabojis modeļu uzvedības vērtēšanu un attiecinājis uzraudzību uz visām apmācībām un testiem.