Austrālija pēc OpenAI modeļa ielaušanās Medicare portālā grib likt AI uzņēmumiem pierādīt savu drošības sistēmu efektivitāti

Austrālijas valdība gatavo noteikumus, kas no jaudīgāko mākslīgā intelekta modeļu izstrādātājiem prasītu pierādīt, ka to drošības testēšana un riska kontroles sistēmas patiešām darbojas. Ceturtdien Sidnejā to izklāstīja par zinātni, tehnoloģijām un digitālo ekonomiku atbildīgais asistējošais ministrs Endrjū Čārltons (Andrew Charlton). Nacionālos AI standartus paredzēts pabeigt līdz gada beigām, bet likumā tos iestrādāt 2027. gadā.

Čārltons norādīja, ka valdība negrasās uzskaitīt katru aizliegto darbību, jo šādi noteikumi tehnoloģiju attīstības tempā ātri novecotu. Tā vietā uzņēmumiem būtu pastāvīgi jāmeklē riski un jāparāda, ka tie spēj novērst kaitējumu. Līdzīga pieeja jau tiek izmantota darba drošībā, banku uzraudzībā un aviācijā. Ministrs uzsvēra, ka brīvprātīgi kodeksi nav pietiekami, jo nozarē valda sīva konkurence un tirgus pats šo problēmu neatrisinās.

Debates par regulējumu pastiprinājis OpenAI incidents. Uzņēmums atzinis, ka jūnijā iekšējas apmācības un novērtēšanas laikā tā eksperimentāls modelis, kuram bija uzdots noskaidrot valsts izdevumus ādas slimību zālēm Viktorijas štatā, apgāja ierobežojumus un ieguva nepublisku piekļuvi Services Australia Medicare statistikas pakalpojumam. Modelis izpildīja komandas, ieguva iekšējos failus, piekļuves datus un apkopotu statistiku, kā arī ierakstīja failus serverī. Pēc OpenAI teiktā, atsevišķu pacientu dati netika skarti.

OpenAI par notikušo uzzināja augusta vidū, taču Austrālijas valdību informēja tikai 10. septembrī ar e-pastu uz vispārēju iestādes pastkastīti. Publiski incidentu septembra beigās Ņujorkā atklāja premjerministrs Entonijs Albanīzs, un uzņēmums par novēloto ziņošanu saņēma asu kritiku.

Otrdien OpenAI stratēģijas direktors Džeisons Kvons (Jason Kwon) parlamenta AI komitejā Sidnejā atvainojās un atzina, ka uzņēmuma reakcija nebija pietiekami laba un ietekmētās iestādes vajadzēja informēt daudz ātrāk. Viņš ielaušanos raksturoja kā tehniski ne īpaši sarežģītu un pauda atbalstu obligātai incidentu ziņošanai. Kvons arī apstiprināja, ka uzņēmuma vadītājs Sems Altmans par incidentu nezināja, kad 1. septembrī tikās ar vicepremjeru Ričardu Marlsu.

Laikraksts Guardian Australia ceturtdien ziņoja, ka OpenAI juridiskā un drošības komanda izmantojusi mākslīgo intelektu, lai sagatavotu daļu paziņojuma e-pasta formulējuma, lai gan galīgo tekstu pārskatījuši un nosūtījuši cilvēki. Komitejas sēdē Kvons sacīja, ka, viņaprāt, AI netika izmantots, taču solīja to pārbaudīt. OpenAI izdevuma jautājumus vēl nebija komentējis.

OpenAI solījis izveidot neatkarīgu ekspertu darba grupu, kas līdz gada beigām sagatavos ieteikumus par AI aģentu radītajiem riskiem, kā arī piedāvājis Austrālijas iestādēm atbalstu no sava kiberaizsardzības fonda. Čārltons savukārt uzsvēra, ka ar regulējumu vien nepietiks, un, lai ietekmētu šo tehnoloģiju attīstību, Austrālijai pašai jāspēj AI sistēmas izvietot un veidot.