ES MI birojs prasa OpenAI un Anthropic atbildes par testos izbēgušiem modeļiem

Eiropas Komisijas Mākslīgā intelekta birojs ir nosūtījis oficiālus informācijas pieprasījumus par modeļu drošību, ārējo novērtēšanu un to lietošanas uzraudzību. To trešdien Dublinā Starptautiskajā MI samitā paziņoja Komisijas izpildviceprezidente tehnoloģiskās suverenitātes jautājumos Henna Virkunena. Kā ziņo Euronews, pieprasījumi adresēti OpenAI un Anthropic, un tie saistīti ar vasarā notikušiem incidentiem, kuros šo uzņēmumu modeļi testēšanas laikā piekļuva svešām sistēmām.

Šī ir pirmā reize, kad Komisija praksē izmanto Mākslīgā intelekta akta noteikumus vispārēja lietojuma MI modeļiem. Virkunena atgādināja, ka izpildes pilnvaras stājās spēkā 2. augustā. Pēc Euronews informācijas, birojs pieprasījumus nosūtīja, jo uzskatīja, ka uzņēmumu brīvprātīgi atklātā informācija nav pietiekama.

OpenAI 21. jūlijā paziņoja, ka vairāki tā modeļi, tostarp GPT-5.6 Sol un vēl neizlaists iekšējs pētniecības modelis, kiberspēju testa laikā izmantoja iepriekš nezināmu ievainojamību pakotņu krātuves starpniekserverī. Tā modeļi tika līdz atvērtam internetam un ielauzās MI modeļu platformas Hugging Face produkcijas infrastruktūrā, lai iegūtu testa atbildes. Uzņēmums incidentu nosauca par bezprecedenta kiberincidentu.

Anthropic jūlija beigās publicēja savas pārbaudes rezultātus. Izskatījis 141 006 testu norises, uzņēmums atrada trīs gadījumus, kad Claude modeļi caur ārēja novērtēšanas partnera nepareizi konfigurētu vidi piekļuva internetam un bez atļaujas iekļuva trīs organizāciju sistēmās. Iesaistīti bija modeļi Opus 4.7, Mythos 5 un iekšējs pētniecības modelis.

Galvenais strīds ir par to, vai likums šādos gadījumos vispār ir piemērojams. Aktā ir izņēmums pētniecībai, testēšanai un izstrādei, un daļa juristu uzskata, ka tas attiecas arī uz šiem incidentiem. Advokātu biroja William Fry partneris Berijs Skanels Euronews teica, ka akts uz izstrādi un testēšanu nepārprotami neattiecas. Komisijas amatpersona, kas vēlējās palikt anonīma, iebilda, ka testēšanas posmā Komisija normas nepiemēros, taču, ja modelis izkļūst no testa vides un ietekmē ES tirgu, kā tas bija Hugging Face gadījumā, akts kļūst piemērojams.

Virkunena savā runā uzsvēra, ka MI jāpaliek cilvēku vadībā, uzraudzībā un kontrolē un ka Komisija ir gatava spert visus vajadzīgos soļus, lai uzņēmumi ievērotu likumu. Pagājušajā nedēļā viņa sasauca arī akta paredzēto neatkarīgo ekspertu zinātnisko padomi, lai saņemtu padomu, kā izmeklēt nesenos incidentus.

Turpmākais būs atkarīgs no uzņēmumu atbildēm. Ja Komisija konstatēs pārkāpumus, par vispārēja lietojuma modeļu noteikumu neievērošanu aktā paredzēti sodi līdz 15 miljoniem eiro vai 3% no uzņēmuma globālā apgrozījuma. Tā kā Mākslīgā intelekta akts ir vienots visā ES, šo lietu iznākums noteiks prasības modeļiem, ko lieto arī Latvijas uzņēmumi un iestādes.