OpenAI un Meta brīdina ASV tiesnešus, ka dziļviltojumus tiesās kļūs arvien grūtāk atpazīt

OpenAI un Meta pārstāvji ceturtdien, 15. oktobrī, Bostonā uzstājās ASV Tiesu konferences Pierādījumu noteikumu konsultatīvajā komitejā un brīdināja, ka ar MI radīti dziļviltojumi kļūst tik pārliecinoši, ka tiesās būs arvien grūtāk pārbaudīt audio un video pierādījumu autentiskumu.

OpenAI politikas jautājumu juriskonsulte Šira Andersone komitejai norādīja, ka MI ģenerēto attēlu kvalitāte turpina uzlaboties, un pauda šaubas, ka nākotnē parādīsies zinātniska metode, kas tos spētu droši atpazīt. Meta produktu vadības direktors Devins Norders sacīja, ka jaunāko MI modeļu radīto saturu cilvēki vairs nespēj atšķirt no īsta, turklāt šāda satura izveide prasa maz laika un naudas.

Gan OpenAI, gan Meta ir izstrādājuši rīkus vizuāla satura pārbaudei, bet Kalifornijā un Eiropas Savienībā jauni likumi paredz dziļviltojumus marķēt ar ūdenszīmēm. Andersone gan uzsvēra, ka katram uzņēmumam ir sava sistēma, tāpēc nav vienota veida, kā atklāt visas ūdenszīmes un pārbaudīt jebkura attēla vai video īstumu. Pēc viņas teiktā, šīs sistēmas uzlabosies, taču pilnīgi drošas tās nebūs nekad.

Komiteja dziļviltojumu radītās problēmas pierādījumu autentiskuma jomā pēta kopš 2023. gada. Federālās tiesu sistēmas centra martā veiktajā aptaujā no 931 tiesneša, kas sniedza atbildes, tikai 15 bija saskārušies ar lietu, kurā kāda no pusēm apstrīdēja pierādījumu, apgalvojot, ka tas ir dziļviltojums. Komitejas priekšsēdētājs, Manhetenas federālais tiesnesis Džesijs Furmans atzina, ka akadēmiskajos darbos tiek prognozēts, ka tiesām ar šo nāksies saskarties, taču praksē šādi gadījumi vēl nav bieži.

Oktobra sēdes darba kārtībā bija paredzētas divas atsevišķas ekspertu diskusijas: viena par dziļviltojumiem un pierādījumu autentiskumu, otra par to, kā vērtēt potenciāli neuzticamus MI radītus pierādījumus, ja tie tiesā iesniegti bez eksperta liecības. Otrajā jautājumā komiteja iepriekš atsauca publiskai apspriešanai nodoto jaunā noteikuma Nr. 707 projektu, par kuru bija saņemti vairāk nekā 70 rakstiski komentāri, un tā vietā nodeva tālākai izpētei pārstrādātu priekšlikumu.

Jauni federālie pierādījumu noteikumi par dziļviltojumiem vai MI radītiem pierādījumiem pagaidām nav pieņemti un nav stājušies spēkā. Komiteja turpinās apspriest iespējamos grozījumus, ņemot vērā arī ekspertu sēdē izteiktos ieteikumus.