OpenAI bloķē Irānas un Krievijas ChatGPT kontus, kas veidoja ietekmes kampaņas medijos

OpenAI 8. oktobra ziņojumā paziņoja, ka bloķējusi Irānas un Krievijas izcelsmes kontus, kuri ChatGPT izmantoja ietekmes operācijām vairākās valstīs. Uzņēmums norāda, ka kampaņas, kas viltus naratīvus ievietoja pastāvošos medijos, sasniedza plašāku auditoriju nekā tās, kas balstījās galvenokārt uz viltus sociālo tīklu profiliem.

Irānas operācijā, pēc OpenAI datiem, tika izveidoti septiņi viltus «Rietumu žurnālistu» personāži ar sociālo tīklu profiliem un MI ģenerētiem attēliem. Operatori persiešu valodā sūtīja norādījumus modelim, lai uzlabotu angļu tekstus, gatavotu piedāvājumus redakcijām un ģenerētu komentārus. OpenAI identificēja gandrīz 100 rakstus, kas publicēti vai sindikēti zem šīm vārda zīmēm aptuveni duci tiešsaistes izdevumu, galvenokārt par ASV–Irānas karu un mazākā mērā par ASV politiku.

Starp viltus autoriem bija «Ervins B. Hoskinss», kura raksti parādījās mazākos ASV un starptautiskos izdevumos, tostarp PeaceVoice, CounterPunch un LA Progressive. NPR ziņo, ka materiāli nonākuši arī Daily Kos kopienas sadaļā un Lielbritānijas Middle East Monitor; NBC News iepriekš skaitījusi vairāk nekā 20 Middle East Monitor publikācijas zem četru viltus autoru vārdiem. OpenAI vērtē, ka aktivitāte līdzinās komerciālam «ietekmes kampaņas pasūtījumam», taču pasūtītāju nav identificējusi.

Krievijas konti, pēc OpenAI, galvenokārt izmantoja ChatGPT, lai rakstītu iekšējus ziņojumus vadībai par darbu Latīņamerikā. Vienā aprakstītajā kampaņā operatori apgalvoja, ka, uzdodoties par reģionālu izglītības iestādi Peru, panākuši skolas aktivitātes par Ukrainu ar Stepanu Banderu — pretrunīgu vēsturisku figūru. Peru medijs Extra ziņojis, ka līdzīgs pasākums skolā noticis; Polijas ziņa par to izraisījusi Eiropas Parlamenta deputāta reakciju. OpenAI arī min viltus domnīcu Latīņamerikā un gadījumus, kad operatori piesavinājušies citu organizētu notikumu nopelnus.

OpenAI Irānas operāciju ierindoja 4. kategorijā savā ietekmes operāciju «izlaušanās» skalā (augstākais līmenis ir 6), norādot, ka MI palielina viltus frontes mērogu, valodu kvalitāti un redakcionālo spēju. Clemsonas Universitātes pētnieks Darrens Linvids uzsver, ka MI palīdzējis radīt tekstus, kas izskatās pietiekami autentiski, lai tos publicētu īstas redakcijas — kaut ko, kas pirms dažiem gadiem šādai Irānas operācijai būtu bijis daudz grūtāk.

Middle East Monitor atbildē NPR norādīja, ka pārskata iesniegšanas procesu un pastiprina redakcionālos aizsargus. Daily Kos uzsvēra, ka kopienas sadaļa nav personāla materiāli un ka ikviens var tur reģistrēties. OpenAI brīdina, ka līdzīgas operācijas izmanto redaktoru un lasītāju uzticēšanos, un aicina medijus rūpīgāk pārbaudīt autoru identitāti un iesniegumu avotus.