Meta ievieš jaunus AI rīkus, lai atklātu reklāmas, kas slepeni novirza uz bērnu seksuālas izmantošanas materiāliem

Sociālo tīklu uzņēmums Meta trešdien, 7. oktobrī, paziņoja par jauniem mākslīgā intelekta rīkiem cīņai pret bērnu seksuālu izmantošanu Facebook un Instagram. Rīki ir paredzēti reklāmām, kas pašas par sevi izskatās nekaitīgas, taču slepeni novirza lietotājus uz nelegāliem bērnu seksuālas izmantošanas materiāliem citās vietnēs.

Tajā pašā paziņojumā Meta atklāja, ka no janvāra līdz jūnijam abās platformās vērsusies pret 33,2 miljoniem šāda satura vienību. Vairāk nekā 97% gadījumu uzņēmums saturu atradis pats, pirms par to kāds ziņoja. Indijā vien šajā laikā tika apstrādāti 5,3 miljoni šādu vienību.

Uzņēmums norāda, ka noziedznieki ir mainījuši taktiku un arvien biežāk izmanto reklāmas. Šādās reklāmās var nebūt nelegāla satura, tomēr tās var kalpot kā vārti uz vietnēm, kurās šādi materiāli tiek izplatīti. Meta šo paņēmienu sauc par norāžu izvietošanu (angliski signposting).

Lai to apkarotu, Meta ieviesusi īpašu lielo valodas modeli, kas reklāmu tekstos meklē slēptas norādes uz nelegālu saturu ārpus platformas. Tagad uzņēmums vērtē ne tikai to, ko reklāma rāda, bet arī to, uz kurieni tā aizved. Noteikumus pārkāpjošas vietnes var tikt bloķētas, un pret kontiem, kas stāv aiz šādām reklāmām, tiek vērstas sankcijas. Papildus tam AI regulāri pārbauda reklāmu saturu, lai atrastu materiālus, ko agrākās sistēmas palaida garām.

Vēl viens jauns rīks ir tā sauktais sarkanās komandas AI aģents, kas pārbauda pašas Meta aizsardzības sistēmas un meklē vājās vietas, ko varētu izmantot ļaundari. Uzņēmums cer šādi atklāt jaunas ļaunprātīgas izmantošanas metodes, pirms tās kļūst plaši izplatītas. Meta arī pastiprinājusi kontroli pār lietotājiem, kuru konti iepriekš bloķēti un kuri mēģina izveidot jaunus.

Paziņojums sekoja Indijas valdības spiedienam. Tā bija pieprasījusi Meta atslēgt šādas reklāmas Instagram un uz sarunām izsaukusi uzņēmuma vadītājus. Kopš tā laika Meta piekritusi ziņot par bērnu drošības pārkāpumiem tieši Indijas kibernoziegumu ziņošanas portālam. Atklātos pārkāpumus uzņēmums saskaņā ar ASV likumu ziņo arī ASV Nacionālajam pazudušo un izmantoto bērnu centram (NCMEC).

Meta norāda, ka izmeklēšana turpinās un tā plāno pievienot jaunus signālus, kad uzzinās vairāk par to, kā šādi tīkli darbojas.