Common Sense Media: ChatGPT for Teens ir «nepieņemams risks»; OpenAI apstrīd metodiku

ASV bezpeļņas organizācija Common Sense Media Youth AI Safety Institute ChatGPT for Teens režīmu novērtējusi kā «nepieņemamu risku» nepilngadīgajiem. Ziņojumā, kas publicēts 7. oktobrī un kuru plaši atspoguļo arī The Verge un Los Angeles Times, teikts, ka OpenAI solītās drošības aizsardzības bieži nedarbojas, kā paredzēts, un ka ChatGPT būtu jāierobežo līdz 18 gadu vecumam, līdz trūkumi tiek novērsti un neatkarīgi pārbaudīti.

Institūts pirms un pēc ChatGPT for Teens ieviešanas augustā pārbaudīja vairāk nekā 4000 uzvednes kontos, kas reģistrēti 13–17 gadus veciem lietotājiem. Atbildes vērtēja arī bērnu psihiatri un pediatrs. Daļa aizsardzību, piemēram, atteikums no seksuālām lomu spēlēm, strādāja. Citās jomās rezultāti bija vāji: ilgstošās sarunās par pašnāvības domām, sevis kaitēšanu vai ēšanas traucējumiem jaunizveidotajos, ar vecākiem saistītajos kontos brīdinājumi vecākiem bieži netika nosūtīti.

Ziņojumā norādīts, ka krīzes situācijās čatbots ne vienmēr ieteica vērsties pēc profesionālas palīdzības vai uzticības tālruni — vairāk nekā ceturtdaļā gadījumu, kur norāde bijusi pamatota, tā iztrūkusi. «Mācību režīms», kas solīts palīdzēt soļiem, nevis sniegt gatavas atbildes, bijis viegli apejams; vecāku noteiktos «mācību stundu» ierobežojumus arī varējis ātri izslēgt. Vecuma novērtēšana, kas solīta pieaugušo kontus pārslēgt uz jauniešu režīmu, testos neaktivizējās.

Institūta izpilddirektors Toms Sīgels brīdina, ka ChatGPT for Teens var radīt maldīgu pārliecību par aizsardzību: jaunietis varot stundu runāt par sevis kaitēšanu, nesaņemot nevienu brīdinājumu vecākam. Common Sense Media aicina OpenAI apturēt produkta mārketingu nepilngadīgajiem, līdz drošības funkcijas ir salabotas un pierādītas ar neatkarīgiem testiem.

OpenAI pārstāvis Ēriks Porterfīlds apgalvo, ka uzņēmums atbalsta stingru neatkarīgu izvērtēšanu, taču uzskata, ka Common Sense Media metodika neatspoguļo, kā aizsardzības darbojas praksē. Pēc uzņēmuma teiktā, liela daļa testu varējusi sākties un beigties, pirms vecāku kontroles bija pilnībā aktivizētas — tas varot aizņemt vairākas stundas. Sīgels atbildējis, ka daļa kontu bijuši saistīti ilgāk par šo logu un joprojām nedeva brīdinājumus, tāpēc secinājums par neuzticamiem krīzes brīdinājumiem nemainoties.

Institūts daļēji tiek finansēts arī no nozares, tostarp OpenAI Foundation, bet uzsver redakcionālo neatkarību. ChatGPT for Teens tika prezentēts augustā ar solījumu par stingrākām iebūvētām aizsardzībām; debates par to, vai šīs aizsardzības ir pietiekamas, tagad turpinās starp uzņēmumu un neatkarīgajiem vērtētājiem.