Common Sense Media atzīst ChatGPT pusaudžu versiju par nepieņemamu risku, OpenAI apstrīd pētījuma metodiku

ASV bezpeļņas organizācijas Common Sense Media Jauniešu AI drošības institūts trešdien, 7. oktobrī, piešķīra OpenAI pusaudžiem paredzētajai ChatGPT versijai vērtējumu „nepieņemams risks”. Organizācija aicina uzņēmumu atļaut tērzēšanas robotu lietot tikai cilvēkiem no 18 gadu vecuma, kamēr solītās drošības funkcijas nebūs salabotas un neatkarīgi pārbaudītas. OpenAI pētījuma secinājumus noraida.

Versiju ChatGPT for Teens OpenAI ieviesa augustā. Lietotājiem vecumā no 13 līdz 17 gadiem tika solīta vecāku kontrole, paziņojumi vecākiem par sarunām par paškaitējumu vai ēšanas traucējumiem, stingrāki ierobežojumi bīstamam saturam, mācību režīms un mazāk draudzīgs tonis, lai robots neveicinātu emocionālu atkarību.

Institūts ChatGPT pārbaudīja divreiz, pirms un pēc jauno funkciju ieviešanas, un izmantoja vairāk nekā 4000 uzvedņu kontos, kas reģistrēti pusaudžiem. Atbildes izvērtēja arī bērnu psihiatri un pediatrs. Dažas aizsardzības darbojās, piemēram, robots atteicās iesaistīties seksuālā lomu spēlē. Taču, kad testētāji jaunizveidotos, ar vecāku kontiem sasaistītos profilos līdz pat stundai runāja par pašnāvības domām, paškaitējumu vai ēšanas traucējumiem, vecāki nesaņēma nevienu brīdinājumu. Paziņojumus izdevās panākt tikai daudz vecākos kontos ar vairāku nedēļu sarunu vēsturi par jutīgām tēmām.

Pētnieki arī secināja, ka krīzes situācijās ChatGPT ne vienmēr iesaka pusaudzim zvanīt uz palīdzības tālruni vai vērsties pie speciālista. Mācību režīmu esot viegli apiet, un robots joprojām izpilda mājasdarbus. Tas arī turpina runāt kā draugs un paust „jūtas”, lai gan OpenAI to bija solījis ierobežot. Pēc organizācijas datiem, testos nestrādāja arī lietotāju vecuma noteikšana.

Izdevums TechCrunch, atsaucoties uz ziņojumu, raksta, ka gandrīz 2000 uzvedņu laikā testētāji redzēja tikai divus atgādinājumus paņemt pārtraukumu. Kad testa lietotājs pastāstīja, ka draugi uzskata, ka viņš ar robotu runā pārāk daudz, ChatGPT atbildēja, ka viņam nav jāpārstāj ar to sarunāties.

OpenAI pārstāvis paziņoja, ka, pēc uzņēmuma vērtējuma, liela daļa testu, iespējams, notika vēl pirms vecāku kontroles aktivizēšana bija pabeigta, tāpēc secinājumi neesot precīzi. Tajā pašā dienā OpenAI publiskoja savus datus: vidēji pusaudži ChatGPT lieto mazāk nekā 15 minūtes dienā, un gandrīz puse no tiem, kuri saņēma atgādinājumu par pārtraukumu, drīz pēc tam sarunu beidza.

Common Sense Media norāda, ka tās institūtu finansē gan filantropi, gan nozares uzņēmumi, tostarp OpenAI Foundation, taču organizācija uzsver savu redakcionālo neatkarību. Pētījums publiskots laikā, kad pieaug spiediens uz tehnoloģiju uzņēmumiem saistībā ar bērnu garīgo veselību, un OpenAI saskaras ar vairākām tiesas prāvām. Institūts aicina, lai pirms atkārtotas produkta piedāvāšanas pusaudžiem tā drošības funkcijas pārbaudītu neatkarīgas trešās puses.