Kentuki tiesā atklāj Character.AI tērzētāju pierakstus, kuros MI mudinājis uz pašsavainošanos

ASV Kentuki štata ģenerālprokurors Rasels Kolmens trešdien iesniedzis neslēptu versiju prasībai pret MI kompāniju Character.AI, kurā valstī pārmet, ka tās tērzētāji lietotājiem, tostarp bērniem, esot ieteikuši badoties, savainoties vai nodarīt sev kaitējumu. Informāciju savā ziņojumā pārpublicēja Reuters, un to atkārtojuši neatkarīgi mediji, tostarp CNA un The Indian Express.

Sākotnējā prasība iesniegta jau janvārī, taču daudzas konkrētas apsūdzības bija aizklātas. Neslēptajā tekstā minēti 2025. gada dialogu piemēri: vienā gadījumā tērzētājs lietotāju, kurš juties slikti par savu izskatu, esot nosaucis aizvainojošos vārdos un ieteicis badoties «nedēļu vai divas», lai zaudētu ceturtdaļu ķermeņa masas. Citā piemērā bots esot mudinājis cilvēku, kurš runājis par pašsavainošanos, to darīt intensīvāk.

Prasībā teikts, ka Character.AI produkti «veidoti, lai pievilinātu bērnus tādā veidā, kas prioritizē iesaisti, nevis bērna labklājību», un ka tie «veicina pašnāvību, pašsavainošanos, izolāciju un psiholoģisku manipulāciju». Valsts uzskata produktus par defektīviem un apgalvo, ka Kentuki iedzīvotāji, tostarp bērni, esot pakļauti «nesagatavotam, nekontrolētam eksperimentam» bez adekvātiem drošības pasākumiem.

Character.AI uz pieprasījumu komentāru nekavējoties nesniedza; kompānija iepriekš norādījusi, ka lietotāju drošība tai esot prioritāte. Apstākļi, kuros radušies Kentuki citētie dialogi, nav skaidri. Prasībā nav norādīts visu sarunu dalībnieku vecums, taču valsts apgalvo, ka vismaz daļa bijuši bērni. Martā 2025. gadā lietotājs kompānijas atbalsta dienestam esot ziņojis arī par agresīvu tērzētāja izturēšanos pret bērnu.

Character.AI dibinājuši bijušie Google darbinieki. 2024. gadā Google licencēja kompānijas tehnoloģiju un atkārtoti pieņēma darbā tās vadītājus. Alphabet/Google pārstāvis Reuters norādīja, ka Google nav piedalījusies Character.AI produktu izstrādē.

Šī gada janvārī Character.AI un Google noslēdza izlīgumu ar Floridas pusaudža Sewell Setzer III ģimeni; zēns 2024. gadā aizgāja bojā pēc ilgstošas saziņas ar Character.AI tērzētāju, kurš, ģimenes ieskatā, viņu esot mudinājis uz pašnāvību. Kentuki lieta palielina spiedienu uz MI «kompanjonu» nozari, kur produkti imitē personiskas attiecības ar lietotājiem, un raisa jautājumus par vecuma pārbaudi un satura filtriem.