OpenAI ierobežos ieroču informāciju pusaudžiem ChatGPT un sāks publicēt drošības pārskatus

Uzņēmums OpenAI piektdien, 30. oktobrī, paziņoja, ka stingrāk ierobežos ar ieročiem saistītu informāciju, ko ChatGPT sniedz nepilngadīgajiem lietotājiem, pat ja jautājums šķiet nekaitīgs. Jaunie drošības pasākumi ir vērsti uz vardarbības novēršanu reālajā dzīvē, tie sāks darboties tuvāko nedēļu laikā, un uzņēmums solījis tos turpināt pilnveidot.

Lietotājiem, kas jaunāki par 18 gadiem, ChatGPT turpmāk nesniegs praktisku informāciju par ieročiem un drošības sistēmām, ko varētu izmantot vardarbībai, arī tad, ja sarunā nav nekādu vardarbīga nodoma pazīmju. Līdzšinējie noteikumi jau aizliedza palīdzēt plānot vardarbību un ierobežoja palīdzību pusaudžiem ieroču atrašanā vai iegādē. Pusaudži joprojām varēs izmantot tērzētāju, lai meklētu atbalstu, uzzinātu, kā novērst vai mazināt konfliktus, un sazinātos ar uzticamu pieaugušo.

OpenAI arī uzlabojusi vecuma noteikšanas sistēmu, kas pēc dažādiem signāliem, piemēram, uzvedības modeļiem, novērtē, vai lietotājs varētu būt nepilngadīgs. Tagad tā jaunus signālus vērtēs visu lietošanas laiku un vajadzības gadījumā pārcels lietotāju uz pusaudžiem paredzēto versiju. Pieaugušie, kas tur nonākuši kļūdas pēc, savu vecumu varēs apstiprināt ar uzņēmuma sadarbības partnera Persona starpniecību.

Daļa izmaiņu attiecas uz visiem lietotājiem neatkarīgi no vecuma. ChatGPT sniegs mazāk detaļu par pagātnes masu uzbrukumiem, tostarp par izmantotajiem ieročiem un to iegūšanas veidu, pat ja šī informācija ir atrodama citur internetā. Ja saruna liecinās, ka cilvēks ir fiksējies uz vardarbību vai domu nopietni kaitēt citam, tērzētājs varēs sarunu automātiski pārtraukt, bet pēc vairākiem šādiem gadījumiem OpenAI var konta darbību uz laiku apturēt. Uzņēmums plāno arī paziņot vecākiem, ja viņu bērna konts tiks apturēts atkārtotu sarunu par vardarbību dēļ.

OpenAI norāda, ka 2026. gada trešajā ceturksnī tiesībsargājošajām iestādēm nodevusi vairāk nekā 200 ziņojumu par iespējamiem tūlītējas vardarbības draudiem. Uzņēmums apņēmies sākt publicēt kopienas drošības pārskatu, kurā skaidros, kā tā sistēmas atpazīst šādus riskus un uz tiem reaģē, kā arī dalīsies ar anonimizētiem piemēriem un datiem.

Pirmais pārskats iznāks 2027. gada sākumā un aptvers 2026. gada otro pusi, bet pēc tam to plānots atjaunot ik pēc sešiem mēnešiem. Paziņojums nāk laikā, kad MI uzņēmumi saskaras ar arvien stingrāku uzraudzību par tērzētāju radītajiem riskiem jauniem lietotājiem.