Jozua Bengio aicina drošības prioritāti izvirzošos MI pētniekus pamest robežlaboratorijas

Kanādas MI pētnieks un Tjūringa balvas laureāts Jozua Bengio ceturtdien, 8. oktobrī, portālā Transformer publicēja atklātu vēstuli, kurā aicina robežlaboratoriju darbiniekus, kuriem patiesi prioritāra ir drošība, pamest šos uzņēmumus. Vēstule adresēta „pētniekiem, kurus es apmācīju, un tiem, kas mācījās no mana darba”, un to apstiprina arī Bengio oficiālā vietne.

Bengio raksta, ka drošības darbs uzņēmumu iekšienē „nepietiekami bremzē bīstamo sacensību”, jo tas reizēm konfliktē ar galveno mērķi – ātrāk palaist nākamo modeli. Viņš norāda, ka neatvērt spriedumu par tiem, kas paliek, jo iekšā ir pieejama vairāk informācijas un resursu, taču aicina godīgi izvērtēt, vai viņi vēlas būt daļa no pūliņa, kas „var virzīt cilvēci uz kraujas malu”.

Vēstulē Bengio atsaucas uz nesenu ANO Drošības padomes sēdi par MI incidentiem, kurā līdzīgus riskus esot minējuši arī OpenAI vadītājs Sems Altmans un Anthropic vadītājs Dario Amodei. Viņš citē Altmana vārdus, ka nesenā kontroles zaudēšana pār MI aģentiem ir satraucoša un ka „nekāds katastrofas riska līmenis nav pieņemams”, taču uzskata, ka vadošo laboratoriju rīcība neatbilst šiem vārdiem.

Bengio atgādina, ka pagājušajā gadā Monreālā dibināja bezpeļņas organizāciju LawZero, kas strādā pie drošas pēc konstrukcijas MI sistēmas. Viņš raksta, ka Kanādas un Vācijas valdības šomēnes apņēmušās sniegt vairāk nekā 200 miljonus dolāru šim darbam un ka organizācijai esot plāns piesaistīt vēl miljardus. Portāls MI Midday skaidro, ka LawZero jau iepriekš ziņots par līdz pat 300 miljonu dolāru atbalstu no abām valdībām.

Vēstules noslēgumā Bengio aicina darbiniekus iet uz MI drošības institūtiem, misijai veltītām organizācijām vai LawZero. „Ja jūs patiesi prioritizējat drošību, ir laiks pamest robežlaboratorijas,” viņš raksta, piebilstot, ka neviens viens pats neapturēs sacensību, bet pietiekami daudzi kopā to varētu izdarīt.