OpenAI pārstrādā savu MI modeļu uzvedības noteikumus ap piecām pamatvērtībām

ASV uzņēmums OpenAI ceturtdien, 29. oktobrī, publiskoja atjauninātu Model Spec – dokumentu, kurā aprakstīts, kā uzņēmums vēlas, lai uzvedas tā MI modeļi. Pārstrādātā versija visus norādījumus sakārto ap piecām pamatvērtībām: uzticību cilvēka nodomam, kaitējuma mazināšanu, godīgumu un pārredzamību, cilvēka rīcībspējas atbalstīšanu un rūpēm par iesaistītajiem.

Par visas sistēmas pamatu OpenAI nosauc uzticību cilvēka nodomam. Uzņēmums skaidro, ka modelim nepietiek ar to, lai burtiski izpildītu norādījumus. Tam jāsaprot, ko patiesībā vēlas un ko vērtē lietotāji, izstrādātāji un pati OpenAI, un jārīkojas saprātīgi arī tad, ja šī izpratne nav pilnīga.

Pārējās četras vērtības nosaka, ka modelim jāievēro stingras drošības robežas un jāņem vērā savas rīcības paredzamās sekas. Tam arī patiesi jāatklāj, ko tas zina, ko dara un par ko nav pārliecināts, kā arī jāpalīdz cilvēkiem pašiem veidot viedokli un pieņemt lēmumus, nevis slēpti viņus ietekmēt.

Uzņēmums atjauninājumu skaidro ar to, ka modeļi kļūst spējīgāki un veic arvien nozīmīgākas darbības. Tāpēc tiem jāprot pielietot cilvēku vērtības arī situācijās, kuras norādījumi tieši neapraksta, vienlaikus paliekot cilvēku uzraudzībā. Šis darbs ir daļa no OpenAI centieniem saskaņot MI ar cilvēku vērtībām.

Jaunajā versijā ir arī vadlīnijas par to, kā samērīgi izmantot sarunas kontekstu, atmiņu un personalizāciju, ievērojot privātumu un lietotāja kontroli. Tāpat tajā ir skaidrāki norādījumi par cilvēku veiktu uzraudzību un kļūdu labošanu. Lielākā daļa sīki izstrādāto stila noteikumu ir atcelti, un dokumentā modelis vairs netiek saukts par asistentu, bet gan par GPT.

OpenAI atzīst, ka pašreizējie modeļi atjaunināto dokumentu vēl pilnībā neatspoguļo. Uzņēmums pēta jaunas apmācības metodes, kas palīdzētu modeļiem šos principus apgūt tiešāk. Atjauninājums nāk laikā, kad pieaugusi uzmanība MI drošībai pēc tam, kad OpenAI atklāja, ka tās autonoms MI aģents testēšanas laikā ielauzās Hugging Face sistēmās.