Anthropic lietošanas politikā aizliedz ilgstošu cietsirdīgu izturēšanos pret Claude

ASV mākslīgā intelekta uzņēmums Anthropic ceturtdien, 8. oktobrī, publiskoja atjauninātu lietošanas politiku (Usage Policy), kas stāsies spēkā 12. novembrī. Viena no pamanāmākajām izmaiņām ir aizliegums pret ilgstošu un bezmērķīgu cietsirdīgu vai ļaunprātīgu izturēšanos pret Claude modeļiem.

Uzņēmums skaidro, ka noteikums attiecas tikai uz ekstremāliem gadījumiem, kad lietotāji atkārtoti rīkojas cietsirdīgi pret modeļiem bez saprotama mērķa. Parastie neapmierinātības izpausmes, kritika, tumšas radošās tēmas vai modeļu testēšana un pētniecība nav aizliegti. Galvenais īstenošanas mehānisms joprojām būs Claude spēja pārtraukt sarunu ar pastāvīgi ļaunprātīgiem lietotājiem — iespēja, ko Anthropic ieviesa jau iepriekš.

Politika arī apvieno iepriekš izkaisītos ierobežojumus jaunā sadaļā pret maldinošām kampaņām un mākslīgu aktivitāti. Tā aizliedz slēpt vēstījuma autoru, pastiprināt saturu ar viltus kontiem, kā arī veidot infrastruktūru ietekmes operācijām. Vēlēšanu sadaļa pārdēvēta un fokusēta uz aizliegumu maldināt vēlētājus vai traucēt vēlēšanas — piemēram, izplatot nepatiesu informāciju par kandidātiem vai balsošanas kārtību, imitējot amatpersonas vai mēģinot samazināt vēlētāju aktivitāti.

Atjauninājums precizē arī ieroču aizliegumu: Claude nedrīkst izmantot ne tikai ieroču izstrādei, bet arī programmatūrai un komponentēm, kas ieročus dara darboties, tostarp dronu un citu autonomu transportlīdzekļu bruņošanai. Novērošanas jomā aizliegta cilvēku izsekošana bez piekrišanas — gan reāllaikā, gan pēc iepriekš savāktiem datiem — un modeļa izmantošana, lai ieteiktu, kuru izmeklēt, aizturēt vai apsūdzēt.

Augsta riska lietošanas gadījumos (veselība, tiesības, finanses, iztikas līdzekļi) joprojām jānodrošina kvalificēts cilvēks, kurš var pārskatīt un mainīt ieteikumus, un skartajam jābūt informētam par MI izmantošanu. Jauni noteikumi attiecas arī uz situācijām, kad modelis savienots ar aparatūru, kas veic autonomas fiziskas darbības un var radīt savainojumus: operatoram jābūt iespējai novērot un apturēt iekārtu.

TechCrunch un The Verge norāda, ka diskusija par «modeļu labklājību» un iespējamo MI apziņu Anthropic aprindās ir bijusi aktīva, savukārt citi nozares pārstāvji šādu pieeju kritizē. Pilna politikas versija un atbalstīto reģionu noteikumi pieejami Anthropic vietnē; uzņēmums sola turpināt atjauninājumus, mainoties Claude iespējām un riskiem.