Anthropic atjauno Claude lietošanas politiku: aizliegta ilgstoša ļaunprātība pret modeli un vēlēšanu ietekmēšana

ASV MI uzņēmums Anthropic 8. oktobrī publicējis atjauninātu Claude lietošanas politiku. Lielākā daļa grozījumu precizē jau pastāvošos noteikumus, ņemot vērā, ka Claude arvien biežāk veic garākus un patstāvīgākus uzdevumus. Jaunā versija stājas spēkā 12. novembrī.

Viena no redzamākajām izmaiņām ir aizliegums pret ilgstošu un nevajadzīgu ļaunprātīgu vai nežēlīgu izturēšanos pret modeļiem. Anthropic norāda, ka noteikums attiecas tikai uz galējiem gadījumiem, kad lietotājs atkārtoti rīkojas nežēlīgi bez saskatāma mērķa. Parastie neapmierinātības, pretošanās, tumšu radošu tēmu vai modeļa testēšanas gadījumi nav aizliegti. Galvenais izpildes mehānisms paliek Claude iespēja pārtraukt sarunu ar pastāvīgi ļaunprātīgiem lietotājiem Claude.ai un Claude Code vidē.

Uzņēmums apvienojis iepriekš izkaisītus ierobežojumus jaunā sadaļā pret maldinošām kampaņām un mākslīgu aktivitāti. Tā aizliedz slēpt, kas stāv aiz ziņojuma, pastiprināt saturu ar viltus kontiem vai ierakstiem, kā arī veidot infrastruktūru ietekmes operācijām. Vēlēšanu sadaļa pārsaucota par «Neapdraudēt demokrātiskos procesus» un koncentrējas uz vēlētāju maldināšanu vai vēlēšanu traucēšanu, tostarp nepatiesu informāciju par kandidātiem vai balsošanu, kandidātu vai amatpersonu uzdošanos un līdzdalības apspiešanu.

Politika skaidrāk aizliedz arī ieroču izstrādi, tostarp vadības un kontroles programmatūru, kā arī dronu un citu autonomu transportlīdzekļu bruņošanu. Novērošanas jomā aizliegta cilvēku izsekošana bez piekrišanas — gan reāllaikā, gan analizējot iepriekš savāktus datus — un Claude nedrīkst ieteikt, ko izmeklēt, aizturēt vai apsūdzēt tiesībaizsardzībā.

Augsta riska lietošanā (veselība, tiesības, finanses, iztika vai piekļuve būtiskiem pakalpojumiem) joprojām vajadzīgs kvalificēts cilvēks, kas var pārskatīt un vajadzības gadījumā mainīt Claude ieteikumus, un skartajai personai jābūt informētai, ka izmantots MI. Ja modelis savienots ar aparatūru, kas var autonomi veikt fiziskas darbības un radīt traumu, kvalificētam operatoram jābūt iespējai novērot iekārtu un to apturēt, bet iekārtai — uzturēt drošu stāvokli, ja Claude tiek atvienots.

Pilna politika un atbalstīto reģionu noteikumi pieejami Anthropic mājaslapā. Uzņēmums sola politiku turpināt atjaunināt, mainoties modeļu iespējām un riskiem.