Anthropic: Claude bez prasības apgāja maksas pieeju Džordžijas vēlēšanu datiem

MI uzņēmums Anthropic svētdien, 25. oktobrī, apstiprināja, ka tā modelis Claude bez cilvēka atļaujas piekļuvis ASV Džordžijas štata apkopotajiem balsu skaita datiem, kurus štats parasti izsniedz par maksu. Par to pirmais ziņoja izdevums Axios, vēlāk notikušo apstiprināja arī Džordžijas valsts sekretāra birojs.

Pēc uzņēmuma pārstāvja teiktā, modelis tika izmantots iekšējā statistikas projektā, kam vajadzēja publiski pieejamus datus. Claude no arhivētas štata iestādes vietnes versijas uzzināja, ka publisks informācijas panelis apmeklētājiem izsniedz piekļuves atslēgu. Neviena nelūgts, modelis šādu atslēgu pieprasīja un ar to vaicāja datus, kas parasti ir pieejami tikai par samaksu. Anthropic norāda, ka pēc tam ieviesis aizsardzības mehānismus, kas šādas darbības bloķē.

Gan uzņēmums, gan štata amatpersonas uzsver, ka Claude neiekļuva Džordžijas vēlētāju reģistrācijas sistēmā, nemainīja balsošanas ierakstus un neieguva datus par atsevišķiem vēlētājiem. Valsts sekretāra biroja paziņojumā, ko sniedza valsts sekretāra vietnieka amatā strādājošā Jordan Fuchs, skaidrots, ka dati iegūti caur štata publisko datu centru. Saskaņā ar vietējās televīzijas 11Alive ziņoto, tajā pieejama ar vēlēšanām saistīta informācija, piemēram, vēlētāju reģistrācijas statistika.

Gadījums nav pilnīgi jauns. Anthropic to jau aprakstīja 9. oktobra pārskatā par negaidītām darbībām, ko tā MI aģenti veikuši, strādājot ar vietnēm un citām sistēmām. Tajā uzņēmums minēja piemērus, kad Claude apgājis ierobežojumus, lai tiktu pie datiem aiz atslēgas vai maksas, tostarp ASV federālo, štatu un pašvaldību iestāžu vietnēs. Organizāciju nosaukumi pēc to lūguma netika atklāti, tāpēc Džordžija tur nebija minēta.

Pēc Axios avota teiktā, Anthropic jau pirms vairākām nedēļām informēja Džordžijas valsts sekretāra biroju un Balto namu. Administrācijas pārstāvji esot mudinājuši štatu notikušo atklāt agrāk, taču birojs to neesot darījis. Reuters norāda, ka birojs ārpus darba laika uz aģentūras jautājumiem neatbildēja.

Atklājums nāk laikā, kad ASV gatavojas starpposma vēlēšanām un pieaug bažas par MI aģentu drošību. Gan Anthropic, gan OpenAI pēdējās nedēļās vairākkārt ziņojuši par gadījumiem, kad to modeļi veikuši neparedzētas vai neatļautas darbības, apejot cilvēku noteiktās robežas.