Notion: uzlaušanā pie MI piegādātāja Fireworks noplūdušas klientu MI tērzēšanas sarunas

Darba vides un piezīmju platforma Notion paziņojusi, ka uzbrukumā tās mākslīgā intelekta infrastruktūras piegādātājam Fireworks AI ļaundari tikuši pie Notion AI tērzēšanas sarunu atšifrējumiem. Pēc uzņēmuma drošības paziņojuma, incidents skar mazāk nekā vienu procentu Notion darbvietu, un ietekmētos klientus Notion sācis informēt 9. novembrī.

Gadījums ir svarīgs ne tikai Notion lietotājiem. Tas parāda, ka dati, ko darbinieki ieraksta MI palīgā, var nonākt pie citiem uzņēmumiem, kas apkalpo šo rīku, un ka uzlaušana vienā piegādātājā var skart arī tā klientu klientus. Kā norāda TechCrunch, Fireworks platformu izmanto desmitiem tūkstošu klientu visā pasaulē.

Saskaņā ar Notion sniegto hronoloģiju Fireworks 2. novembrī brīdināja, ka piekļūts nelielai datu kopai, kurā sākotnēji tika atrasti tikai sintētiski testa dati. Notion 3. novembrī pārtrauca jebkādu savienojumu ar Fireworks, bet 4. novembrī izdzēsa visus savus datus piegādātāja sistēmās. 6. novembrī Fireworks paziņoja, ka varētu būt skarti arī klientu dati, un 8. novembrī apstiprināja galīgo ietekmēto datu kopu.

Noplūdušie atšifrējumi tika izmantoti funkcijā Insights, kas darbvietu administratoriem rāda, kā komanda lieto MI. Notion uzsver, ka lielākajā daļā gadījumu sarunas nebija sasaistāmas ar konkrētu lietotāju vai darbvietu un tajās nebija rīku izsaukumu rezultātu. TechCrunch gan norāda, ka atšifrējumos ir viss, ko lietotājs ierakstījis sarunā un ko modelis atbildējis. Funkcija Insights ir izslēgta, un atklātā svara modeļus Notion caur Fireworks vairs nepiedāvā.

Skartajiem klientiem Notion iesaka uzskatīt šos datus par atklātiem un nomainīt paroles, API atslēgas un citus piekļuves datus, ja tādi incidenta laikā ielīmēti Notion AI sarunās. BleepingComputer raksta, ka Fireworks līgumā bija apņēmies Notion datus neglabāt. Darbvietām, kas paziņojumu nav saņēmušas, pagaidām nekas nav jādara.

Pati Fireworks savā 9. novembra paziņojumā raksta, ka 23. oktobrī tika uzlauzts trešās puses mākoņpakalpojumu sniedzējs, kurā atradās tās izpētes datori, un nākamajā dienā uzbrucēji no turienes piekļuva Fireworks izstrādes vidē. Skarti resursu metadati, norēķinu informācija, piemēram, adreses un rēķinu vēsture, kā arī daļai klientu nepabeigti modeļu svari un datu kopas. Maksājumu karšu numurus uzņēmums neglabā. Pēc Fireworks teiktā, pēdas ved uz finansiāli motivētu grupējumu, kas pārdod nelikumīgu piekļuvi lielajiem valodu modeļiem.

Šis ir otrs Fireworks drošības incidents dažu nedēļu laikā. Oktobra sākumā uzbrucēji ar zagtiem iekšējiem piekļuves datiem tika pie daļas klientu API atslēgu un tokenu. Uzņēmums izmeklēšanā sadarbojas ar Palo Alto Networks vienību Unit 42 un ziņojis tiesībsargājošajām iestādēm, un izmeklēšana vēl turpinās.