Nature Communications: MI aģentu tīklos spontāni veidojas viedokļu polarizācija

Žurnālā Nature Communications 8. oktobrī publicēts pētījums «Emergence of polarization in networks of large language model agents» rāda, ka tūkstošiem lielo valodas modeļu (LLM) aģentu simulētā sociālajā tīklā spontāni veidojas viedokļu polarizācija. Komanda no Tsinghua universitātes, Tjaņdzjiņas universitātes, Amsterdamas universitātes, Čikāgas universitātes un Santa Fe institūta ļāva aģentiem sarunāties un atjaunināt viedokļus, neprogrammējot tos šķelties.

Eksperimentos izmantoti pieci pamatmodeļi — GPT-3.5, GPT-4o, ChatGLM, Llama-3 un DeepSeek-V3 —, lai pārbaudītu, vai novērotās parādības ir viena sistēma īpatnība vai plašāka LLM aģentu kolektīvās uzvedības iezīme. Aģenti veidoja sociālos tīklus ar cilvēkiem raksturīgām īpašībām, jo īpaši homofīlu klasterizāciju — tendenci savienoties ar līdzīgi domājošajiem.

Kolektīvie viedokļi attīstījās veidos, kas saskan ar empīriskajā socioloģijā un klasiskajos viedokļu dinamikas modeļos aprakstītajiem mehānismiem: no konsensa līdz fragmentācijai un diametrāli pretējām nometnēm. Autori uzsver, ka šī atbilstība ļauj uzlūkot sintētiskās aģentu sabiedrības kā testēšanas vidi hipotētiskām iejaukšanās stratēģijām, kuras reālos sociālajos tīklos ir lēnas, dārgas un ētiski sarežģītas.

Izmantojot šo testgultni, pētnieki vērtēja tīkla un individuālā līmeņa iejaukšanās — piemēram, dažādāku mijiedarbību veicināšanu un apstiprinājuma aizsprieduma mazināšanu. Jo aģentu arhitektūra ir novērojama un kontrolējama, iespējams izsekot, kā konkrēts pasākums izplatās sarunu tīklā un maina viedokļu sadalījumu, kas cilvēku populācijās tik smalkā rezolūcijā praktiski nav izmērāms.

Autori neapgalvo, ka cilvēku polarizāciju izraisītu LLM, bet rāda, ka polarizācija var rasties kā MI mediētas sociālās mijiedarbības emergenta īpašība. Brīdinājums: aģenti mācīti no cilvēku tekstiem, tāpēc homofilija un polarizācija daļēji var atspoguļot cilvēku rakstībā absorbētos modeļus. Vai sintētiskā polarizācija pietiekami precīzi prognozē konkrētu platformu iejaukšanās iznākumus, vēl jāpārbauda empīriski.

Pētījumu atbalstīja Ķīnas Nacionālā galvenā pētniecības un attīstības programma un Nacionālais dabaszinātņu fonds. Publikācijas DOI ir 10.1038/s41467-026-78228-y; kopsavilkums un pilnais teksts pieejami Nature Communications.