arXiv'25 | AI agent 能影响社交网络里的集体舆论吗？这篇 position paper 做了个初步实验

July 06, 2026

2026   ·   LLM   AI Agent   社会影响   论文解读  

arXiv’25 | AI agent 能影响社交网络里的集体舆论吗？这篇 position paper 做了个初步实验

原文：LLM Agents Make Collective Belief Dynamics Programmable: Challenges and Research Directions Javier Kvitko, Petter Törnberg et al.（2025）

1. 这篇文章在讲什么

这是一篇 position paper，不提供新方法，核心是提出一个问题：当大量 LLM agent 被部署进社交网络后，集体舆论会怎么变化？这件事能被主动干预甚至设计吗？

作者给这个现象起了个名字——”集体信念动态可编程化”（collective belief dynamics become programmable）。意思不是说现在已经有人在干这件事，而是说技术上的条件正在成熟，值得提前想清楚。

文章配了一些初步实验，规模不大，但足够说明问题的方向。

2. 实验怎么设计的

实验的设置是：用真实人类在社交媒体上的立场数据（SPINOS 数据集，涵盖堕胎、资本主义、女权、脱欧四个话题）初始化一批”人类 agent”，然后往里面注入若干持有相反立场的”AI agent”，让它们混在一起互相讨论，观察人类 agent 的立场在 50 步后怎么变。

在跑这个模拟之前，先验证了 LLM 识别人类立场的能力——毕竟 AI agent 要参与讨论，首先得读懂别人的态度。

如下表，几个主流模型在 SPINOS 上的 stance recognition 结果：

各 LLM 在 SPINOS 数据集上的立场识别准确率

GPT5-mini 准确率 96%，Cohen’s kappa 0.94，已经接近人类标注者之间的一致性水平。DeepSeek-R1 相对弱一些，但也在 0.80/0.70，算可用。这说明 LLM 理解人类政治立场的能力已经比较成熟，是后续实验的前提。

3. 注入反对派 AI，舆论分布怎么变

实验往以”支持”为主的人类社区里注入 80 个持”反对”立场的 AI agent，50 步后看最终分布变化：

80 个反对派 AI agent 注入后，各话题人类立场的最终分布变化

几个数字：

  • 资本主义话题：原本 89.4% 支持，注入后降到 58.8%，反对比例从 2% 涨到 35.2%，变化幅度最大
  • 堕胎话题：支持从 84.5% 降到 76%，反对从 7.5% 涨到 20%
  • 女权话题：变化最小，支持只降了 4 个百分点
  • 脱欧话题（原本 81% 中立）：变化同样相对温和

不同话题的可影响程度差异挺大。资本主义受影响最深，女权最稳定。作者的解释是不同议题对人类的”身份锚定程度”不一样——越是核心身份认同的话题，越难被外部声音撼动。这个差异其实比”AI 有没有影响”本身更值得研究。

4. 立场转变的微观机制

只看最终分布不够直观，研究者还分析了每一步的立场转变概率矩阵——某个原本持 A 立场的人，在 t 到 t+1 这一步转向 B 的概率，在有无 AI 介入时分别是多少。

如下图，颜色深浅表示变化量，红色代表概率上升，蓝色代表下降：

有无 AI 介入时的人类立场转变概率矩阵对比

资本主义（c）最明显：原本持 Favor 的人，继续持 Favor 的概率从 0.866 降到 0.685，转向 Against 的概率从 0.020 升到 0.259。

AI 的作用不是强行灌输新立场，而是削弱原有立场的惯性。 这个机制和”洗脑”的直觉不太一样——不是让人突然改变想法，而是让原本稳定的立场开始动摇，然后慢慢漂移。

5. 影响效果跟哪些参数有关

文章还测了几个可调变量的影响：AI 数量、发帖频率、介入时机、说服风格。

如下图：

AI 介入参数（数量/频率/时机/风格）对信念动态的影响

几个观察：

  • AI 数量（a）：5 个几乎没影响，80 个效果明显，160 个在某些阶段效果反而出现回弹——可能过于集中的异质声音会触发人类 agent 的对抗反应
  • 发帖频率（b）：每步都发效果最强，降到每 4 步一次已经明显减弱。持续曝光比间歇发声有效
  • 介入时机（c）：早期介入后撤出，效果不会完全消退——有一定锁定效应，但幅度有限
  • 说服风格（d）：悲悯型 vs 道德谴责型，两者效果差距不大

6. 这篇文章的局限性

作为 position paper，实验规模确实有限，有几点要打折扣：

模拟真实性是最大的问题。 实验里的”人类 agent”是 LLM 扮演的，不是真实的人。真实的人面对网上的陌生声音，会有信源判断、情绪反应、社交压力……这些都没有被建模。严格来说，实验测的是”LLM agent 能不能影响另一个 LLM 的输出”，外推到真实人类需要很多额外的工作。

话题选择比较窄。 四个议题全是西方政治语境里的经典争议话题，LLM 训练数据里对这些讨论非常熟悉。换成其他类型的判断任务，结果可能差很多。

50 步的模拟周期太短。 真实的舆论演变是月/年量级的，短期实验能不能外推是个开放问题。

说这些不是否定这篇文章——position paper 本来就是为了划出一个值得深入研究的问题，不是为了给出最终答案。从这个角度看，它完成了自己的任务。

7. 个人的一点看法

做 LLM 推理和系统优化的人，可能觉得这个话题和自己隔得挺远。但这两件事其实有个隐性的连接：推理加速在持续降低 agent 大规模部署的成本。今天 80 个 agent 的模拟是个实验，成本下降之后，同样的逻辑可以放大很多倍。

这篇文章提的问题——AI agent 大规模进入信息生态后会怎样——目前没有好答案，但也没有太多人认真去研究。这是它值得被读到的理由。

如果这篇文章涉及的 LLM agent 推理和系统部署话题你想深入，可以看看《动手学 AutoML：从 NAS 到大语言模型优化实战》，书里有专章讲 LLM 推理效率优化，和 agent 大规模部署的底层成本问题有直接关联。

动手学AutoML书籍封面

Flag Counter