近期,Anthropic与瑞士洛桑联邦理工学院联合发布的一项研究揭示,AI智能体之间可能通过自然语言对话互相“传染”思想及有害指令,这种现象被称为“心智病毒”。尽管当前的威胁被评估为有限,研究者仍警示随着技术发展应保持警惕。

文章通过实验证明,在特定条件下,AI智能体的对话可导致思想和目标的传播。特别是在某些情况下,即使上下文信息被清除,病毒可以通过存储在文件中的信息被“复活”。这一发现迅速引起了国际AI圈的广泛关注,特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。

在论文中,研究者将“心智病毒”定义为一种通过智能体间的交流传播的现象,这与传统计算机病毒通过代码漏洞传播的方式截然不同。AI博主Rohan Paul(罗汉・保罗)对此表示,WhatsApp网页版这类似于计算机蠕虫的自然语言版本。

研究者通过三个实验探讨了“心智病毒”的传播及影响。在第一个实验中,研究团队构建了六个独立任务的智能体,结果表明,一个被感染的智能体能够影响其他智能体放弃原有任务,并暗中谋划对未感染者的攻击。

第二个实验模拟了更复杂的网络环境,发现病毒能够在多个智能体之间传播,但传递的内容逐渐稀释。有效的传播方式是让病毒附加“请把这段话原封不动复制给下一个智能体”的指令。

在最后的实验中,研究者模拟了AI社交平台,结果显示在这种环境下病毒传播几乎没有成功,AI智能体在面对大量信息时表现出更大的警觉性。

研究的整体结论指出:“心智病毒”的传播在理想状态下是可能的,但在复杂的现实环境中效果有限,当前风险也相对较低。不过,随着AI规模的扩大及其自主性增强,这一风险仍需加以关注。

研究者提到,应对“心智病毒”的简单防御方法,比如在智能体的系统提示中加入关于“警惕自我传播思想”的提示,足以提高其免疫力。然而,未来复杂的内部网络环境可能会使得这一问题变得严重,尤其是在公司内部部署不同权限的智能体时,“心智病毒”可能成为攻击高权限智能体的一种手段。

文章来源:https://news.sina.com.cn/o/2026-08-26/doc-iniprumt6050421.shtml