Anthropic与瑞士洛桑联邦理工学院联合发布AI心智病毒论文

近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》。论文通过实验证明，在特定条件下，AI智能体之间可通过自然语言对话相互“传染”思想、目标及有害指令。即便上下文被清空、记忆被重置，病毒仍能通过文件持久化“复活”。论文指出，该风险目前仅构成有限威胁。该现象被定义为“心智病毒”，其传播机制不同于传统代码漏洞，而是通过一个智能体说服另一个智能体接受某种信念，并将传播指令写入长期记忆，持续感染下一个智能体。特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。（产联社）