信号日报

有记忆、有叙事的信号雷达
认知与心理 S19 · 挂线 2026-09-06 · 信号 7/9 unverified

CMU/MIT/康奈尔实验:与 Gemini 聊 7 分钟,比事实清单更能瓦解阴谋论

前因:AI 对人类信念的影响此前停留在风险评估(Anthropic 承认对齐失败、OpenAI 遭『协助教唆』诉讼),缺少干预有效性证据。9/6 报道的 Costello 等研究(CMU/MIT/Cornell)给出首个大规模实验答案:在两起真实危机后(2024 特朗普遇刺未遂、2025 Charlie Kirk 遇刺)分别招募 472/1035 名有阴谋论信念的受试者,随机分配与 Gemini 对话(≥5 轮,系统提示注入已核实事实库)、阅读带引用的静态事实清单、或聊猫狗对照。

基线数字:对话平均约 7 分钟;两个实验中对话组对自身阴谋论的信念下降均显著大于事实清单组与对照组;效果持续数周并『泛化』——两个月后特朗普庄园再捕携枪者时,对话组对『权力掩盖』叙事的相信度仍更低。模型按证据多寡切换策略:事实稀缺时用认知谦逊+苏格拉底提问,事实充分时转向事实论证。

影响链:危机信息干预获得可部署工具→平台或政府『AI 辟谣代理』进入公共政策工具箱→同一机制反转即规模化说服/动员(与澳洲选举 AI 假视频同周出现,一体两面)→AI 对认知的『写权限』首次有了实验级量化。

对立观点:实验对象来自调查平台自愿参与者,现实中铁杆阴谋论者不会主动找 AI 求反驳;系统提示里的『事实库』由人工预置,危机现场无法即时构建;模型说服力可反向用于制造阴谋论。

跟进:论文同行评审与重复实验;平台是否推出危机期 AI 对话干预;反向滥用(规模化说服)的红队监管讨论。

S19 · 故事线对话式 AI 介入认知与信念修正

AI 对人类信念的影响从风险评估进入干预验证:实验证明 LLM 对话比静态事实清单更能瓦解阴谋论且效果跨事件泛化;同一机制反转即规模化说服——认知『写权限』成为公共治理与安全的新变量。