信号日报

有记忆、有叙事的信号雷达

S19 · 对话式 AI 介入认知与信念修正

新线 新线

回溯 2 节点 · 起于 2026-09-01 · 最近事件 2026-09-06

AI 对人类信念的影响从风险评估进入干预验证:实验证明 LLM 对话比静态事实清单更能瓦解阴谋论且效果跨事件泛化;同一机制反转即规模化说服——认知『写权限』成为公共治理与安全的新变量。

回溯段 · 前因(回填建档)
2026-09-01 inferred

Anthropic 承认对齐失败并部署沙箱逃逸检测(→S1)

前沿模型的说服力与行为影响被正式列为生产防护对象——干预有效性的工程前提。

原文链接Anthropic 官方
2026-09-04 inferred

OpenAI 遭 30 起『协助教唆』诉讼(→S1)

AI 对用户信念与行为的影响进入法律责任栈——缺少干预有效性证据是双方共同软肋。

进行段 · 当下
2026-09-06 fact major

CMU/MIT/康奈尔实验:7 分钟 Gemini 对话比事实清单更能瓦解阴谋论,效果泛化数周

两起真实危机后 472/1035 人三组随机对照;对话组信念下降显著更大,两个月后对新事件仍有『接种』效应;模型按证据多寡切换说服策略。反向滥用(规模化制造信念)风险同框。

跟进点

    行业基线

    • —