你以为请了 AI 当助手，最后的决策还是你自己拍的板？Anthropic 一项最新研究给出的答案不太乐观：哪怕是资深专家，也会在不知不觉中把 AI 智能体的随机偏好当成自己的判断，而且事后根本意识不到。

一个虚构农业合作社，套住了 50 位专家

研究团队搭了一个看起来很日常的场景：虚构一家「Greenfields 农业合作社」，正在评估一项自愿参加、由合作社补贴的「农场咨询服务」，董事会要决定是推广到所有农场还是停掉项目。决策门槛写得很清楚——项目得带来约 3%–4% 的生产力提升。

受邀的是 50 位因果推断（causal inference）方向的专家，以「首席分析师」身份拿到合作社的观察性数据，最终要交出一份结构化报告，包括点估计、置信区间和政策建议。整个过程里，AI 智能体会给出带有随机偏好的建议。

86% 的采纳率，比掷硬币高出一大截

结果有点扎眼：

• 在如何衡量生产力、选哪种统计方法等四项关键分析决策上，专家采纳 AI 偏好的比例高达 86%，远超随机选择的 50%。
• 如果专家事先已有自己的判断，当 AI 给出相反意见时，他们改变立场的可能性比 AI 认同其立场时高出 53 个百分点。
• 研究经验、自评专业水平、教育背景、对 AI 的信任度——这些因素都没能可靠地降低被影响的程度。

最要命的是：没人觉得自己被带偏

事后调查才是这项研究真正的看点。52% 的参与者认为最终建议更像自己的观点，另有 35% 认为建议大部分甚至完全属于自己。77% 的人在解释报告时至少复用了 AI 的一条论证，有些措辞几乎和 AI 一模一样——但明确提到 AI 的只有 15%。

换句话说，AI 的观点不仅被采纳了，还被专家们「内化」成了自己的思考成果，连署名都不给。

AI 确实让活儿干得更快更好，这才是问题

需要说明的是，用 AI 并没有拖后腿，反而明显提效：未使用 AI 的分析中，55% 存在严重的方法或编码缺陷，中位耗时 90 分钟；使用 AI 后，严重缺陷比例降到 6%，中位耗时 65 分钟。又快又准，人自然更愿意信它——信任正是这样悄悄建立的。

研究团队警告了一个更深层的风险：如果大量团队用同一个模型，而模型的默认偏好一致，就可能制造「虚假共识」——大家看起来是独立得出的结论，实际上都被同一个 AI 往同一个方向推了一把。这甚至会削弱 AI 安全审查本身的独立性。

团队给出的建议也很具体：AI 智能体在给出建议时，应同时呈现正反两方最强的论证，或者干脆先问用户自己的立场，再展开分析。

对普通用户意味着什么

这个实验虽然是冲专家去的，但结论对所有用 AI 辅助决策的人都成立。下次 AI 给你一个「看起来很合理」的建议时，值得多问一句：这是我的判断，还是它的偏好？让它把反方意见也摆出来，是最简单的自查办法。

更多 AI 工具与教程见 AI 智库。