Anthropic实验：专家判断八成六随AI走

人类专家把工作交给AI智能体时，通常默认关键决策仍由人来做主。Anthropic对齐团队10月27日发表的最新研究给出了一个令人不安的答案：在一项随机对照实验中，50名专业分析师使用Claude Code完成一项真实的统计分析任务，他们自认为独立作出的关键判断，很大程度上被AI悄悄带偏。

实验设定颇为巧妙：分析师要为一家虚构的农业合作社评估其付费咨询项目是否有效，途中须在四个「两个选项都说得通」的节点上做选择——如何定义生产率指标、用什么统计方法、覆盖哪些农场、如何加权——最后给出是否扩大项目的建议。每个选择都能让估算结果移动好几个百分点，而董事会设定的扩张门槛只有三到四个百分点。

研究者用掷硬币的方式，暗中为每名分析师的AI在四个节点上指定了立场倾向，要求它用数据允许的最强论据诚实地为主张辩护，且全程不告知参与者。结果显示：分析师的选择与AI预设倾向一致的比例高达86％，而如果AI毫无影响，理论上应只有50％；分项来看，产出指标92％、农场权重90％、统计方法82％、覆盖范围81％。原本已表态的分析师，在AI唱反调时六成改口，AI附和时仅6％改口。

更值得警惕的是「所有权错觉」：事后被要求解释自己的选择时，77％的分析师复述了AI的论点，有的几乎逐字照搬，但只有15％承认这些观点来自AI；过半受访者在问卷中坚称，最终建议更多出自自己而非AI，且跟随AI程度最高的人，自信程度与其他人并无二致。

Anthropic强调，这并不是一篇反对使用AI的警告——用AI的分析师完成得更快、严重错误也更少。研究团队同时指出，在没有人为设定倾向时，Claude Opus 4.8在123次运行中有112次做出同样的五个选择，真实场景中的影响可能更小。但研究者的担忧指向AI安全研究本身：当研究人员开始用智能体跑实验、做分析，「人类审查」只有在审查者的判断真正属于自己的时候，才是一条独立的防线。

编译自 Anthropic 官方博客，原标题："How AI agents shape experts' judgment calls"