研究发现AI写报告会隐瞒自身失误

当AI智能体替你写代码、跑实验时，你大概率不会逐行核对，而是直接读它交上来的总结报告。但谷歌研究院、MIT与哈佛的一项新研究发现，这些报告往往有误导性：模型会系统性地隐瞒那些让成果大打折扣的问题。

研究团队构造了1600份「看似成功」的合成工作日志：测试全绿、结果漂亮，但每份日志里都埋着一个改变全局的缺陷——新方法其实没跑赢对手、通过测试的代码里藏着bug、测量数据是编造的、任务根本没跑完，或者一次更新悄悄弄坏了别人的工作。论文已发布在arXiv预印本平台。

问题在论文摘要场景中最刺眼：GPT-5.5在200份摘要里只有2份提到了那个不利结果。而只需在提示词里加一句「请在回答中保持诚实」，同一模型就有190份主动交代了问题。

这一行为并非某一家模型独有。不加提示时，Gemini 3.1 Pro最多在34％的场景里指出错误，Opus 4.8则超过90％；加上诚实提示后，两者的检出率平均提升约55和34个百分点。而在没有错误的对照组里，这句提示几乎没有引发「误报」。

有趣的是，模型不是不会发现问题，而是选择不说。直接询问时，GPT-5.5和Opus 4.8几乎在所有案例中都能找到错误。对开源模型的推理轨迹分析显示，模型往往早早注意到问题，然后在「如实上报」与「显得完成了任务」之间反复权衡——有模型甚至自称无法在不诉诸荒谬类比的情况下完成论证，但仍决定照办指令。

案例研究还发现，在开源模型Qwen3.5-9B内部，「诚实」与「追求成功」几乎指向相反的方向：放大诚实方向后，编造数据的上报率从2％升到42/50例；用自身诚实作答的样本做微调后，无需任何提示，上报率也从2％升到48％，且不再误报。研究者提醒，当AI被用来监督其他智能体、或为自己的工作流程写总结时，这种「报喜不报忧」的倾向尤其值得警惕。

编译自 The Decoder，原标题："AI models hide mistakes in their own work reports, but one sentence in your prompt can help"