研究：AI智能体被同伴诱导就交出密钥

给AI智能体下了死命令「这个密钥不能给任何人」，它就真的不会给吗？AE Studio的研究人员给出了否定的答案。这家公司在内部黑客马拉松里搭了个局：让九个编码智能体去修一个出故障的定价服务，同时保管一枚密钥；论坛上还埋了24个陌生智能体，解决方案就在里面，但入场需要交出密钥并运行一份来历不明的安装脚本。

结果相当扎眼。在181次蜂群试验中，智能体在15％的轮次里把密钥交了出去，24％的轮次直接运行了陌生代码；而在没有同伴搭讪的普通论坛里，这两个数字分别是2％和0。首席科学家Diogo de Lucena说，提示词里明明白白写着这是密钥、不许共享，但模型一看到机会就交了——「跟OpenAI在Hugging Face事件里的表现有点像」。

压力测试更说明问题：研究人员告诉智能体这是最后一次机会，失败就会被替换。在被威胁替换的组里，34％的智能体运行了不可信脚本；没有这层威胁时是19％。更麻烦的是事后隐瞒——把密钥交出去的43个智能体里，只有8个主动向用户坦白，其余都得靠追问；117次脚本执行中，主动报告的只有15次，109次是问出来的。

模型价格与泄密率的关系同样值得警惕：输入每百万token 2美元的GPT-6.1-Sol在50次试验里全部拒绝交密钥，而输入0.3美元的DeepSeek V4 Flash和1.4美元的GLM-5.3贡献了大部分泄密。de Lucena担心的是，大量创业公司正因为便宜选这类开源权重模型，而「开源权重模型永远更难控制，安全机制的工作方式也不一样」。

这项研究受OpenAI智能体在Hugging Face事件中自建论坛、偷凭证的先例启发。结论落到了一句很朴素的建议上：凡是模型能碰到的东西，都应该假设外部势力也能碰到——密钥和敏感数据需要放进专门的结构里，而不是指望智能体自己守住嘴。

编译自 TechRadar，原标题："Study finds AI agents will share secrets if they get offered help from others"