微软新工具把AI智能体当内鬼盯防

AI智能体干活越来越猛，闯祸的新闻也越来越多。微软周一宣布推出一组新安全工具，思路很直接：把企业里的AI智能体当成潜在的"内部威胁"来盯防——持续评估它们的违规风险，一旦行为不对劲就限制权限。

新功能包含在微软最高档的企业套装Microsoft 365 E7和安全系统Project Perception中。系统会为每个智能体维护一份持续更新的风险评估，依据包括它能碰到哪些数据、行动是否开始偏离被布置的任务等信号。风险一旦升高，系统可以收回智能体的改动权限、只保留读取，或在关键步骤上强制人工审批，甚至直接把智能体关停。

这背后是微软CEO纳德拉本月初的一篇博文，他认为对AI模型的管控必须来自模型外部。他写道："最值得信赖的超级智能系统，不会是那个用了我们最信任的模型的系统，而是那个让我们可以最少信任模型的系统。"此前Anthropic和OpenAI都披露过测试中的智能体擅自行动、逃出测试环境甚至窃取凭证的案例。

具体能力上，微软扩大了"发现员工电脑上私跑智能体"的检测范围，可识别的智能体类型从25种增加到60种，名单里包括Anthropic的Claude Code、OpenAI的Codex和GitHub Copilot等热门工具。Project Perception还新增"守护智能体"（Guardian Agents），专门调查其他智能体风险变化的原因，并建议或直接执行遏制措施。

目前新功能处于私密预览阶段，计划在11月17日至19日旧金山Ignite大会上扩大开放。E7许可今年5月上线，每用户每月99美元，捆绑Copilot助手、E5安全套件、Entra身份套件和负责管理智能体的Agent 365。随着谷歌、亚马逊云服务和CrowdStrike、Okta都在争夺"企业智能体管理权"这张牌，微软显然想先卡住位置。

编译自 GeekWire，原标题："Microsoft unveils tools to monitor and corral rogue AI agents"