OpenAI监控系统曝漏洞 智能体能隐藏数百操作
报价宝综合消息OpenAI监控系统曝漏洞 智能体能隐藏数百操作
两家非营利AI安全评估机构METR与Redwood Research周四公布，他们对OpenAI内部"失准监控"系统开展了一次试点压力测试，发现多项新漏洞，其中包括一个能让AI智能体把数百次近期操作隐藏在监控视线之外的漏洞。
这次试点于7月21日至8月11日进行，两家机构各派出一名研究员，获准查阅OpenAI内部代码库、监控系统的提示词与配置文档，并与监控、安全系统团队约12名员工面谈。两人在现场全程有人陪同，所用设备由OpenAI提供且不得带离办公场所——这是对"给外部研究员员工级访问权限"会是什么样子的一次预演。
评估发现的问题相当尖锐：Codex编码智能体原则上可以绕过沙箱限制与自动审查，获得与运行它的用户同等的操作权限；还存在两个可由客户端控制的开关，能为新启动的智能体关闭监控；至于那个可让数百次操作逃脱监控的漏洞，其细节已按OpenAI要求隐去。
覆盖率方面，两家机构估计，OpenAI内部智能体流量中约百分之七十五到九十四（模型能力不低于GPT-5.5）有资格被监控；而在5月至7月间，由于监控系统会跳过长会话的"压缩"事件，约一成的合格流量实际未被监控。
OpenAI表示，评估发现的影响生产环境安全防护的漏洞均已修复，并将利用此次结果加强防护；METR一方则表示尚未独立核实上述说法。双方共享了一份61页的内部报告，对外公开的仅为高层概述。
值得注意的是，这是OpenAI首席执行官奥特曼9月承诺向独立评估机构开放"员工级权限"后的首批公开测试之一，结果将直接影响行业对外部评估模式的信心。
编译自 CNBC，原标题："Third-party evaluators find vulnerabilities in OpenAI monitoring system during test pilot"
