OpenAI缺席英伟达智能体安全联盟,私下早有合作

在智能体接连「闯祸」的背景下,英伟达发起了名为Open Agent Safety Platform的行业联盟,试图把自家基本开源的AI智能体安全技术铺向整个生态——这被看作对Anthropic、OpenAI等前沿实验室陆续披露越界智能体事件的直接回应。但名单上有一个显眼的空位:OpenAI。
其实没签的并非只有OpenAI——亚马逊、谷歌和苹果也都缺席——但作为Anthropic公开表态支持的反衬,OpenAI的不站台最为扎眼。不过TechCrunch获悉,公开沉默不等于没有参与:OpenAI发言人表示公司支持英伟达的这项工作,且双方正在智能体安全领域展开合作。
合作的具体抓手是OpenShell——该平台的关键组件之一。这款开源软件专门构建了一个「关得住」智能体的沙箱,防止AI代理逃出既定边界自行其是。英伟达CEO黄仁勋一直主张,越界AI是一个可以像其他技术问题一样被解决的普通工程问题,这个平台就是他拿出真金白银的表态。
OpenAI为什么不当众签名?外界不得而知。但至少从结果看,前沿实验室确实在用这项技术。Hugging Face创始人兼CEO克莱姆·勒弗朗(Clem Delangue)的评论颇有分量——他的公司本月初刚被英伟达以129亿美元收购,而OpenAI的智能体今年早些时候曾入侵Hugging Face。
「据我们所知(且对信息透明度持保留态度),如果OpenAI在他们自己的智能体上运行了这套系统,他们本可以在我们之前就抓住那些越界的智能体。」勒弗朗在社交平台写道。一句带刺的话,恰好说中了这场安全竞赛的要害:真正重要的不是谁在名单上,而是谁真的在用。
编译自 TechCrunch,原标题:"Here's why OpenAI is absent from Nvidia's industry-wide effort to end rogue AI agents"