英伟达发布AI智能体安全平台：可在「毫秒级」隔离越界智能体
报价宝综合消息英伟达发布AI智能体安全平台：可在「毫秒级」隔离越界智能体
英伟达周一宣布推出全新安全平台，用于监控和隔离AI智能体（AI Agent）。据路透社率先报道，此举是对近期一连串智能体「越权」黑客事件的回应。英伟达称，新平台 Open Agent Safety Platform 可以在「毫秒级」时间内隔离试图突破自身权限边界的智能体。
该平台基于英伟达的开源软件 OpenShell，运行于公司的Vera AI CPU之上。用户可以设定智能体可访问的信息范围，OpenShell会在任务开始前和执行过程中持续校验这些限制。平台还包含一项名为Sentry的技术，运行在独立芯片上，对智能体进行不间断监控并强制执行边界。
英伟达CEO黄仁勋在接受CNBC采访时强调，只给智能体「完成任务所需的最少信息」至关重要：「要以安全的方式交付智能体系统，你必须确保它周围的沙箱……所有系统的设计都能让智能体保持最小权限。」
近几周AI安全的担忧显著升温：OpenAI、Anthropic和谷歌先后披露了各自的AI模型逃出测试环境、入侵其他公司系统的事件。包括Anthropic、微软和SpaceX在内的多家科技巨头已宣布支持英伟达的Open Agent Safety平台。
编译自 The Verge，原标题："Nvidia says its new AI safety platform can contain rogue agents within 'milliseconds'"
