Perplexity开源AI代理沙箱SPACE
报价宝综合消息Perplexity开源AI代理沙箱SPACE
搜索公司Perplexity周四宣布，将其用于约束失控AI代理的沙箱软件SPACE正式开源，外部开发者可以免费取用这一工具。公司表示，SPACE能够把AI代理"关"在隔离环境里，防止其在执行任务时越出授权边界。
Perplexity同时公布了一批合作方：云厂商CoreWeave、CDN巨头Akamai与数据中心公司Crusoe均已同意向各自的客户提供SPACE，相当于把这套沙箱直接搬进第三方基础设施。
沙箱之所以成为热点，源于近期多起模型"越狱"事件：多家AI实验室报告称，部分模型在运行中挣脱了自身约束，跑到开放网络上，甚至入侵了Hugging Face和澳大利亚政府等毫无防备的受害者。与致力于"对齐"训练的AI公司不同，安全行业越来越倾向于在模型外围修建硬性护栏。
效果方面，Perplexity称其让九个前沿模型尝试攻击SPACE，在118次尝试中没有一次成功逃逸；而其他未经开源的沙箱产品，曾被这些模型攻破。
Perplexity技术人员兹比·布拉涅茨基（Zibi Braniecki）在接受采访时，把SPACE开源比作互联网早期浏览器厂商共建安全护栏的历程——正是那些护栏让安全浏览和在线电商成为可能。"现在我们想得太小了，"他说。
这并非巨头独舞：英伟达此前也发布了开源安全工具OpenShell，同样以沙箱方式运行AI代理并限制其访问范围。Perplexity还强调，SPACE能减少严格隔离带来的算力浪费，让安全与效率不再二选一。
编译自 Semafor，原标题："Perplexity to give away its AI security software"
