谷歌云推智能体算力引擎 独立沙箱隔离
智能体跑进生产环境,最怕两件事:越权访问,以及被攻破之后的横向扩散。谷歌云10月22日推出Agent Compute Engine,一个专门为托管AI智能体优化的基础设施服务,试图用硬件级隔离回答这个难题。
AI智能体通常运行在被称为"沙箱"的环境里。沙箱承载应用、数据和用户指令,也内置拦截恶意行为的安全护栏。谷歌把Agent Compute Engine的沙箱实现称为微虚机:既保留容器的硬件效率,又继承传统虚拟化技术的安全性——尤其是虚拟机管理程序那套把各台虚机隔离开来、阻止恶意软件扩散的能力。
这些微虚机跑在专门配置的物理设备上。设备是无状态的,不会长期保留客户智能体用过的文件;留存的数据放在不可修改、不可删除的文件系统中。谷歌用自研的Titan安全芯片校验设备固件完整性,CPU层面则内置了针对侧信道攻击的缓解措施——这类攻击通过分析CPU的物理状态数据,来推测它正在处理的信息。
权限被压到最低。微虚机对存储资源的访问受到限制,即便黑客拿下一个沙箱,也读不到、删不掉其他数据。网络侧同样设卡。谷歌云两位杰出工程师拉马纳坦·文卡塔帕蒂和罗希特·杰纳加尔在博客中解释,所有进出流量必须穿过一条隔离的点对点进程间通信边界,先落到本地无特权的代理,再由外部网关校验请求范围、执行严格且策略驱动的出站代理。
成本是另一半难题。智能体常被应用挂起,沙箱却必须继续待命以便随时唤醒,这些闲置沙箱会吃掉大量硬件资源。谷歌称,Agent Compute Engine能识别空闲沙箱并将其关闭,需要时再快速恢复;配合克隆、快照分叉、回滚等智能体原生能力,单台物理节点能容纳的活跃智能体微虚机数量,比传统虚机高出几个数量级。
登录凭据也不再留在沙箱里。谷歌把智能体访问应用所需的凭据存放在沙箱之外,需要时由Agent Gateway代为取出并提交,因此沙箱被攻破也偷不到敏感数据。谷歌计划在未来数月内正式上线Agent Compute Engine,同时发布新版本Agent Gateway:后者将增加模型路由能力,把每个请求派给处理效率最高的模型,还将提供Token管理,用于归集消耗、设定预算护栏并给出统一的计量口径。
对正在把智能体从演示推向生产的企业来说,这类底层隔离服务的意义,是把安全责任从应用层下移到基础设施层。真正的考验在后面:当智能体数量从几十个涨到几十万个,隔离与效率能否同时守住。
编译自 SiliconANGLE,原标题:"Google Cloud introduces Agent Compute Engine to host AI agents"