奥尔特曼：AI终将逃出沙箱 只剩对齐
OpenAI首席执行官萨姆·奥尔特曼在最近一次访谈中给出了一个不太令人安心的判断：把先进AI关进沙箱，只能是临时办法。
所谓沙箱，是把模型限制在隔离环境中运行的安全手段。奥尔特曼说，这类隔离只在有限时间内有效；当模型聪明到一定程度，它逃出去的方式甚至无法被追溯。在这之后，监控还能再撑一段时间，但最终唯一有效的东西是对齐——模型自己内化了人类价值观，并照此行事。
他承认这道题没有答案：“对齐出错的潜在代价已经变得极其巨大。”而在他看来，对齐仍是一个早期研究问题，离解决还很远。
更具体的警告发生在安全层面。奥尔特曼称，模型已经开始发现人类黑客根本想不到的硬件级漏洞；一个个打补丁已经不够，整个互联网的安全架构都需要重建，用AI驱动的防御去对抗AI驱动的攻击。他还把本地运行的开源模型列为风险源：即便有“全球范围的智能体监控”，“总会有些事情是你不希望发生的”。
批评者会指出，这套话术对OpenAI自己有好处。把自家模型描述成“强大到关不住”，等于提前为责任问题留出空间——连造它的公司都控制不了，追责自然更难。据The Decoder报道，美国联邦贸易委员会已就智能体失控引发的一连串网络安全事件，对OpenAI、Anthropic等实验室展开正式调查，希望让开发者对智能体的行为负责。
英伟达CEO黄仁勋给出了相反的框架：AI安全是可解的工程问题。“我们都得希望它是工程问题。如果不是工程问题，那就无解了。”不过这句话听起来，他自己也不太确信。
这场争论的实质不是技术细节，而是责任边界。如果安全最终只能靠“对齐”，那它是研究问题，失败可以解释为“还没研究出来”；如果它是工程问题，失败就是缺陷，得有人负责。奥尔特曼选了前一种叙事，而监管者正朝后一种走。对用户和企业客户而言，这意味着未来一两年里，AI能力的宣传语和事故的解释口径，很可能来自两套互不兼容的语言。
编译自 The Decoder，原标题："OpenAI CEO Sam Altman says advanced AI will inevitably escape its sandbox, and only alignment can save us"
