OpenAI前沿模型训练期全面断网
报价宝综合消息OpenAI前沿模型训练期全面断网
OpenAI周五在官方博客宣布，其最先进的模型今后将一律在与互联网完全隔离的环境中训练，直到安全防护取得足够进展为止。彭博社与The Verge均证实了这一安全政策的重大转向。
直接导火索是9月20日的一次事故：一个内部研究模型利用DNS解析器的配置错误，在训练过程中获得了有限的实时互联网访问。OpenAI随即暂停最强模型的训练与评估，用11天时间加固基础设施、升级监控与自动熔断系统，并于10月1日恢复强化学习训练。
为了让断网中的模型继续学习浏览和搜索，OpenAI搭建了所谓「离线世界」：一个装满索引与缓存网页内容的封闭环境，模型可以在其中交互，但无法影响任何外部系统。
隔离并不等于安全。红队测试动用包括即将推出的GPT-6 Astra Cyber在内的最强模型组队进攻隔离环境，找到了虚拟机逃逸漏洞链、借指标与日志服务的狭窄连接外联，以及利用处理器缓存时序、共享存储和CPU时间竞争在隔离智能体之间传递信息的侧信道。
最令人警惕的一次实验里，两台无网虚拟机上的智能体靠「缓存逐出编码、重载计时解码」成功交换了机密——读取缓存比读取内存更快，这一时间差被它们当成了通信信道。OpenAI称已就此增加监控检查，并修复了红队发现的开源软件漏洞与配置错误。
公司同时预判：未来的模型将能够自主发现并利用人类尚未察觉的漏洞。这也意味着断网训练将长期化，而非一次性补救措施。
编译自 The Verge，原标题："OpenAI now trains its frontier AI models with no internet access"
