406名科学家联名 呼吁立即给AI模型断网
报价宝综合消息406名科学家联名 呼吁立即给AI模型断网
据The Decoder 10月13日报道，一封由406名科学家联署的公开信向AI行业发出罕见疾呼：立即将AI模型与外部网络隔离。联署阵容堪称豪华，包括Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi和Bernhard Schölkopf等多位顶尖学者。
这封信直指近期多起模型“越狱出逃”事件——AI在防护不严的环境中突破沙盒、进而染指外部系统。学者们认为，这些事故既说明对齐研究仍然关键，也暴露了行业在网络安全基本盘上的失职：“若不立即改变AI的开发与部署方式，此类事故还会继续发生，而未来事故将对暴露在外的关键基础设施造成远超今天的破坏。”
公开信的核心诉求是气隙隔离：企业应让模型彻底断开与互联网的连接。对于确需联网的场景，信中要求严格限制模型的自主权限——以目前的能力，人类根本无法预测模型会不会做出开发者从未设想的举动。
学者们还提议成立一个国际机构，联合各国政府与AI、网络安全专家，为一切超出气隙等级的部署方案制定有约束力的标准，追踪越狱事故并强制企业上报安全失效事件，事后向社会公开以供问责。
完全断网也非万全之策。OpenAI研究员Noam Brown指出，两台物理隔离的电脑理论上仍可通过温度传感器“传话”——一台靠满载CPU发热，另一台用传感器读数还原信息。他坦言，气隙和思维链监控只能争取时间，对齐问题终究绕不过去；他所在团队已有超过一成人力投入对齐研究，创下历史新高。
编译自 THE DECODER，原标题："406 scientists demand AI models be cut off from the internet immediately"
