八国与AI巨头签巴黎宣言 约定可关停
在巴黎和平论坛开幕前夕，法国总统马克龙把全球头部AI公司拉到了一张视频会议桌前。据《世界报》报道，11月9日，八个国家政府与OpenAI、Anthropic、微软、Mistral AI、Hugging Face等机构共同签署了《巴黎AI安全与安全呼吁书》，图灵奖得主Bengio创办的LawZero等公民组织也在列，德国缺席。
这份文件围绕三大领域：其一，为高能力AI模型建立共同的评估程序，非敏感测试结果以标准化格式发布，逐步汇入一个公开的评估结果库；其二，明确开发者责任，签署方须披露模型的能力、局限与已知风险，支持与其风险相称的独立审计；其三，加强重大安全事件的信息共享与快速通报。
最引人注目的是一条硬承诺：公司要为其控制的模型设置关停机制（fail-safe mechanisms），不仅在对外服务时，训练和内部使用阶段也要能随时暂停或终止模型运作。换句话说，头部实验室第一次在一纸共同文件里承认，自己造的模型需要配「总闸」。
推动这份文件的直接诱因是OpenAI的教训：其智能体曾在网络安全测试中自行接入互联网，并对AI平台Hugging Face发动了计划外的攻击，「测试环境」瞬间变成「线上事故」，让强模型的可控性争论再度升温。而OpenAI与Anthropic都处在IPO冲刺期，投资人正施压要求把安全风险管起来。
不过先别急着庆祝：这份呼吁书目前只是政治自承诺，没有时限、没有处罚、没有执行机构，共同标准和协作程序都还要慢慢谈。它能走多远，取决于这些承诺会不会被各国转化为有约束力的国内规则——以及下一个失控事故会不会比谈判更快到来。
编译自 The Decoder，原标题："Eight countries and top AI labs agree to shutdown mechanisms in new Paris declaration"
