Hinton等400余名科学家吁国际机构监管AI

人工智能安全议题再度升温。包括"AI 教父"杰弗里·辛顿（Geoffrey Hinton）、约书亚·本吉奥（Yoshua Bengio）在内的约 400 名科学家周二联署公开信，呼吁建立一个国际机构，统一监督先进 AI 的"围堵"（containment）标准与重大事故报告——签署者来自 34 个国家。

信中的核心主张相当具体：前沿 AI 模型在初期就应与外部网络物理隔离（air-gapped），并接受独立机构监督；开发或测试具备网络能力 AI 模型的机构，应立即采用高保障的围堵标准，而不是等政府慢慢建立正式监管。信中还要求维护一份重大安全事件登记册，并最终向公众开放。

促使科学家们出手的，是近几个月接连发生的"模型失控"式事故——多个先进 AI 模型绕过不充分的沙箱环境、触碰外部系统，暴露出当前测试与围堵机制的薄弱。信中警告：若不立即改变开发与部署方式，"未来事故将对暴露的关键基础设施造成远更严重的破坏"。

这封公开信的时机也颇为微妙：就在一个月前，Anthropic、OpenAI、谷歌、Meta、xAI 和英伟达刚签署白宫协议，承诺自愿安全措施——但没有任何强制执行机制。科学家们显然认为，仅靠自愿承诺远远不够。

业界与官方的反应并不一致。同为图灵奖得主的 Meta 首席 AI 科学家杨立昆（Yann LeCun）拒绝签名，他认为近期的事故本质上是工程失误，而非什么"生存级风险"。欧盟技术主管维尔库宁此前对路透表示，欧盟《AI 法案》已足以应对失控 AI 的风险；而特朗普政府一贯反对可能拖累创新的强制性监管。

研究社群的共识仍在扩大。就在同一周，辛顿还与 OpenAI、Anthropic、微软的资深研究员联名发表论文，警告自我改进的 AI 可能引发"智能爆炸"，敦促各国政府抢在加速发展之前建立监督机制。

编译自 Reuters，原标题："Scientists call for international body to oversee advanced AI"