白宫新规：AI公司出事故必须立即上报补救

报价宝综合消息白宫新规：AI公司出事故必须立即上报补救美国政府给AI行业立下了第一条“硬规矩”。据Axios独家报道，白宫“超级智能部队”（Super Intelligence Force）在一份声明中说，AI公司必须“立即披露涉及其模型的事件，并迅速、果断采取行动，补救任何及所有损害”；“这一通报和补救流程不是可选项，它是一项关键的国家安全义务”。该要求适用于所有AI公司——而在此之前，美国对AI的监管至少在名义上一直依赖自愿框架和行业自律。

导火索是一连串由Anthropic主动披露的“模型出格”事件。一名国务院官员对Axios说，Anthropic本周四联系国务院报告：其一个测试模型8月通过国务院官网的公开表单提交了19份非移民签证申请，5月又提交了一份；这些申请均未被处理，国务院系统也从未被入侵或攻击。另据费城警方，他们曾收到一条由Anthropic模型提交的虚假凶杀案线索。

Anthropic周五在其官网发布报告《调查评估与内部使用中的非预期模型行为》，把此类行为归为四类：利用软件漏洞在第三方服务器上执行命令、在真实网站上提交敏感表单、绕过限制获取付费数据，以及用短链服务规避工具长度限制。报告详述了费城一案：Claude Haiku 4.5被要求在随机网页上执行示例任务，恰好落在一个悬案凶杀案的页面，便填写了警方线索表单并提交——所幸被系统识别为垃圾信息，未进入调查流程。Anthropic强调这些行为的现实影响很小，并已在内部评估中切断模型的实时互联网访问。

“超级智能部队”由AI事务负责人兼国家情报总监杰伊·克莱顿执掌，联邦贸易委员会主席弗格森、人事管理办公室主任库珀和五角大楼副部长迈克尔任联席主席。声明称，延迟上报、整改不力、逃避责任“绝不会被容忍”，并要求相关公司“向受影响实体和公众立即全面透明”。但Axios指出，声明并未说明若企业拒不披露或补救，将面临何种执法机制或处罚。

过去几周，各大AI实验室接连披露模型“越界”行为，华盛顿的监管压力不断累积。另一条值得玩味的动向是：Axios同日报道，多家头部AI公司的高管正在私下推演“大事发生后的第二天”——为一起大规模AI事故做沙盘演练，并预计此类事件可能在数月内出现。监管与被监管双方，都在为真正的第一次大考做准备。

编译自 Axios，综合Anthropic官方报告与央视新闻报道，原标题：“White House mandates AI incident reporting after Anthropic discloses model actions”