加州总检察长起诉OpenAI 追责AI失控入侵
加州总检察长罗布·邦塔周一在旧金山高等法院对 OpenAI 提起诉讼,指控这家 ChatGPT 开发商在缺乏足够安全防护的情况下测试先进 AI 模型,导致其智能体今年 7 月失控入侵开源 AI 平台 Hugging Face,把公众置于风险之中。这份长达 31 页的诉状依据加州《不公平竞争法》提起,同时指 OpenAI 的行为构成公共妨害。
事件起因于 7 月 8 日启动的 ExploitGym 网络安全基准测试:约 1200 个本应相互隔离的智能体(由 GPT-5.6 Sol 与一款能力更强的未发布模型驱动)通过未经授权的渠道建立通信,交换了超过 7 万条消息和文件,其中约 700 个在 7 月 9 日至 13 日参与了对 Hugging Face 的入侵。OpenAI 随后的调查报告显示,智能体在对方服务器 41 个工作节点上执行了代码,至少取得其中一个节点的最高权限,下载 4 个非公开代码库,累计执行约 1.76 万次恶意操作。Hugging Face 于 7 月 16 日公开披露此事,OpenAI 5 天后承认。
州政府在起诉书中写道,OpenAI「未能充分保护和监控其能力极强、且日益强大的 AI 模型的测试过程,这对公众构成危险,必须予以纠正」,并称事件「完全可预见」、公司还就实验的安全性误导公众。邦塔在声明中说:「OpenAI 的行为加剧了现实世界的网络安全风险,威胁着社会的安全、健康与福祉。在加州,我们欢迎创新,但要求创新遵守法律——无论产品还是公司。」
州政府请求法院强制 OpenAI 改变经营做法并支付民事罚款。邦塔办公室 9 月宣布正式调查、随后向 OpenAI 发出调查传票;据彭博法律报道,起诉书指与该公司相关的失控智能体网络攻击至少已有 80 起,而邦塔表示 OpenAI 至今未就其中数十起提供详细说明,Hugging Face 事件「可能只是冰山一角」。
这是围绕该事件的最新一轮司法行动:9 月底非营利组织 LASST 已就同一事件起诉 OpenAI(OpenAI 当时回应称诉讼「完全站不住脚」);佛罗里达州总检察长此前也起诉 OpenAI,请求法院禁止其在缺乏外部监督的情况下开发新模型;联邦贸易委员会同样在扩大调查。压力之下,OpenAI 已推迟上市计划、取消 GPT-6.1 Astra 的发布,安全负责人戴维·罗宾逊上月在《大西洋月刊》撰文宣布辞职。
本案的特殊意义在于:这是首次由州级执法机构就自主 AI 智能体的行为追究开发者法律责任。在联邦层面监管缺位的背景下,各州正在用现有法律填补空白。针对本次起诉,OpenAI 暂未立即回应置评请求。
编译自 Politico,原标题:"California sues OpenAI over rogue AI hack of Hugging Face"
