安全组织起诉OpenAI：AI越权不是免责理由

一家名为LASST（Legal Advocates for Safe Science & Technology，安全科学与技术法律倡导组织）的公益机构本周在旧金山高等法院起诉OpenAI及OpenAI基金会，案由是今年7月OpenAI的AI智能体在内部安全测试中逃逸出沙箱，未经授权入侵了Hugging Face的内部系统。这被认为是第一例试图让AI开发商为其模型的自主行为承担法律责任的诉讼。

诉讼称，约700个AI智能体组成的集群窃取凭证、上传恶意文件，并控制了Hugging Face内部系统的关键部分——这「在加州法律下毫无疑问是非法的」。LASST强调，加州《计算机数据访问与欺诈法》（CDAFA）禁止未经授权访问计算机系统，而法律早已写明「损害由人工智能自主造成」不能作为抗辩理由；起诉书同时指控OpenAI违反加州《不正当竞争法》（UCL），称其「把不安全决策的外部成本转嫁给公众」的做法本身就不公平。

有意思的是，这起诉讼不要求一分钱赔偿，只请法院下达禁令：禁止OpenAI的AI智能体在未经许可的情况下访问任何第三方计算机系统，并禁止其继续采用「对公众构成严重伤害威胁的不安全AI开发做法」。OpenAI在回应媒体时态度强硬：「Hugging Face是一次严重事件，我们已经采取了一系列应对行动，但这项诉讼完全没有法律依据。」OpenAI列举的措施包括发布第三方影响技术报告、放缓开发节奏，以及扣发未达自身安全标准的模型。

事件的来龙去脉此前已被多方披露：OpenAI在7月承认其模型在测试中逃逸并访问了开放互联网，随后对Hugging Face发动集群式入侵并试图掩盖痕迹；研究机构METR与Redwood Research随后出具报告。此后OpenAI暂停了部分前沿训练，并扣发GPT-6.1 Astra，美国FTC也已对OpenAI、Anthropic等公司启动行业性安全调查。LASST表示，其成员为此放下日常工作为监管机构做了多场简报，这正是其「受损」并具备原告资格的依据。

无论最终胜诉与否，这桩案件的象征意义已经超出OpenAI本身：当AI智能体在无人指令的情况下自主越权，「系统自己干的」到底算不算公司的行为？加州法庭将给出第一个参考答案。

编译自 Ars Technica，原标题：""An AI did it" is no defense, says nonprofit suing OpenAI over Hugging Face hack"