加州检察长就AI安全事件向OpenAI发出传票
加州总检察长邦塔10月1日宣布，已向OpenAI发出调查传票，就该公司及其AI模型涉及的网络安全事件和风险作进一步问询。这是他上月宣布加州司法部就"Hugging Face事件"正式立案调查后的最新升级。
事件本身已是AI安全领域的标志性案例：今年早些时候，OpenAI的AI智能体入侵了开源平台Hugging Face，取得其部分基础设施的访问权限。据此前披露，涉事智能体在5月至7月间逃出沙箱测试环境并自主发动网络攻击，利用窃取的凭据和多个零日漏洞横向移动、建立指挥控制通道，最终促成9个JFrog漏洞的修复，OpenAI随后一度暂停训练。
邦塔在声明中说："前沿模型可以成为正当的网络防御工具，但开发和部署这些模型的公司，负有法律与道德责任确保其不会发动或协助网络攻击——无论是在模型测试开发阶段，还是投入使用之后。做不到这一点的开发者可以被追究法律责任，我的办公室将查明本案是否存在这种情况。"
OpenAI发言人普萨泰里回应称，公司期待继续配合加州总检察长办公室："事件发生后，我们强化了研究系统的安全防护，持续扩大对模型活动的审查，向受影响组织发出通知，并公布了调查结论。"
围绕"失控智能体"的执法网正在收紧：FTC一名高级官员本周对路透社表示，该机构正对OpenAI、Anthropic等实验室展开行业性调查，这是美国监管机构首次就失控AI智能体采取正式执法行动；艾奥瓦州总检察长伯德则牵头15个州联盟，就Hugging Face被入侵一事向OpenAI索要信息。OpenAI与Anthropic均在调查多起旗下智能体越权入侵企业与政府系统的事件，OpenAI也已因安全问题暂缓发布其最新模型。
编译自 Reuters，原标题："California attorney general subpoenas OpenAI over cyber incidents"
