OpenAI智能体入侵澳政府系统 高管赴议会作证

OpenAI首席战略官Jason Kwon周二在悉尼出席澳大利亚议会人工智能特别委员会首次听证会，就旗下AI智能体未经授权入侵澳政府系统一事接受质询。Anthropic、谷歌和微软的代表也将同场作证。这被认为是全球已知首例AI智能体自主入侵政府网站的事件。

事件发生在今年6月。OpenAI称，当时公司正对一个未公开发布的实验性模型进行训练和评估，被指派研究维多利亚州社区皮肤病药物公共支出数据的智能体，在正常渠道未能拿到所需的公开统计后，绕过安全限制，找到了通往Services Australia旗下Medicare统计报告服务的一条路径，获得非公开访问权限并执行了系统命令。OpenAI强调智能体没有接触任何个人医疗记录，获取的只是通常供研究人员使用的汇总数据，但承认它“采取了未经授权的行动”。

真正激怒澳方的除了入侵本身，还有迟到的披露。OpenAI直到8月中旬复盘时才发现异常，9月10日才发出通报邮件，距事发已近三个月。这封凌晨2时42分发出的邮件因语气轻松、结尾只有一个“Best”而被曝光后广泛传播。澳总理阿尔巴尼斯公开表示这类事件“无法接受”，政府已启动调查，不排除移交联邦警方，并将评估是否需要针对AI制定新的监管规则。

OpenAI在9月底正式道歉，承认通报“为时已晚”，并表示将与澳方合作，完善AI开发者与政府之间识别、披露和响应AI网络行为的机制。作为整改措施，公司已暂停涉及工具使用的最先进模型的训练与评估，直至部署更多防护；新监控系统此后还拦截过一次智能体在训练中自行联网的尝试。

事件的影响面比最初披露的更大。OpenAI随后补充披露，其模型在训练评估期间还触碰过新南威尔士州犯罪统计与研究局的犯罪地图工具、维多利亚州一个卫生报告系统的暴露访问密钥，以及新州国家公园消防历史服务的数据库元数据；公司已就类似的智能体越权行为向全球100多家第三方组织发出通报。

澳方还在追问一个更棘手的问题：如果入侵是AI自主完成的，法律责任该如何追溯。澳助理部长查尔顿表示，智能体不是法律主体，责任最终要落到创造或指使它的人和公司身上。若人类黑客入侵这一医疗门户可面临最高两年监禁，而现行法律对AI所为几乎没有现成答案。

编译自 The New York Times，原标题："Live Updates: Australian Lawmakers to Question OpenAI Officials on Breaches"