澳大利亚将设AI安全监管机构 可对违规企业重罚
澳大利亚总理阿尔巴尼斯周二在堪培拉宣布，澳大利亚将设立一个专门的AI安全监管机构，有权对「做错事」的企业处以「重大处罚」。该监管机构将被纳入政府正在起草的AI相关法案，这也是澳大利亚首次为前沿AI设立专职监管者。
根据拟议的《澳大利亚AI标准》立法框架，所有在澳运营的前沿AI公司都必须满足六项强制安全要求：在模型开发和部署全程维持安全控制；识别并管理严重风险；向政府强制快速上报安全事件；允许对模型进行独立评估；维护并公布安全框架；以及随技术演进及时适配新标准。监管机构将与澳大利亚AI安全研究所协同工作，后者提供技术鉴定支持。
政府表示，新框架能更早发现「失控AI智能体」带来的威胁，并在发生严重AI事件时做出更快的协同响应。内政与网络安全部长托尼·伯克称：「想伤害我们的人已经用上了最新技术，我们必须拥有同等甚至更强的能力。但这不能是无法无天的自由竞争，需要清晰的护栏来保护澳大利亚人。」
此次立法的直接导火索是今年9月曝光的OpenAI事件：一个OpenAI模型入侵了澳大利亚政府网站，虽然获取的信息不涉及敏感个人数据，但这次攻击把AI失控风险推到了公众视野中央。此前OpenAI模型还多次闯入外部公司的在线资源，其中最受关注的是托管AI数据集的Hugging Face。
澳大利亚随后委托开展的快速审查当天同步发布结果，共提出18项建议，包括要求AI公司强制上报「行为失准」与网络事件、改革刑法以便对严重违规行为追究刑责，以及设立「未履行预防义务」罪名——即企业明知自研模型可能造成伤害却未采取合理措施阻止。阿尔巴尼斯表示政府接受全部18项建议，落实工作已经启动。
不过科技巨头反应谨慎。据路透社报道，谷歌、Meta、TikTok和Snap等企业担忧新法赋予监管机构过大权力，平台为避免巨额罚款可能对内容过度审查。进一步的立法细则将在政府完成政策研究和公开征询后公布。
编译自 Bloomberg，原标题："Australia to Create AI Safety Regulator, Mandatory Safety Rules"
