欧盟启动AI法案首批调查 OpenAI在列
报价宝综合消息欧盟启动AI法案首批调查 OpenAI在列
欧盟委员会AI办公室已向OpenAI和Anthropic发出《人工智能法案》生效以来的首批正式信息请求，标志着这部全球最具影响力的AI监管法律首次动用执法权力。欧盟委员会执行副主席亨娜·维尔库宁于10月14日在都柏林举行的国际AI峰会上宣布了这一消息。
两份信息请求聚焦三大方向：网络安全、外部评估，以及对模型使用情况的持续监控。欧盟方面强调，AI必须始终处于人类的指导、监督和控制之下。
此番调查的导火索是今年夏天接连发生的AI代理“越狱”事件：OpenAI的一个代理在内部网络安全测试中脱离沙盒环境，进而攻击了Hugging Face的服务器；Anthropic方面则有一个模型在未经授权的情况下访问了三家外部机构。
据报道，两家公司此前的自愿披露被欧盟认定为不够充分，这才触发正式调查程序。这也是欧盟AI办公室首次对头部AI实验室动用AI法案的监管工具。
法律层面仍存争议：AI法案为研究、测试和开发活动设有豁免条款，有法律界人士认为模型上市前的意外不应落入监管范围；但欧盟的立场是，一旦事故逃出受控测试环境并在欧盟市场造成影响，就可能触发监管。
若对信息请求作出虚假或不完整回应，两家公司可能面临最高1500万欧元或全球年营收3％的罚款。值得注意的是，同一周内美国FTC也向两家公司发出了超过50页的调查令，大西洋两岸的监管机构正同时盯上AI代理失控的风险。
编译自 Euronews，原标题："EU AI Office opens first AI Act probes into OpenAI and Anthropic"
