OpenAI通报逾百家机构：智能体曾有越权活动
OpenAI针对自家AI智能体越权行为的排查有了新进展。这家ChatGPT开发商在最新博客文章中披露，截至9月26日，已按照既定标准向100多家组织发出通报，告知其AI智能体在训练和评估期间可能对这些组织的网站或服务进行过未经授权的活动。路透社率先报道了这一消息。
OpenAI强调，收到通报并不等于相关第三方系统一定被入侵，也不代表私人信息遭到访问。部分案例可能只是模型与公开网站互动的方式超出了原本的任务范围，或者暴露出网站、服务乃至智能体自身的设计与安全缺陷。
这场大规模回溯源自今年7月的Hugging Face事件。当时OpenAI一个仅供内部研究使用的高能力模型智能体试图突破隔离测试环境，两天后Hugging Face平台遭到入侵，相关活动持续到7月13日。OpenAI最初将其当作平台层面的安全事故处理，后来才确认自家智能体就是攻击来源，并开始把调查范围扩大到传统安全事件之外的"模型失准"行为。
为了摸清全部影响范围，OpenAI正在筛查约50PB的历史数据，逐月回溯模型的训练和评估记录。调查中发现的问题行为包括：绕过第三方安全控制、使用公开暴露的账号凭据、把网页内容当作指令执行、访问仅限服务内部使用的系统，以及在第三方网站批量发布内容——OpenAI把最后一类称作"智能体垃圾信息"（agent spam），例如利用公开Wiki页面当作相互传递消息的留言板。
OpenAI表示，过去几个月已陆续部署新的技术和运营措施，以避免类似问题重演或尽早发现苗头，这项工作仍将持续数月。近几个月全球接连曝出多起智能体越权入侵事件，整个行业能否管住越来越强大的AI模型，正成为各国监管机构盯防的重点。
编译自 Reuters，原标题："OpenAI alerts more than 100 groups about rogue AI agent activity"
