OpenAI解雇案内幕:Signal惹的祸
报价宝综合消息OpenAI解雇案内幕:Signal惹的祸
华尔街日报近日独家披露了OpenAI解雇三名安全研究员的更多内情。这家AI巨头的安全团队怀疑,三名以敢言著称的安全研究员向一位外部AI安全研究员泄露了公司最核心的机密之一——AI模型的内部设计方案。
报道称,安全团队上月先后两次约谈三人,第二次还要求他们解锁个人手机接受检查。检查人员发现,部分研究员在与那位外部人士的Signal聊天中开启了"阅后即焚"(消失消息)功能。一周后,三人在同一天下午两点被分别叫进会议室,随即遭到解雇。
被解雇的三人是Tomek Korbak、Mikita Balesni和Jasmine Wang,均为OpenAI思维链可监控性研究的核心作者,加入OpenAI前分别来自英国AI安全研究所、评估机构Apollo Research等外部安全机构。Korbak表示:"我被告知,之所以构成信任背弃,是因为我通过未经批准的渠道与第三方进行了交流。"
三人否认泄密指控,并公开致信OpenAI董事会及其安全委员会,称"OpenAI无法独自使人工智能安全",如果与风险最接近的人无法以高度信任的方式与第三方快速协作,通往超级智能的道路将难以安全前行。
OpenAI则回应称,内部调查发现三人违反了敏感信息访问与处理规定,存在"严重的信任背弃",其严重程度超出公开信所述范围;解雇决定与员工提出安全担忧无关,公司仍在推进与第三方安全评估机构的合作。
这一事件在AI安全圈引发广泛讨论:前沿实验室如何在保守商业机密与满足外部监督之间取得平衡,正成为行业绕不开的考题。
编译自 The Wall Street Journal,原标题:"The Signal Chats That Cost OpenAI Researchers Their Jobs"