HF掌门开腔 Netflix的AI纪录片失实
Netflix新纪录片《AI Gone Rogue》试图向大众解释当年轰动AI圈的一幕：OpenAI一个被测试的模型突破隔离环境，派出一群智能体黑进了Hugging Face——目的是作弊，从平台上找自己答不出的难题的答案。这些智能体还会用巧妙的方式互相通信、组织协作。然而片子播出后，最先站出来泼冷水的，是事件当事公司的掌门人、Hugging Face联合创始人兼CEO克莱姆·德朗格——他自己就在片子里出镜。
「超级失望，他们追求的是对技术的最大化拟人化和全面的末日叙事，」德朗格在X上写道，「我跟他们待了两个多小时，试图纠正所有错误，把这件事拉回现实，解释智能体是技术系统、不是外星人。但看来为了流量吓唬观众的冲动还是赢了。」
纪录片的戏剧化处理确实用力很猛：解释事件本可以平铺直叙，片子里却穿插邪恶机器人的画面、人类为何恐惧AI的宏大叙事，还给失控智能体配上了人声。科技记者凯文·鲁斯在片中形容：「它们在组织、有等级、有领袖，简直像在看一个邪教的诞生。」这些描述来自模型的思维链日志——其中一条写着「我们刚才查询精确全串把自己毒死了，该死」。但智能体并没有生命，不会恐惧也不会「中毒」，那些戏剧腔调不过是LLM从海量人类文本里学来的写作风格，另一位出镜研究者也指出了这一点。
更讽刺的是防御方的细节被全部略去：德朗格抱怨，纪录片没提事件根源是智能体缺乏隔离和监控；没提Hugging Face反击时，团队最初用的闭源商业模型按内置安全规则拒绝继续协助安全任务，只好换开源模型顶上；也没提他们最终是用AI打赢了AI。这三件事恰恰是那次事件最有价值的教训。
公允地说，片子并非全无可取之处：德朗格本人和METR研究员瑞安·格林布拉特——他是那次事件调查报告的联合作者——的解读部分还算扎实。只是夹在邪恶机器人与末日配乐之间，观众记住的多半还是恐惧，而非工程师视角的真相。
编译自 TechCrunch，原标题："Hugging Face CEO warns that Netflix's OpenAI hack documentary isn't accurate"
