一线AI研究员出镜警告：灭绝概率高得离谱

「在我看来，人类灭绝的概率大约是一半对一半。」说这话的不是末日论博主，而是曾任职于OpenAI和谷歌DeepMind的研究员杰弗里·欧文（Geoffrey Irving）。近日，非营利机构Palisade Research一口气发布十几条视频访谈，受访者全部来自OpenAI、谷歌和Anthropic的现职及前研究员，谈的都是同一个话题：超级智能到底有多危险。

这些访谈托管在frominside.ai网站上，是「AI超级智能减速」（The AI Superintelligence Slowdown）系列的一部分。谷歌DeepMind研究科学家尼尔·南达（Neel Nanda）在访谈中给出自己的估计：「至少有10%的概率会导致人类灭绝，这个概率高得离谱。」

前OpenAI研究员丹尼尔·科科塔伊洛（Daniel Kokotajlo）的说法更为直白。他认为超级智能「基本上会如神一般强大」，「不幸的是，我们完全不知道如何控制它们。大概率谁也控制不了。它正是听起来的那样危险，绝不能允许这种事发生。」

访谈也触及了这些研究员的身份矛盾。谷歌的玛丽·方（Mary Phuong）表示「你绝对应该保持怀疑」——一边拿着实验室的薪水，一边警告实验室正在造的东西可能失控。南达则解释，自己留在行业内的原因正是相信这份工作能降低风险而非放大它。

网站除了完整视频外，还把不同受访者谈同一话题的片段剪成合集，其中包括「这是否只是炒作和营销」「明知危险为什么还要做」等尖锐问题。发布方希望让公众意识到：制造前沿AI的人内部，正在讨论的其实是极端场景。

这波警告潮出现的时间点颇为微妙。近几周各大实验室接连曝出安全事件，OpenAI最新的GPT-6.1 Astra更是因未通过内部安全测试而暂缓发布，奥尔特曼也公开表态支持放慢最前沿模型的开发节奏、引入独立机构评估。学术界与业界的「末日辩论」正在从边缘走向主流。

编译自 The Verge，原标题："AI researchers put out videos saying superintelligence is 'exactly as dangerous as it sounds'"