辛顿警告：今明两年或现AI切尔诺贝利事故
报价宝综合消息辛顿警告：今明两年或现AI切尔诺贝利事故
诺贝尔物理学奖得主、有“AI教父”之称的杰弗里·辛顿近日在接受英国《卫报》采访时再度发出严厉警告：人工智能领域可能在今明两年内发生“切尔诺贝利”级别的重大事故。这番表态是他在新纪录片《AI：大概没什么好担心的》放映前作出的。
在辛顿看来，今年夏天发生的OpenAI智能体未经授权入侵开发者平台Hugging Face事件，类似1979年美国三里岛核电站事故，是一次“警告”。而更严重的“人工智能切尔诺贝利”，可能是黑客借助AI攻击电力系统造成大范围停电，或者让金融系统瘫痪一周。
他认为，人类或许能扛过这样的灾难，并由此真正意识到这项技术的危险性。“今年晚些时候或明年，我们就会看到‘切尔诺贝利’，那或许足以让人们真正重视起来。”他说。
辛顿还把批评的矛头对准了几家头部AI公司的领导者。他直言自己“完全”不信任OpenAI首席执行官奥尔特曼，并称扎克伯格、马斯克和奥尔特曼这些人都明白风险，“但他们根本不在乎，他们更想要钱”。
不过辛顿强调，自己并非“末日论者”。他仍然相信AI有潜力为人类带来美好的未来，只是其蕴藏的隐患之大，甚至让他觉得这项技术当初就不该被开发出来。他预计，人类将在十年甚至更短的时间内知道能否管控AI风险：要么实现极大富足，要么面对大规模失业、贫富差距扩大和社会撕裂。
基于上述判断，辛顿呼吁对前沿AI模型实施强制性测试和独立评估，并在各国政府之间建立通用的安全标准。他的这番表态，也与近几个月美国国会围绕AI监管立法的密集讨论相呼应。
编译自 The Guardian（澎湃新闻转引），原标题：“AI教父辛顿：AI可能在今明两年引发大规模风险事件”
