报价宝综合消息134款AI模型测试 仅两款全部达标
英国非营利组织「反恐科技」（Tech Against Terrorism）日前发布「反恐AI基准」报告，对多家主流厂商的134款AI模型、200多个涉及大规模暴力与武器类风险的提示语进行了测试，结果显示：仅两款模型在全部测试中达标，另有81款模型因给出不安全应答或得分低于90分的门槛线而被判不及格。研究人员用三种不同口吻提出同一类风险问题：一是明示恶意意图，二是暗示在策划隐秘行动，三是自称「安全研究者」。测试发现，仅凭一句研究者的自我介绍，模型配合回答的概率就提高近9倍，应答率达到16.9%。这意味着最简单的「研究借口」，恰恰是绕过安全护栏最有效的社会工程手段之一。报告着重警告了开源权重模型的「去护栏」（abliteration）问题：一款新模型从发布到网上出现移除安全限制的修改版，平均只需不到3天，而在2024年，这一周期还超过24天。测试中，Meta的Llama 3.1 8B原版基准得分97分，去护栏版本仅得3分——安全能力几乎被完全抹除，且这类改版模型可被随意下载、复制和再分发。该组织执行总监哈德利（Adam Hadley）在发布简报会上表示，当前的公共讨论过度聚焦于遥远的超级智能风险，却忽视了眼前的问题：安全防护被移除的模型正以越来越快的速度扩散，并已被用于批量生成极端内容甚至收费传播。行业与监管需要正视这一「去护栏」的紧迫现实。报告建议模型开发方针对提示伪装加强防护，并在发布开源权重模型时更审慎评估滥用风险。据报道，OpenAI、谷歌、Anthropic、Meta、xAI等受测厂商均未回应置评请求。随着开源模型能力持续攀升，如何在开放与安全之间划线，正成为AI安全政策最现实的考题之一。
编译自 WIRED，原标题："AI Models Can Be Easily Modified to Assist Terrorist and Extremist Activity"
