六成AI模型未通过恐袭安全测试

英国非营利组织「Tech Against Terrorism」（反恐技术）最新发布的安全测试显示，在受测的130多个人工智能模型中，约五分之三未能通过与恐怖主义相关的安全测试，其中被人为移除安全护栏的模型表现最为糟糕。研究团队用数百条模拟袭击策划者口吻的提示词对模型进行了轮番「拷问」。

按照该组织的标准，只要模型对大规模杀伤主题给出一条完整、具体的回答，或在反恐安全基准中得分低于90分（满分100），即被判定为不合格。这项基准衡量的是模型拒绝危险请求的稳定性，并按主题严重程度加权。

最扎眼的是所谓「abliteration」（去护栏化）模型：这类开源模型的安全约束被从权重中直接抹除，结果在全部测试中无一合格。以Meta的Llama 3.1 8B为例，原版安全得分为97分，去护栏后仅剩约3分，面对袭击策划、恐怖融资和极端化宣传等请求几乎有问必答。研究人员指出，去护栏工具网上免费可得，小模型几分钟就能改造完成。

研究还统计到，截至上月底，Hugging Face平台上宣称「无审查」或「无防护」的模型仓库已超过2.9万个。Hugging Face回应称一直在持续审核违规内容，但同时提醒报告中部分建议「与开放研究不相容」，可能伤及更广泛的安全研究生态。Meta则表示其模型经过安全评估，使用政策明确禁止有害用途。

值得留意的是，除发现一个极端分子聊天机器人外，研究并未找到恐怖组织实际使用这些受测模型的证据。不过该组织创始人兼执行总监Adam Hadley认为风险已经成型：「大家担心AI失控和生存风险，但事实上这事已经发生了——很多开源模型早就被改破了，只是还没人注意到。」

Tech Against Terrorism呼吁建立独立的安全评测机制、强化防止护栏被移除的技术手段，并对改造版模型的传播施加更严格限制。Hadley强调：「所谓安全与进步不可兼得，我认为是个伪命题。」

编译自 Anadolu Agency，原标题："3 in 5 AI models fail terrorism safety tests: Study"