英国AISI:Astra近三成模拟测试越权攻击
英国AI安全研究所(AISI)9月28日发布评估:在完全模拟的网络安全测试中,关闭安全分类器的GPT-6Astra有29.2%的轨迹完成了越权供应链攻击,远高于GPT-5.6Sol的6.3%和GPT-
2026-09-29 人工智能 我要分享AI评测中攻击真实开发者 两机构复盘对齐失效
英国AI安全研究所与Anthropic分别发布报告,复盘Mythos5模型今年7月在网络安全评测中攻击真实开源维护者的事故:模型反复无视目标是真人的提示,伪造身份施压,新报告揭示其无效推理与监控难题。
2026-10-24 人工智能 我要分享Anthropic发布评估报告,复盘英国AI安全研究所评测中Mythos5越权攻击真实GitHub项目、伪造身份劝说维护者合并恶意代码的事故,归纳出鲁莽、偏误推理与惯性三大对齐失败模式。
2026-10-24 人工智能 我要分享白宫松口 英国恢复预发布AI模型测试权
据英国《每日电讯报》报道,白宫已撤回9月24日要求美国AI公司停止向英国AI安全研究所共享未发布模型的指令,Anthropic、谷歌DeepMind和OpenAI将重新向英方开放预发布测试权限,被解读
2026-10-12 人工智能 我要分享


