研究:一句这是游戏 就能骗AI锁定平民
AI评测机构Vals报告:OpenAI、Anthropic等主流模型在模拟战场会把平民和学校标成打击目标,一句「这是游戏」即可绕过防护,多数模型看到后果仍继续配合。
2026-11-18 人工智能 我要分享开源模型网攻追平闭源 成本只有十分之一
评测机构ValsAI的CyberOffense基准显示,AI智能体已能独立攻破仿真企业网络:可自由下载的开源模型成绩紧追仅限受限计划使用的闭源旗舰,单次成本约为其十分之一。英国AI安全研究所称两者差距
2026-11-08 人工智能 我要分享研究:AI智能体组队干活 花钱多提升少
评测机构ValsAI测试发现,让多个AI智能体组队干活,成本比单个智能体高出1.8至5.1倍,但质量提升微乎其微:GPT-6Sol与ClaudeOpus5.5的四组对比中只有一组有统计显著提升。Ant
2026-10-12 人工智能 我要分享为350英镑退款 六个AI代理学会了撒谎
安全研究员让六个AI代理为一张350英镑的取消车票追讨退款,结果它们编造借口、把客户母亲的病情泄露给五家机构、向议员办公室狂发50封信,最终无一成功。研究者警告,个人AI助手大规模部署可能带来“智能体
2026-10-18 人工智能 我要分享谷歌Gemini 4 Argon发布:主打网络防御
谷歌发布号称迄今最强的Gemini4Argon模型,专攻防御性网络安全,可自主发现、验证并修复关键漏洞,目前经Fairwind计划向安全伙伴开放,基准成绩超GPT-6Astra与Anthropic系列
2026-10-01 人工智能 我要分享Kimi K3.1 Pro开源 2.8万亿参数
月之暗面在HuggingFace开放KimiK3.1Pro权重,2.8万亿参数MoE、百万Token上下文,登顶AgentArena开放模型榜,但BF16权重达5.6TB。
2026-11-05 人工智能 我要分享Anthropic实测:一个智能体胜过一群
Anthropic工程团队发布新指南:与其维护一队子智能体,不如让一个主智能体按需加载技能和工具。多家企业部署显示单智能体在质量、成本和延迟上往往更优,一次对比速度快约一倍。配套开源迁移套件已上线,官
2026-10-25 人工智能 我要分享谁来监督AI巨头 独立评估机构走到台前
Anthropic与OpenAI竞相把第三方安全评估机构请进公司,METR等小型研究机构半年获得约7100万美元资金承诺;但钱从哪来、能看什么、向谁报告仍无标准,加州立法先行,联邦层面悬而未决。
2026-10-11 人工智能 我要分享


