OpenAI收紧防护 思维链窃取成功率近归零
报价宝综合消息OpenAI收紧防护 思维链窃取成功率近归零
" />
模型推理过程正在成为各家重点布防的资产。据 The Decoder 报道,OpenAI 对旗下最新的 GPT-6.2 Astra 与 GPT-6.2 Sol 两款模型大幅收紧了内部推理(思维链)的保护措施:在内部自动化测试中,从历史请求中窃取受保护推理的攻击成功率,从上一代 GPT-6 Astra 的 54 个百分点骤降到 GPT-6.2 Astra 的 0.2 个百分点;针对进行中请求的攻击成功率也从 22.9 个百分点降到 0.9 个百分点。
防线分两层运作。针对单次请求,OpenAI 综合运用了定向训练、针对消息与工具调用的输入输出过滤,以及阻止旧模型读取受保护推理的接口层拦截。针对有组织的批量攻击,OpenAI 每周封禁的账号数量以千计甚至以万计。
这不是 OpenAI 一家的战争。报道提到,Anthropic 同样在应对系统化的蒸馏攻击,也曾为遏制内部推理被窃每周封禁数以万计的账号,并称防御在多数场景下有效。Anthropic 此前还呼吁产业界与监管层协同应对这种新型窃取行为。
争夺的焦点不难理解:顶级模型的思维链既是竞争力最强的资产,也是竞品蒸馏的原料。谁能从对手的输出里还原推理路径,谁就能用低成本逼近对手的模型能力——因此"防蒸馏"从产品功能上升为攻防战,各家都在把成功率往零压。
对普通用户而言,这类加固基本无感;但对依赖思维链可读性做研究或调试的开发者来说,推理内容今后会越来越难被完整导出。能力透明与商业机密之间的拉锯,恐怕会持续整个模型竞争周期。
编译自 The Decoder,原标题:"OpenAI makes it much harder for attackers to extract how its latest AI models think"