OpenAI开放决策模型API 延迟压到百毫秒

OpenAI 的 Decisions API 首次向所有客户全面开放，正式杀入「快速廉价智能」这条新赛道——正是这条赛道，让前 OpenAI 研究员创办的 TypeSafe 靠 Jev 模型一度冲上 76 亿美元估值。

决策模型也被称为「系统一模型」：给它一组选项，它能在毫秒级内做出选择并附上置信度，本质上是超级分类器。开发者很快发现，在各种工作流里它都能替代大语言模型，速度更快、成本低得多。

OpenAI API 产品负责人尼昆杰·汉达告诉 TechCrunch，团队看到 Jev 后的反应是「我们有上百万个用例」。他们没有专门训练一个决策模型，而是把 ChatGPT Luna 重新配置，压低推理成本、拉高速度。

效果立竿见影：延迟从 1 到 3 秒压缩到 100、120、180 毫秒。这款产品 9 月 29 日在 OpenAI 开发者日上首次亮相，周四起向所有客户开放，公开版还新增了语音和视觉模态，并通过按地区部署推理资源来压低全球各地延迟。

早期试用客户包括 Box、Datadog、Ramp 和 Speak。AI 语言学习平台 Speak 的首席技术官安德鲁·许说，Decisions API 把动作间隔从 1.4 秒砍到 0.13 秒；OpenAI 自己也用它提升了 Dots 语音助手的响应速度。

不过什么才算好的决策模型，业内尚无定论。公开榜单 AIM System One Index 和 Artificial Analysis Decision Index 目前更青睐 Liquid 新发的 D1 Ultra 和 Base Lab 的 Elephant-1，最新版 Jev 分列第七和第三，OpenAI 的模型排第八和第十四；但在 OpenRouter 上，TypeSafe 的模型查询量暂时最大。

最有意思的基准叫 JevMan：让决策模型玩吃豆人。最新版 Jev 高居榜首——构造者说，这款游戏是绝佳测试，因为模型要在几百毫秒内连续做出高风险决策。

汉达认为速度还有下降空间：「能不能压到 60 毫秒？那样你就能给视频的每一帧做一次调用。」至于 Jev 这个名字，致敬的是那位预言便宜的商品只会愈发普及的经济学家——杰文斯。