国内词元日耗500万亿 服务价格近翻倍

中国信息通信研究院（下称信通院）人工智能研究所、人工智能大模型及软硬件评测工信部重点实验室，联合中国人工智能产业发展联盟，发布《大模型词元服务性能监测报告（2026年）》。报告基于2026年1月至8月的监测数据，给出了一个直观的规模数字：2026年6月，国内词元日均消耗量约500万亿，是2025年12月的近4倍。

吞吐量方面，8月国内各模型平均TPS（每秒输出词元数）达到78.23，与2025年均值38.25相比实现翻倍。但同期国外典型模型的TPS均值为112.82，相比2025年12月的51.35同样提升一倍以上，整体仍优于国内。

首词时延（TTFT）则在走高，国内外趋势一致。国内8月均值达到1.26秒，高于2025年平均的0.78秒；国外典型模型8月均值2.08秒，而4月时还是1.04秒。报告特别说明，时延上升并非单纯的性能退化，而是伴随模型参数量增加、上下文长度增加、调用量放大等因素同步出现的结果。

价格是最能说明行业风向的变化。经历过去两年的价格战后，2026年国内外模型服务价格明显回升：国内2025年下半年归一化均价为6.8元，今年以来均价13.46元，涨幅接近一倍；国外2026年以来发布的典型模型平均归一价格约117.8元，仍显著高于国内。

上下文长度正在集体冲向百万级。被监测的模型中，上下文达到100万词元的占比接近四成八，20万及以上合计超过九成五，相比2025年底提高超过76个百分点，20万以下的模型占比持续减少。

开源模型的进步最为明显，但也最“看平台”。5月四款开源模型换代后，8月DeepSeek-V4-Pro的TPS已达到DeepSeek-V3.2的两倍；时延在换代初期普遍阶段性上抬，随着推理优化落地又逐步回落到换代前水平。报告同时指出，同一款模型在不同平台上的TPS最大可差近一倍，部分第三方平台性能明显优于官方平台，原因是各平台在推理加速、优化策略与成本控制上做法不同。

对使用方而言，结论相当直接：选型不能只看模型榜单，还要看承载它的平台。报告的目的，正是为公有云API用户提供可比的性能依据——调用成功率、吞吐、首词时延、稳定性、价格与上下文窗口，这些指标才对应真实的账单和体验。