解析信通院报告:词元均价涨到 13.46 元、吞吐量翻倍

2026-11-21 0 3

本文共 785 字,阅读约需 4 分钟中国信通院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室和中国人工智能产业发展联盟,10 月 23 日联合发布《大模型词元服务性能监测报告(2026 年)》。

报告基于 2026 年 1—8 月的监测数据,围绕调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度,对比了原厂官方平台与 DeepSeek、Qwen、GLM、Kimi 四款开源模型在第三方平台上的表现。

一、调用规模:日均消耗近 500 万亿词元词元是模型计费和处理文本的基本单位报告显示,2026 年 6 月国内词元日均消耗量约 500 万亿,是 2025 年 12 月的近 4 倍越来越多 MaaS(模型即服务,厂商通过公有云 API 直接出售模型能力)平台以公有云 API 方式供给词元服务。

二、吞吐速度:国内翻倍,仍低于国外8 月国内各模型平均 TPS(每秒输出的词元数)达到 78.23 个/秒,相比 2025 年均值 38.25 个/秒翻倍同期国外典型模型 TPS 均值为 112.82 个/秒,较 2025 年 12 月的 51.35 个/秒提升超过一倍,整体仍高于国内。

三、首词时延:国内外同步上升国内模型平均 TTFT(从发出请求到吐出第一个词元的等待时间)8 月升至 1.26 秒,2025 年平均值为 0.78 秒国外典型模型 8 月为 2.08 秒,4 月是 1.04 秒。

报告指出,时延上升伴随模型参数量、上下文长度和调用量同步增加,不全是一个性能退化的信号四、价格:结束价格战,均价接近翻倍国内词元归一化均价 2025 年下半年为 6.8 元,2026 年以来为 13.46 元,涨幅接近 1 倍。

国外价格仍明显更高,2026 年以来发布的典型模型平均归一化价格约 117.8 元五、上下文:百万级成为主流被监测模型中,上下文长度达到 1M(100 万词元)的占比 47.8%,200K 及以上的合计达 95.7%,比 2025 年底提高超过 76 个百分点,低于 200K 的模型占比持续减少。

六、开源模型:平台间差异拉大5 月更新版本的四款开源模型在监测中 TPS 持续提升、时延不断压缩,8 月 DeepSeek-V4-Pro 的 TPS 已达到 DeepSeek-V3.2 的 2 倍换代初期时延普遍出现阶段性上升,随着推理优化落地逐步回落至换代前水平。

同一模型在不同平台的 TPS、TTFT、调用成功率表现不一,部分第三方平台明显优于官方平台,同款模型跨平台的 TPS 差距最大接近一倍报告认为,各平台在推理加速、优化策略和成本控制上的差异是性能分化的主要原因,这些数据可为用户选型提供参考。

请扫码加入算力之家交流群

解析信通院报告:词元均价涨到 13.46 元、吞吐量翻倍

声明: 本文部分内容及图片来源于网络,由本站编辑整理,仅用于学习交流,版权归原作者所有。如有侵权,请联系我们删除。联系邮箱:3454251265@qq.com

收藏 (0) 打赏

感谢您的支持,我会继续努力的!

打开微信/支付宝扫一扫,即可进行扫码打赏哦,分享从这里开始,精彩与您同在
点赞 (0)

「米云软件」 AIGC 解析信通院报告:词元均价涨到 13.46 元、吞吐量翻倍 https://www.miyunrj.com/aigc/1180.html

常见问题

相关文章

猜你喜欢
发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务