智谱 GLM-5.3 高速版灰度测试,输出速度超490 tokens/s

  • AI
  • 0
Mores的头像Mores
智谱 GLM-5.3 高速版灰度测试,输出速度超490 tokens/s

智谱近日在其AI编程工具ZCode中悄然开启高速旗舰模型GLM-5.3 HighSpeed的灰度测试。X平台AI编程博主Leo称已获得灰度资格,实测输出速度超过490 tokens/s。

该模型目前只对ZCode订阅用户随机开放,没有明确的内测申请入口,输入输出价格尚未披露。智谱方面未就此次测试公开说明。

灰度测试与实测速度

此次测试并未通过发布会或官方公告对外披露,而是在ZCode内部以灰度形式推进。X平台AI编程博主Leo称自己获得了灰度资格,并给出了超过490 tokens/s的实测输出速度。这一数字来自内测环境下的个人体验,尚不能代表模型对外规模化提供服务时的表现。

ZCode是智谱面向编程场景推出的AI工具,高速旗舰模型被直接嵌入其中进行小范围验证。从目前公开的信息看,测试范围有限,参与方式也不透明,外界难以判断灰度覆盖的用户规模。

智谱方面未就此次测试公开说明,模型的输入输出价格同样尚未披露。这意味着即便速度数据引人关注,其商业化形态和成本结构仍处于未知状态。

与主流模型的速度对比

把490 tokens/s放在当前国内主流模型中对照,差距相当明显。大模型API评测平台AI Ping的数据显示,DeepSeek V4.1 Flash官方API的输出速度为121.34 tokens/s,智谱官方的GLM-5.3 API速度为70.84 tokens/s。

按这组数据计算,GLM-5.3 HighSpeed的实测速度约为智谱官方GLM-5.3 API的七倍,也达到DeepSeek V4.1 Flash官方API的四倍左右。对于需要连续多轮调用的编程任务而言,单轮响应时间的缩短会直接累积成整体耗时的下降。

不过,AI Ping记录的是各模型官方API的公开数据,而490 tokens/s来自灰度环境下的单点实测,两者的测试条件并不完全对等。内测阶段的速度能否在正式上线后维持,仍需观察。

模型规格与开放范围

从模型基本信息看,GLM-5.3 HighSpeed拥有100万个token的上下文窗口,最多可以一次性输出131072个token,这两项参数与GLM-5.3保持一致。高速版并未在上下文长度或单次输出上限上做出削减。

用户无法主动申请,只能等待被纳入灰度名单,这也解释了为何相关讨论主要来自少数获得资格的开发者。

值得注意的是,GLM-5.3 HighSpeed在一个月之前就已出现在开源编程智能体Pi harness的官网上,说明其对外露出早于此次ZCode内的灰度测试。但截至目前,智谱仍未公布该模型的定价信息。

高速版的技术路径

智谱此前在介绍高速模型时提到,输出速度的提升主要来自软硬件基础设施的优化,而非单纯缩减模型能力。上一代GLM-5.1 Highspeed的API由智谱GLM团队与TileRT团队联合打造,在推理引擎、调度系统与底层基础设施三个层面做了系统级优化。

在推理引擎层,团队针对GLM-5.1的架构特点重写了核心推理路径,提升单卡吞吐能力;在调度系统层,通过动态批处理、请求合并和KV缓存调度优化,降低高并发场景下的尾延迟;在基础设施层,则围绕推理集群部署、网络链路和负载均衡进行协同优化。

TileRT的核心思路是放弃传统Runtime层的动态算子调度,把整个推理计算图在编译期静态编排成一个常驻GPU的persistent Engine Kernel,从而把调度、访存和同步开销压到最低。GLM-5.3 HighSpeed是否沿用同一套方案,来源未作明确说明。

此前的GLM-5.1高速版

这不是智谱首次推出高速旗舰模型。今年5月,GLM-5.1就曾推出面向部分企业用户的高速版API“GLM-5.1-highspeed”,模型输出速度达到400 tokens/s。与此次ZCode内的灰度测试相比,上一代产品面向的是企业用户群体。

智谱当时展示了高速模型在生产场景中的价值:一个Coding Agent任务往往需要经历数十轮模型调用,单轮响应只要慢上几秒,整体耗时就可能拉长十几分钟。更快的模型可以让写代码的过程明显提速,模型一边理解工程上下文,一边持续生成代码与修改方案。

从400 tokens/s到此次实测超过490 tokens/s,高速旗舰模型的输出速度在半年左右的时间里继续上探。提升推理速度已成为不少厂商的关注重点,除推出专门的快速模型外,把旗舰模型的速度再拔高一个量级也正成为新的竞争方向。

要点

  • GLM-5.3 HighSpeed在ZCode中灰度测试
  • 博主实测输出速度超过490 tokens/s
  • 智谱官方GLM-5.3 API速度为70.84 tokens/s
  • DeepSeek V4.1 Flash官方API为121.34 tokens/s
  • 模型上下文窗口100万token,最多输出131072 token

原文链接

AI
分享

更多快讯

全部快讯
  1. 月之暗面开源 Kimi K3.1 Pro 权重,引入 DeepSeek 稀疏注意力机制
  2. 国产大模型集体收费后,AI 会员租号灰产月流水达30万
  3. Thinking Machines 发布 Inkling 2 Small,技术报告点名采样 Kimi K3 轨迹
  4. SuperCLUE 11月榜单:Gemini-4-Argon 登顶,Kimi-K3.1-Pro 居国内首位
  5. 报告:英国企业公开 AI 引用中 OpenAI 占48.7%,为 Anthropic 的2.1倍

0 条回复

A文章作者M管理员
上传评论图片

暂无讨论,说说你的看法吧