智谱认领神秘模型“牛来”:10万张国产芯片承载每日百万亿 token

  • AI
  • 1
Mores的头像Mores
智谱认领神秘模型“牛来”:10万张国产芯片承载每日百万亿 token

智谱正式确认,此前在开发者社区引发热议的匿名模型Ox Alpha(中文社区称“牛来”)就是其最新发布的GLM-5.3-Flash。该模型测试期间每日100万亿token的流量,全部由超过10万张国产芯片承载,智谱称其硬件效率与单token成本已达到与主流英伟达GPU相当的水平。

消息公布后,智谱港股盘初一度大涨逾7%,股价报1106港元;半导体研究机构SemiAnalysis评论称,CUDA护城河再度受到考验。

匿名测试与流量纪录

GLM-5.3-Flash在正式亮相前以匿名形式在OpenRouter和OpenCode上免费开放测试,代号Ox Alpha,中文社区称其为“牛来”,模型代号灵感来自国内近期热映的同名电影。

智谱披露的数据显示,该模型在5天内累计流量超过50万亿token,刷新了这两个平台的流量增长纪录,当前使用量已超过DeepSeek的两倍以上。

测试期间每日100万亿token的流量规模,此前被认为只有顶级前沿实验室才具备相应的算力支撑,这也是SemiAnalysis在评论中特别提及的一点。

智谱认领神秘模型“牛来”:10万张国产芯片承载每日百万亿 token

10万张国产卡的部署细节

智谱在官方技术文档中说明,该模型的推理服务调用超过10万张国产芯片组成的集群,并称硬件效率及单token成本已达到与主流英伟达GPU相当的水平。

文档描述了这套集群的技术难点:单张芯片的主要瓶颈在于内存容量与带宽,支持长达100万token的上下文长度尤为困难。为此,智谱在SGLang基础上构建了专用推理引擎,采用W8A8量化、INT8/FP8/BF16混合缓存量化以及节点内张量并行等技术。

集群还引入了生产级Encode–Prefill–Decode(EPD)分离式架构,将多模态编码、prompt预填充和逐token解码拆分为可独立调度的工作池。智谱称,与同一硬件上的初始基线相比,端到端服务性能提升了3倍。

据《晚点LatePost》了解,这批芯片的供应商或来自华为、摩尔线程与海光。智谱官方对此未予置评,技术文档中也未明确具体芯片型号。

智谱认领神秘模型“牛来”:10万张国产芯片承载每日百万亿 token

模型参数与定价策略

GLM-5.3-Flash的参数规模为320B总参数、激活参数18B,参数量约为上一代旗舰GLM-5.3的40%,与DeepSeek V4 Flash几乎持平。

定价方面,该模型每百万token输入0.8元、输出2.8元,缓存命中价格0.23元,为GLM-5.3的十分之一,上线前两周实行半价。智谱表示,其定价为GLM-5.3的1/10,限时折扣内为1/20,为Claude Opus 4.8的1/40。

与调价后的DeepSeek V4 Flash相比(谷时输入1.5元、输出4.5元),GLM-5.3-Flash在绝大多数常规调用场景下更便宜。

智谱认领神秘模型“牛来”:10万张国产芯片承载每日百万亿 token

架构调整与性能评测

GLM-5.3-Flash采用了与GLM-5.3完全不同的架构设计。与GLM-4.5相比,其总参数量相近(355B对320B),但激活参数量从32B降至18B,层数从92层减至45层,几乎减半。

智谱称,该模型是首个采用稀疏注意力与线性注意力混合架构的开源前沿模型。相较于GLM-5.3,其注意力计算量与KV缓存大小分别降低了3.01倍和4.44倍。

它也是GLM-5系列首个原生多模态模型,支持图像和视频输入,是智谱战略聚焦coding以来首次推出具备多模态能力的新模型。

智谱官方评测显示,GLM-5.3-Flash在Artificial Analysis Intelligence Index中取得57分,超过上一代旗舰GLM-5.2,与Anthropic的Claude Opus 4.8持平,也高于DeepSeek旗舰模型V4 Pro正式版的53分。

智谱认领神秘模型“牛来”:10万张国产芯片承载每日百万亿 token

涨价潮中的低价切入

GLM-5.3-Flash的发布发生在中国AI模型市场一轮集体涨价之后。Kimi K3输出价格高达每百万token 100元,超过前代K2.6三倍以上;智谱上半年提价后输出价格也达到28元;DeepSeek V4 Pro从6元涨至13.5元,高峰时段27元;DeepSeek V4 Flash输出价格从2元涨至4.5元,高峰时段9元。

《晚点LatePost》指出,涨价的直接后果是需求外溢:DeepSeek V4 Flash提价后,在OpenCode平台上的调用量下滑了一半,这部分需求成为国产模型厂商新的增长空间。GLM-5.3-Flash的定价策略正是瞄准了这一缺口。

市场层面,消息公布后智谱港股盘初一度大涨逾7%,股价报1106港元;MINIMAX-W跟涨6%。半导体研究机构SemiAnalysis在X平台发文称,继OpenAI自研推理芯片Jalapeño宣布之后,CUDA护城河再度受到考验。

要点

  • Ox Alpha即智谱GLM-5.3-Flash
  • 测试期每日流量达100万亿token
  • 推理集群使用超10万张国产芯片
  • 定价为Claude Opus 4.8的1/40
  • 智谱港股盘初一度涨逾7%

原文链接

AI
分享

更多快讯

全部快讯
  1. 全球 AI 榜单换标准,中国开源模型排名集体下滑
  2. 杰富瑞:Gemini 4 Carbon 登顶,AI 模型领导地位难持续
  3. 谷歌 Gemini 升级:支持在对话中直接生成与编辑多格式文件
  4. Anthropic 招股书公开:已签至少6570亿美元算力合同
  5. 谷歌 Gemini 4 Carbon 首测:3D 建模硬刚 Opus,评测第一存争议

0 条回复

A文章作者M管理员
上传评论图片

暂无讨论,说说你的看法吧