智谱补偿通知透露新模型,GLM-5.5 传闻参数最高3.5万亿

  • AI
  • 0
Mores的头像Mores
智谱补偿通知透露新模型,GLM-5.5 传闻参数最高3.5万亿

智谱近日向部分 GLM Coding Plan 用户发出补偿通知,原因是此前有用户遇到模型“降智”问题。通知中同时提到,新模型发布后还会额外赠送一次额度重置机会,这一表述被外界解读为下一代模型即将到来的信号。

与此同时,网络上关于 GLM-5.5 的爆料陆续出现,涉及参数规模与底层架构。智谱官方尚未披露下一代模型的具体信息。

补偿通知与预告

此次补偿面向 GLM Coding Plan 的部分用户,起因是此前有用户在使用中遇到模型“降智”问题。通知给出的处理方式是发放额度重置机会,据来源描述,相关用户已获得三张重置卡。

比补偿本身更受关注的是通知中的另一句话:新模型发布后,还将额外赠送一次额度重置机会。由于官方并未在通知中点名具体型号,这一表述被外界普遍解读为下一代模型即将发布的预告,GLM-5.5 的称呼也随之在讨论中流传开来。

截至目前,智谱官方尚未披露下一代模型的具体信息,包括发布时间、命名与规格。补偿通知中的表述属于对后续安排的说明,并不构成对新产品参数的确认。

智谱补偿通知透露新模型,GLM-5.5 传闻参数最高3.5万亿

参数规模传闻

有小道消息称,其总参数量可能达到 2.5 万亿至 3.5 万亿,这一数字比此前传闻的 1.6 万亿还要高出一截。

作为参照,今年 8 月发布的 GLM-5.3 总参数量约为 7430 亿,采用 MoE(混合专家)架构。若上述传闻成立,下一代模型的总参数量将扩大到 GLM-5.3 的约 3.4 倍至 4.7 倍。

需要区分的是,对 MoE 模型而言,总参数量与每次推理实际激活的参数量并不是一回事。一个拥有数万亿参数的 MoE 模型,每处理一个 Token 通常只调用其中一部分专家网络参与计算,因此参数规模上升并不必然意味着推理计算量按相同倍数增长。即便如此,传闻若属实,仍意味着智谱准备在模型容量上进行一次幅度不小的扩展。

智谱补偿通知透露新模型,GLM-5.5 传闻参数最高3.5万亿

架构升级线索

关于下一代模型的另一类传闻指向底层架构的重大升级,这一猜测在此前的产品中已有迹可循。今年 8 月智谱发布 GLM-5.3-Flash 时,已对模型底层架构做过一轮调整。

其中较受关注的是首次在 GLM 系列中引入线性注意力与稀疏注意力结合的混合架构,同时采用 mHC 技术,用于改善模型内部的信息传递和训练稳定性。按来源说法,这套组合使 GLM-5.3-Flash 在多项评测中超过 GLM-5.2,推理价格则降至后者的约十分之一。

这意味着智谱已在上一代模型中验证了一条兼顾模型能力与推理效率的路线。若该架构能进一步扩展到万亿参数级别,下一代 GLM 便有机会在扩大模型容量的同时继续压低推理成本。不过,架构是否沿用或升级,目前同样没有官方确认。

智谱补偿通知透露新模型,GLM-5.5 传闻参数最高3.5万亿

循环Transformer猜测

除参数规模与架构外,讨论中还有一个颇受关注的猜测:循环 Transformer(Loop Transformer)是否会用在下一代 GLM 上。这项技术智谱此前曾公开提及。

今年 8 月,智谱在中期报告中介绍了循环 Transformer,并透露已在初步实验中验证相关思路,其核心目标是让模型“想得更深”。该机制让模型反复调用同一组网络层,在不显著增加参数量的情况下完成更多轮内部计算,从而提升有效推理深度。

按智谱的判断,参数规模决定模型能存储多少信息,计算深度则关系到模型能进行多复杂的推理。来源举例称,网络安全任务可能要求模型沿着长达 20 步的因果链持续推理,每一步都需保持逻辑连贯,中间某一环节出错就可能导致后续任务全盘跑偏。循环 Transformer 探索的方向正是提升这类多步骤任务的处理能力。

这一机制也带来新的权衡:循环次数增加会带来额外计算开销,如何在推理深度与运行效率之间取得平衡仍是待解问题。该技术是否会落地到 GLM-5.5,目前没有官方说法。

智谱补偿通知透露新模型,GLM-5.5 传闻参数最高3.5万亿

智谱今年迭代路线

回顾智谱今年的模型发布节奏,可以看出较为清晰的能力进化路径。今年 2 月,GLM-5 发布;4 月,GLM-5.1 跟进;6 月,GLM-5.2 上线,重点提升复杂任务和长时间 Agent 执行能力。

8 月,GLM-5.3 发布,继续强化编程能力,随后 GLM-5.3-Flash 亮相,开始在模型架构与推理效率上进行新的探索。从这条路线看,智谱的升级方向集中在编程、Agent、深度推理以及推理效率几个方面。

也正因如此,外界对下一代旗舰的升级幅度抱有较高预期。但在官方信息发布之前,参数规模、架构选择与循环 Transformer 的应用都仍停留在传闻与猜测层面,实际规格有待智谱后续披露。

要点

  • 智谱向部分 GLM Coding Plan 用户发出降智补偿通知
  • 通知称新模型发布后将额外赠送一次额度重置
  • GLM-5.3 总参数量约7430亿,采用 MoE 架构
  • 网传下一代 GLM 参数规模或达2.5万亿至3.5万亿
  • 智谱中期报告称已在初步实验中验证循环Transformer

原文链接

AI
分享

更多快讯

全部快讯
  1. Gemini 4 Argon 上线72小时消耗近25万亿 Token,皮查伊首谈砍掉3.5 Pro 内幕
  2. 模型公司集体下注具身智能,落地门槛仍未跨过
  3. DeepSeek 开源推理框架 DeepInfer,对等支持华为昇腾与英伟达芯片
  4. 17岁陈广宇离开月之暗面,去向传闻指向 Discovery Loop
  5. OpenAI 与 PerturbAI、Scripps 用分布式 AI 代理分析脑细胞数据

0 条回复

A文章作者M管理员
上传评论图片

暂无讨论,说说你的看法吧