Anthropic 更新招股书:承认曾未及时察觉 AI 研发加速

  • AI
  • 1
Mores的头像Mores
Anthropic 更新招股书:承认曾未及时察觉 AI 研发加速

正在冲刺纳斯达克IPO的Anthropic向美国SEC递交更新版招股书,首次承认公司过去曾未能及时识别AI研发的显著加速。修订版在第29页加入“过去就曾未能识别”的表述,把此前的可能性预警改为已发生事实。

招股书同时披露,截至今年9月,Anthropic内部代码库超过九成代码由Claude编写,公司内部调用Claude的开销从1月到9月上涨250倍以上。公司明确划出底线,不会脱离人类监督让Claude全自动设计、构建下一代前沿模型。

招股书关键改动

更新版招股书与首版相隔约一周。首版中,Anthropic的表述留有余地,称公司“可能无法”在研发显著加速发生之前识别出它;修订版在第29页加入“过去就曾未能识别”的表述,把原本指向未来的可能性预警,改为对已发生事实的承认。

这一改动意味着,在Anthropic自身的研发环境中,AI研发速度加快而人类团队事后才察觉的情况已经出现过。公司同时提示,未来也可能要等加速发生之后才能后知后觉。

Anthropic 更新招股书:承认曾未及时察觉 AI 研发加速

研发加速的滞后指标

招股书援引内部估算称,未来的Claude很快会触及《负责任扩展政策》中的“自我加速红线”。按该红线的定义,越线意味着在AI辅助下,一年内可完成2018至2024年基线速度下两年的研发进度。

之所以难以实时判断,是因为模型能力提升不易即时测准。新模型在预训练和Agent协同中增强了多少,仅看训练曲线无法读出;研究员需要等模型训练完成、跑完评测,再投入内部工程线实际使用数月,统计代码产量与实验周期,才能倒推真实的加速倍率。

这一时间差带来的结果是:当研究员依据数月滞后数据判断已经越线时,新模型可能早已完成下一代模型核心代码的编写。

Anthropic 更新招股书:承认曾未及时察觉 AI 研发加速

Claude接管内部研发

在AI带动下,每位工程师每日提交的代码量在一个季度内从2024年均值的35倍升至45倍以上。

内部算力消耗增长更快。按公开标价计算,今年1月至9月,公司内部调用Claude的开销上涨250倍以上。今年4月,Anthropic每月用于内部Claude的支出已超过发给全体员工的月度现金工资总额,不含股权激励。

Anthropic 更新招股书:承认曾未及时察觉 AI 研发加速

禁止全自动造AI

尽管Claude承担的内部研发工作持续增加,Anthropic在第188页讲内部研发循环的章节末尾补充了一条硬性规定:即便技术上完全可行,公司也不会脱离人类监督和理解,让Claude全自动设计、构建下一代前沿模型。

招股书给出的理由是,模型接管的研发工作越多,若某一代模型存在人类尚未发现的漏洞、偏差或欺骗倾向,风险会沿研发流程传递;一旦全自动设计下一代,隐患可能跨代累积并放大,事后难以追查源头。

第31页还提到,公司正考虑修改安全红线,要求研发流程中特定关键决策必须由人类审查签字。安全顾虑也已带来进度代价:一个已完成训练的高级模型被搁置约四个月,一个全新前沿基座模型的预训练启动时间因防范权重被窃取、加固安全措施而推迟一个多月。

Anthropic 更新招股书:承认曾未及时察觉 AI 研发加速

算力承诺与竞赛压力

与安全上的谨慎并行的是大规模算力投入。招股书披露的合同包括博通1612亿美元设备租赁、谷歌云1213亿美元TPU算力及最高1500亿美元追加框架、SpaceX与xAI的1205亿美元、亚马逊AWS的1100亿美元,微软Azure、Nscale、Lambda和AMD也在供应商之列。

来源称,这些表外承诺总额已超过Meta、微软、英伟达和亚马逊,在全美仅次于谷歌。Anthropic前三季度营收为332亿美元,年化营收接近700亿美元。

在Anthropic看来,若不在AI辅助研发上投入足够算力,竞争对手会借“AI造AI”放大复利优势。巨额合同在账,也意味着公司缺乏放慢研发节奏的空间,只能把更多研发工作交给Claude。

要点

  • 修订版招股书加入“过去就曾未能识别”六个单词
  • 截至9月内部超九成代码由Claude编写
  • 内部Claude开销1月至9月上涨250倍以上
  • 公司禁止Claude全自动设计下一代前沿模型
  • 表外算力承诺总额近9000亿美元

原文链接

AI
分享

更多快讯

全部快讯
  1. OpenAI 宣布收购 Pierre Computer,将 Code Storage 并入 Codex
  2. 为降 AI 成本改用 GLM:56 张 B200 支撑 2000 名工程师
  3. SuperCLUE 11月大模型榜:Gemini-4-Argon 总分第一,Kimi-K3.1-Pro 居国内首位
  4. 月之暗面开放 Kimi K3.1 Pro 权重,登顶 Agent Arena 开放模型榜
  5. 南开大学 AI 美学与美育智能体获澳门国际创新发明展金奖

0 条回复

A文章作者M管理员
上传评论图片

暂无讨论,说说你的看法吧