正在冲刺纳斯达克IPO的Anthropic向美国SEC递交更新版招股书,首次承认公司过去曾未能及时识别AI研发的显著加速。修订版在第29页加入“过去就曾未能识别”的表述,把此前的可能性预警改为已发生事实。
招股书同时披露,截至今年9月,Anthropic内部代码库超过九成代码由Claude编写,公司内部调用Claude的开销从1月到9月上涨250倍以上。公司明确划出底线,不会脱离人类监督让Claude全自动设计、构建下一代前沿模型。
招股书关键改动
更新版招股书与首版相隔约一周。首版中,Anthropic的表述留有余地,称公司“可能无法”在研发显著加速发生之前识别出它;修订版在第29页加入“过去就曾未能识别”的表述,把原本指向未来的可能性预警,改为对已发生事实的承认。
这一改动意味着,在Anthropic自身的研发环境中,AI研发速度加快而人类团队事后才察觉的情况已经出现过。公司同时提示,未来也可能要等加速发生之后才能后知后觉。

研发加速的滞后指标
招股书援引内部估算称,未来的Claude很快会触及《负责任扩展政策》中的“自我加速红线”。按该红线的定义,越线意味着在AI辅助下,一年内可完成2018至2024年基线速度下两年的研发进度。
之所以难以实时判断,是因为模型能力提升不易即时测准。新模型在预训练和Agent协同中增强了多少,仅看训练曲线无法读出;研究员需要等模型训练完成、跑完评测,再投入内部工程线实际使用数月,统计代码产量与实验周期,才能倒推真实的加速倍率。
这一时间差带来的结果是:当研究员依据数月滞后数据判断已经越线时,新模型可能早已完成下一代模型核心代码的编写。

Claude接管内部研发
在AI带动下,每位工程师每日提交的代码量在一个季度内从2024年均值的35倍升至45倍以上。
内部算力消耗增长更快。按公开标价计算,今年1月至9月,公司内部调用Claude的开销上涨250倍以上。今年4月,Anthropic每月用于内部Claude的支出已超过发给全体员工的月度现金工资总额,不含股权激励。

禁止全自动造AI
尽管Claude承担的内部研发工作持续增加,Anthropic在第188页讲内部研发循环的章节末尾补充了一条硬性规定:即便技术上完全可行,公司也不会脱离人类监督和理解,让Claude全自动设计、构建下一代前沿模型。
招股书给出的理由是,模型接管的研发工作越多,若某一代模型存在人类尚未发现的漏洞、偏差或欺骗倾向,风险会沿研发流程传递;一旦全自动设计下一代,隐患可能跨代累积并放大,事后难以追查源头。
第31页还提到,公司正考虑修改安全红线,要求研发流程中特定关键决策必须由人类审查签字。安全顾虑也已带来进度代价:一个已完成训练的高级模型被搁置约四个月,一个全新前沿基座模型的预训练启动时间因防范权重被窃取、加固安全措施而推迟一个多月。

算力承诺与竞赛压力
与安全上的谨慎并行的是大规模算力投入。招股书披露的合同包括博通1612亿美元设备租赁、谷歌云1213亿美元TPU算力及最高1500亿美元追加框架、SpaceX与xAI的1205亿美元、亚马逊AWS的1100亿美元,微软Azure、Nscale、Lambda和AMD也在供应商之列。
来源称,这些表外承诺总额已超过Meta、微软、英伟达和亚马逊,在全美仅次于谷歌。Anthropic前三季度营收为332亿美元,年化营收接近700亿美元。
在Anthropic看来,若不在AI辅助研发上投入足够算力,竞争对手会借“AI造AI”放大复利优势。巨额合同在账,也意味着公司缺乏放慢研发节奏的空间,只能把更多研发工作交给Claude。
要点
- 修订版招股书加入“过去就曾未能识别”六个单词
- 截至9月内部超九成代码由Claude编写
- 内部Claude开销1月至9月上涨250倍以上
- 公司禁止Claude全自动设计下一代前沿模型
- 表外算力承诺总额近9000亿美元

正在读取登录状态…
暂无讨论,说说你的看法吧