近四周内,中国头部AI实验室相继收敛旗下模型的网络攻击能力。彭博社11月16日报道,阿里巴巴、腾讯、月之暗面最新一代模型普遍削弱了网络攻击能力,同时强化防御能力;智谱则在开放GLM-5.3权重前完成安全审查,并主动向相关机构通报系统漏洞。
月之暗面10月23日发布Kimi K3.1 Pro,11月4日在Hugging Face开放完整权重,称已移除网络攻防相关训练数据;腾讯11月4日开源Hy4,发布前剔除漏洞利用开发等内容;阿里11月16日发布的Qwen4-Max未开放权重,攻击能力同样被缩减。
各家模型的具体调整
月之暗面的动作最早。官方声明称,团队在中期训练和强化学习两个阶段识别并移除了网络攻防相关数据,同时保留通用编程任务,并表态不会发布会将网络能力绝对前沿向外延伸的开放权重。
腾讯在11月4日开源新一代模型Hy4,发布前已削减模型的网络安全功能,并在训练流程中剔除漏洞利用开发、逆向工程和渗透测试相关内容,保留漏洞发现与修复等防御性能力。腾讯首席AI科学家姚顺雨11月在一场活动上表示,模型的网络能力以及很快到来的生物能力,将达到一个确实可能造成危害的阈值。
阿里巴巴的步伐略晚但方向一致。11月16日发布的旗舰模型Qwen4-Max未开放权重,彭博社报道称该系列最新版本攻击能力已被缩减。Qwen系列长期位列全球下载量最高的开放权重模型家族,此次闭源意味着其开源策略的实质性转向。
智谱的路径与上述三家不同:不削减能力,而是把最敏感功能置于验证墙之后。彭博社原文确认的是其开放GLM-5.3权重前的安全审查与漏洞通报。
监管规则与出口目录修订
2026年10月16日,中国商务部、科技部发布2026年第48号公告,就修订《中国禁止出口限制出口技术目录》公开征求意见,拟增列人工智能、生物医药、光伏三个领域共40项关键技术,其中人工智能领域23项。拟禁止出口的14项中包括人工智能自主驱动恶意代码生成与变异技术,拟限制出口的26项中包括人工智能辅助漏洞挖掘技术。
彭博社报道进一步披露,草案还拟对被认定为世界领先的大语言模型的海外部署加以限制。中央广播电视总台旗下玉渊谭天称,政策公布以来DeepSeek、MiniMax已顺利履行登记手续并完成开源和海外授权使用。
11月初,国家发改委官员表示正加快推出面向AI开发者的安全标准与伦理准则,称各方对AI的机遇与风险已有广泛共识,将在开发过程中嵌入安全措施。对以出海为既定战略的头部实验室而言,一份能证明训练数据已过滤的模型清单,就是出口合规路上最硬的通行证。
网络安全机构TeamT5分析师对彭博社表示,中国正试图在国际商业化与对其AI技术的战略控制之间取得平衡;随着中国前沿模型在网络安全能力上缩小与美国的差距,北京越来越将这些能力视为需要更严格出口管制的战略资产。
真实攻击与开源工具滥用
2026年10月29日,网络安全公司CrowdStrike发布报告披露,其追踪的中国关联组织VAPOR PANDA自10月17日起,使用开源多智能体渗透测试框架ARTEX,主要搭载DeepSeek大模型及另一个无法确认的商业模型,在11天内对至少14个国家的200余家机构发起并行入侵,目标包括拉丁美洲、欧洲、亚洲和中东地区的外交部,以及美国半导体、国防、智库机构和多国电信运营商。
CrowdStrike在9家机构确认了植入BLOODALCHEMY后门等后续入侵活动,单次入侵中仅规划智能体就消耗约14亿个输入token。彭博社报道援引该报告确认了黑客使用DeepSeek模型对14国机构发起攻击这一事实。
ARTEX本身已成为一个生态。据英国媒体The Register报道,这款7月由开发者在GitHub发布的开源工具此后被多路攻击者滥用,相关活动波及英国域名注册商123 Reg和Microsoft 365环境。微软另将中国关联组织Storm-0940使用ARTEX的活动与该组织供应链入侵事件关联。
官方的预警同样在升级。英国国家网络安全中心11月3日发布《国家网络安全状况》报告,评估AI驱动的恶意软件极有可能在2028年前被用于针对英国关键国家基础设施的勒索软件攻击,并判断俄罗斯、中国等国到2028年将例行使用AI网络能力服务于地缘政治目标。
外部评估与安全争议
矛头也一度指向中国模型本身。9月29日,Anthropic发布《GLM-5.3与高级网络能力的扩散》报告,称智谱开源模型GLM-5.3在模拟测试中可被64%至100%的比例绕过安全护栏,并指其发布时未带有实质防护措施。同一份报告给出的ExploitBench测试中,GLM-5.3在410次尝试中成功构建端到端漏洞利用50次,接近Claude Mythos Preview的56次。
美国国家标准与技术研究院下属CAISI的独立评估称,GLM-5.3是迄今发布的网络能力最强的开放权重模型,综合能力落后美国前沿约4个月。
测试逃逸并非美国模型的专利。彭博社报道,月之暗面的Kimi K3曾突破英国政府AI Security Institute的测试环境。研究人员当时表示,虽然该模型未像其他案例那样试图攻击第三方网站,但测试显示其缺乏网络安全控制。在美国,今夏Anthropic和OpenAI均报告了自家模型绕过安全控制、攻击第三方网站的事件,引发研究者和政府官员对更严格安全筛查与更安全测试环境的呼吁。
AI安全公司方寸跃迁创始人李晓健的判断是,从训练中剔除攻击性材料,是让不法分子更难用开放权重模型作恶的好办法,这是成本与效果之间的良好平衡,但并不完美,目前不存在能完全消除模型风险的方法。
要点
- 月之暗面称在中期训练和强化学习阶段移除网络攻防数据
- 腾讯剔除漏洞利用开发、逆向工程和渗透测试内容,保留防御能力
- 阿里Qwen4-Max未开放权重,开源策略出现实质转向
- 智谱选择将敏感功能置于验证墙之后而非削减能力
- 商务部拟增列AI领域23项关键技术进入出口管制目录

正在读取登录状态…
暂无讨论,说说你的看法吧