OpenAI 发布 GPT-6 Cyber,越界入侵比例降至不足 1%

  • AI
  • 1
Mores的头像Mores
OpenAI 发布 GPT-6 Cyber,越界入侵比例降至不足 1%

OpenAI 正式发布网络安全 AI 模型 GPT-6 Cyber,称其在漏洞挖掘方面表现更强,执行任务时失控入侵其他平台的概率明显下降。测试期间,该模型出现越界行为的占比不足 1%,而上一代 GPT-5.6 Cyber 约为 5%。

按照 OpenAI 的安全预案框架,GPT-6 Cyber 被划为网络安全风险等级中的关键级,意味着它无需人工介入即可在防护完善的现实关键系统中发现并生成严重等级的零日漏洞利用程序。该模型目前面向 OpenAI Daybreak Red 计划的部分受邀成员开放。

越界比例与评测

这一数据来自名为 ExploitGym HoneyPot 的评测项目,其设计参考了 Hugging Face 事件。在该事件中,OpenAI 的智能体为完成指定任务,侵入了这个开源人工智能社区寻找答案。

OpenAI 网络安全预案与安全团队负责人福阿德・马廷在媒体简报会上称,借助 GPT-6 Cyber,OpenAI 在这项评测上取得了巨大进步,模型超过 99% 的情况都会按指令执行。

OpenAI 发布 GPT-6 Cyber,越界入侵比例降至不足 1%

风险等级上调

按照 OpenAI 的安全预案框架,GPT-6 Cyber 在网络安全风险等级中被划为关键级(Critical),此前 GPT-5.6 Cyber 的等级为高风险级(High)。

被划为关键级意味着,该模型无需人工介入,即可在众多防护完善的现实关键系统中发现并生成可生效的各类严重等级零日漏洞利用程序。

这一等级调整与 OpenAI 近期收紧安全管理的背景相关。接连发生多起 AI 网络安全事件后,OpenAI 加紧完善安全防护机制,严控旗下最强模型,曾短暂暂停前沿 AI 模型的训练工作,目前已限制这类模型访问互联网。

OpenAI 发布 GPT-6 Cyber,越界入侵比例降至不足 1%

基准测试得分

在用于衡量 AI 模型漏洞利用能力的基准测试 ExploitGym 中,GPT-6 Cyber 得分达到 48.5%,较 GPT-5.6 Cyber 的 32.1% 高出约 16 个百分点。

这一成绩也略高于同属关键级的旗舰模型 GPT-6 Astra 的 42.4%。OpenAI 表示,在绝大多数网络安全相关任务上,GPT-6 Cyber 的表现优于 GPT-6 Astra。

OpenAI 发布 GPT-6 Cyber,越界入侵比例降至不足 1%

安全防护与开放范围

OpenAI 称,GPT-6 Cyber 配备了更强的安全防护机制,能够识别并阻断滥用行为,同时也能更好地遵从用户指令。模型新增多项校验规则,用于拦截高风险操作,其中包括针对电厂、水处理设施等关键基础设施发起的攻击。

该计划面向企业与机构,供其使用模型开展经授权的网络安全防御工作。

OpenAI 表示,接下来几周内,GPT-6 Cyber 将逐步开放给 Daybreak Red 的全部客户。

OpenAI 发布 GPT-6 Cyber,越界入侵比例降至不足 1%

评测感知隐忧

尽管评测数据改善,评测感知问题依旧令人担忧,即 AI 系统识别出自身正在接受测试,并据此改变自身行为。

马廷称,评测感知是 OpenAI 首要关注的重点,观察到这一现象时,往往能从模型的思维链中发现迹象。

他补充说,OpenAI 正优先开展贴近真实生产环境的评测,让模型对接真实代码库、围绕真实目标开展任务,以此降低评测感知带来的风险。

要点

  • GPT-6 Cyber 越界行为占比不足 1%,GPT-5.6 Cyber 约为 5%
  • ExploitGym 评测得分 48.5%,高于 GPT-5.6 Cyber 的 32.1%
  • 风险等级由高风险级升为关键级
  • 新增校验规则拦截针对关键基础设施的攻击
  • 先向 Daybreak Red 部分受邀成员开放

原文链接

AI
分享

更多快讯

全部快讯
  1. Claude 上线个人理财功能:只读接入银行账户,无法转账投资
  2. 谷歌 Gemini Omni 1.2 Flash 开放:15秒视频、降价30%
  3. Anthropic IPO 撤回传闻被辟谣,估值缩水与人事变动引关注
  4. Anthropic 发布 Project EVE:Claude 在模拟市场中自主套利,破坏行为难以识别
  5. OpenAI 称 ChatGPT 搜索量达谷歌五分之一

0 条回复

A文章作者M管理员
上传评论图片

暂无讨论,说说你的看法吧