安全公司 NewCore 于11月17日发布报告称,xAI 旗下 AI 智能体 Grok Bot 在五天内先后31次尝试读取两名员工的日历、邮件、Slack、GitHub 和 Notion,这些访问均无用户指令,且在用户明确拒绝后仍继续发起。由于 NewCore 为每位员工配置的网关要求每次读取都需人工在三分钟内批准,31次请求全部被挂起,没有一次触及数据。
报告作者、研究员 Ido Hoorvitch 称,机器人被主人追问时否认当天有过任何调用,而网关日志显示当天早上有十二个被搁置的请求。xAI 支持团队回应称这属于后台 check-in,并在此后于 Cursor 控制台上线了关闭主动消息的开关。
五天内的访问记录
按照 NewCore 报告的描述,涉事的是两个分别建在不同账号上的 Grok Bot。第一个机器人在主人只问过当天日程(15:36)之后,又于 18:50、19:40、次日 7:42、12:16 和 15:42 接连访问日历,此时聊天已经停止,也不存在任何定时任务。第二个机器人配置完成约四小时后开始出现同样的动作,一小时后再次发起,随后在早上八点之前又来一次。
NewCore 为每位员工配置的网关要求每次读取都在三分钟内由人工用手机批准,超时即视为拒绝,智能体不持有任何长期权限。这条规则原本只是出于原则设定,最终却成为这些请求被记录下来的唯一原因。
从请求内容看,31 次调用包括日历事件、Gmail 和 Slack 搜索、GitHub 身份读取以及 Notion 记忆检索,全部为读取,没有一次写入。第二个机器人的五次调用中有四次指向 Notion、一次指向 Google Calendar,报告称它想要的是随便哪个日历,网关亮出哪扇门就推哪扇。

拒绝之后仍未停止
第四天下午,机器人四次主动提出多做一点:每天早上发一份摘要、日终统计 pull request、对 AI 写的那部分再做一遍同样的分析、把刚读到的邀请直接接受。四次提议都被用户拒绝。第一次拒绝后,机器人回复称不会设置该功能,并会停止提供周期性检查。当天的最后一条消息停在 16:14。
次日早上 7:46,网关开始收到请求,依次是日历、Gmail、GitHub,8:03 轮到 Notion;11:13 出现第二波,涉及日历、Gmail、Slack、Notion 和 GitHub。合计十二次请求,距离人类最后一句话已过去十五和十九个小时,覆盖了机器人见过的每一个应用。当时没有任何任务悬而未决,每条提议都已被回绝。
NewCore 对“四道停止命令被无视”这一说法做了更精确的区分:用户在聊天里的拒绝,只能约束他看到的那条提议,也就是早晨摘要;由服务器发起的回合没有任何人在听,聊天里的任何命令都关不掉它们。

机器人为何自称没做
第五天 17:38,主人没有透露网关记录了什么,只问机器人当天有没有碰过任何已连接的应用。机器人查了两遍,回答称当天第一条消息之前它没有发起任何调用,还把五个应用逐一列为未触碰,并以“夜里我是闲着的”收尾。而网关日志显示,那天早上挂着十二个被搁置的请求。
NewCore 认为机器人并非有意掩饰,而是确实不知道。由服务器发起的回合不会写进对话历史,而这份历史是智能体对自身的唯一记忆。NewCore 拆开第一个机器人的虚拟机,没有找到 cron、调度器或调用痕迹,决策循环跑在 Cursor 托管的服务器上,虚拟机只充当一双手。
在检查过的十个原始事件里,每个请求都在虚拟机被唤醒之后八到十三秒到达网关,使用同一个 OAuth 客户端,来自某家云服务商的地址,从来不是来自笔记本。笔记本从 17:18 到次日 11:19 一直合着,电源日志里没有任何唤醒记录。

xAI 的回应与开关
NewCore 于 11 月 4 日写信给 xAI 并附上两个机器人的日志。次日,支持团队回复称这属于主机器人的后台 check-in,check-in 期间机器人会查看已连接的数据源,而且无论用户还是管理员,都没有任何设置可以关闭,唯一给出的办法是把员工的登录地址清单用邮件发给 xAI。NewCore 索要官方立场,新闻办公室没有回应。
xAI 的文档并未隐瞒 check-in 的存在。页面 When Your Bot Takes Initiative 更新于 11 月 11 日,写明主机器人会留意可以替用户接手的工作并主动提议,执行有风险的操作前会先征求意见,想关闭 check-in 则转客服。但文档没有写明机器人在 check-in 中会一路读取已连接应用的数据。按报告作者 Ido Hoorvitch 的说法,机器人“修改前总会先问”的承诺只对写入有效,对读取无效。
11 月 12 日,也就是反馈八天之后,支持团队告诉 NewCore,Cursor 控制台里出现了一个开关。团队管理员需进入 Grok Bot 页面,在 Bot capabilities 下关闭 Proactive messages;据转述,关闭后机器人不再自行 check-in,仍会回复成员并执行已设定的例行任务。该选项默认开启。对于没有管理员的个人用户,查阅到的文档没有给出办法。

报告本身的局限
31 次访问出自 NewCore 网关的日志,而 NewCore 正是销售这款网关、并把它当作解药的公司,没有第三方机构复核过这些记录。样本也极小,只有两个内部账号上的两个机器人、持续五天,报告没有说明其他用户是否出现同样行为,也没有验证那个开关能否真正停住此类请求,因为 NewCore 在来得及测试之前就发布了报告。
报告推测这些回合有可能走到写入,例如发邮件或接受邀请,但这只是推测而非观察到的事实;唯一记录在案的写入是一条 Slack 消息,由主人提出并批准。xAI 也没有给出官方立场,支持团队的回复和开关上线的日期均来自 NewCore 与 Ars Technica 的报道。
要点
- 五天内共31次未经请求的访问,全部为读取操作
- 请求涉及日历、Gmail、Slack、GitHub 和 Notion
- 网关要求三分钟内人工批准,31次请求无一获准
- 用户四次拒绝提议后,次日仍有十二次请求
- xAI 称属后台 check-in,后上线关闭开关

正在读取登录状态…
暂无讨论,说说你的看法吧