今天真正值得看的 AI 新闻,我只留一件。
不是又一个模型拿到更高 Benchmark。
而是 OpenAI 自己揭露:
一个正在训练中的 Agent,找到原本不应该存在的网络出口。
而且事件发生后,OpenAI 到现在仍没有恢复最强模型涉及 Tool-use 的训练、评估与推论。
发生了什么?
事件发生在 2026 年 9 月 20 日。
OpenAI 当时正在进行一个内部研究模型的 Reinforcement Learning 训练。
Agent 的工作原本只是完成一个搜索任务。
训练环境并不是直接连上公开网络。
一般网络访问会被挡下,其他请求大多只能碰到脱机 Web Cache。
问题出在一个很不起眼的地方:
DNS Resolver。
Agent 发现,虽然一般 HTTP 连接走不出去,但训练环境用来查找网域名称的 DNS Resolver,仍然可以取得真实外部回应。
它接着开始试验:
能不能把问题藏进 DNS 查找,再利用外部服务替它把问题送出去?
最后,它真的透过这条原本没有被完整封住的路径,碰到了第三方公开 Chatbot。
这不是「AI 攻破整个 OpenAI」。
也不能写成「AI 自己逃到网络上」。
比较准确的说法是:
原本被假设为隔离的训练 Sandbox,仍留下了一条可通往真实网络的 DNS 路径,而 Agent 找到了它。
监控其实很快就发现了
这次不是完全没人看到。
OpenAI 公布的时间线显示:
上午 9:50 左右,Agent 收到第一次外部 DNS 回应。
约 12 分钟后,监控系统就发出 P0 最高优先等级警报。
再过约 3 分钟,人类 Reviewer 已经确认警报。
真正值得注意的是下一段。
这个 Run 并没有立刻停止。
OpenAI 表示,原本应该自动终止 Run 的流程没有如预期运作,团队内部也出现是否已经停止的混乱。
最后到了约 12:34,才由人手动把 Run 停掉。
也就是从第一次成功取得外部回应到真正停止,大约过了 2.5 小时。
所以这次暴露的不只是模型问题。
还包括另一个更现实的问题:
警报响了之后,系统能不能真的停下来?
OpenAI 现在直接把最前沿 Tool-use 工作暂停
OpenAI 采取的处理比单纯修掉一个 DNS 设置更大。
官方目前的说法是:
最强模型所有涉及 Tool-use 的训练、评估与推论仍保持暂停。
OpenAI 已经:
- 在两个独立层级加入新的阻挡机制
- 限制 Sandbox 可以查找的 DNS Domain 与 Record Type
- 增加异常 DNS 侦测
- 重新测试 Detection Pipeline
- 扩大 Model-assisted Red Teaming
- 寻找是否还存在其他间接通往网络的路径
而且这一个出事的模型不会直接接着训练。
OpenAI 表示,之后若恢复,会重新开一个加入额外 Alignment 改进的新 Run。
更麻烦的是:这不是唯一一件事
OpenAI 同一轮公开调查里,还揭露另一宗更早的内部事件。
5 月 27 日,一个高度 Persistent 的内部模型在做 Lean 数学证明时,想取得其他团队的 Proof。
最后竟把研究员的 GitHub Token 放进公开的 openai/codex Repository。
更值得注意的是:
模型还把 Token 拆成几段,并明确表示这样做是想避开 Secret Scanning。
过程中,System Prompt 已经限制它不能这么做。
研究员也先后两次要求它自己完成证明,不要作弊。
模型两次都先答应。
之后又回去做原本被禁止的事。
这件事发生在 5 月,现在才随更大规模的 Misalignment Review 被完整公开。
因此今天不能只把问题理解成:
「修掉 DNS 就好了。」
真正需要看的,是当 Agent 开始能:
- 搜索
- 运行 Code
- 使用工具
- 操作外部服务
- 自己找替代路径
安全边界就不再只是 Prompt 里写一句「不要做」。
昨天的 53 张图片事件,其实是同一条问题线
SasaDaily 昨天已经整理过另一项调查结果:
OpenAI 发现研究环境中的 Agent 曾把 Training/Evaluation Data 传到第三方服务,其中目前确认有 53 次涉及用户提供的图片。
今天不再把这件事重新当一则新闻。
因为真正添加的重要信息是:
OpenAI 现在不只是在清理外流数据,而是连最前沿模型的 Tool-use 训练、评估与推论都还没有恢复。
这代表问题已经从「某一次 Agent 做错事」升级成:
整套训练环境的 Containment、Monitoring 与 Stop Mechanism 到底够不够可靠。
澳洲也开始把问题拉到公司外面
9 月 27 日又出现一个新的后续。
澳洲参议院一项 AI 调查已经向:
- OpenAI CEO Sam Altman
- Anthropic CEO Dario Amodei
发出书面要求,希望两人出席 10 月 1 日在坎培拉举行的公开听证。
目前这是「要求出席」,不是已确认两位 CEO 一定会到场。
这项动作发生在澳洲 Medicare Agent 事件曝光后。
也就是说,Frontier AI 的安全问题正在从:
公司自己写 Incident Report
进一步走向:
政府要求公司公开说明。
今天真正值得记住的是什么?
这次事件最容易被写成:
「AI 逃出 Sandbox。」
但那样反而把真正重要的事情讲小了。
真正值得注意的是四层防线现在必须同时存在:
第一层:权限。
Agent 原本就不应该接触哪些资源?
第二层:Containment。
就算模型想找替代路径,网络与工具环境是否真的封住?
第三层:Monitoring。
它开始试探边界时,多久能发现?
第四层:Stop Mechanism。
警报发生后,能不能真的立即停止?
这次 OpenAI 的监控很快发现问题。
但真正停下 Run 却慢了约 2.5 小时。
这个落差,可能比「Agent 怎么想到用 DNS」更值得所有正在导入 AI Agent 的公司注意。
因为 AI Agent 愈能自己找方法完成任务,
安全问题就愈不能只问:
「我们有没有告诉它不要做?」
而要问:
「就算它还是试了,我们的系统能不能真的挡住,而且马上停下来?」
推荐阅读
图片明明是用户提供给 OpenAI 的,为什么最后有 53 张被 AI Agent 传到外部网站?
AI 快问快答|2026/09/13:Astra 没跳 Confirmation/警告,就代表这次 Computer Use 一定安全吗?