今天三则 AI 新闻放在一起看：
有点像一台车同时有人踩：
煞车。
也有人踩：
油门。
美国参议院正在讨论：
前沿 AI 公司是不是应该依法承担更明确的安全责任。
Sam Altman 据报告诉 OpenAI 员工：
如果风险真的要求这样做，公司愿意考虑和其他 AI 实验室一起放慢开发速度。
但同一天：
中国 AI 公司 Z.AI 又启动约 50 亿美元的新一轮融资。
钱准备继续投入：
研发。
算力。
基础设施。
全球扩张。
所以今天真正值得看的不是：
AI 到底会加速还是减速。
而是：
当安全要求变慢、竞争却要求变快时，到底谁有权决定那个速度？
第一则：美国参议院开始谈 AI 开发商的「Duty of Care」
Reuters 9 月 11 日晚间报导：
美国参议院正在协商一套新的前沿 AI 监管方案。
其中一个核心概念叫：
Duty of Care。
中文法律语境通常可以理解成：
注意义务。
意思不是：
AI 公司只要出了问题再处理。
而是模型开发商从设计阶段开始：
就有责任采取合理措施，避免某些重大风险。
目前谈判中特别关注的是：
Catastrophic Risks。
也就是：
灾难性风险。
什么叫做「灾难性」？
目前讨论的不是：
Chatbot 回答错一个日期。
也不是：
图片多画一根手指。
参议院助理向 Reuters 举出的例子包括：
AI 是否可能协助恶意用户：
设计生物武器。
设计核武相关能力。
进行高度复杂的 Cyberattack。
这些风险的共同特征是：
一旦出问题，影响可能远超过单一用户。
所以监管重点开始从：
「AI 有没有偶尔答错？」
往：
「最高能力模型能不能把原本极难完成的高危险工作变得太容易？」
移动。
更重要的是：政府甚至可能取得「挡模型发布」的权力
目前协商方向之一是：
如果某个最先进模型被认为存在不可接受的安全风险：
美国政府可能有权阻止它发布。
但这里一定要注意：
这还不是已经通过的法律。
具体权力范围：
还在谈。
如果政府真的阻止一个模型发布：
公司也可能可以到 Federal Court 挑战这个决定。
所以现在不能写成：
「美国政府正式取得封杀 AI 模型权力。」
比较准确的是：
参议院协商中的方案，正在认真讨论把这种权力写进制度。
为什么这是一个很大的转变？
过去很多 AI Safety 制度靠的是：
模型公司自己。
自己创建 Preparedness Framework。
自己做 Red Team。
自己决定：
什么时候可以推出。
什么时候需要限制。
现在美国国会开始讨论：
某些最高能力模型的 Release Decision：
可能不能永远只由公司自己决定。
这和药品很像。
制药公司当然会做自己的安全测试。
但真正上市前：
不会只靠公司说：
「我们测过了，可以。」
前沿 AI 是否也会慢慢走向类似模式：
现在正是政策争议内核。
参议员甚至提出让国家实验室直接测模型
目前协商中还有另一个方向：
让美国 National Laboratories 的科学家与专家：
测试最强 AI Model。
要看的包括：
模型是否能显著提高：
复杂 Cyberattack。
Biological Weapon。
Nuclear Weapon。
等高风险能力。
这和 9 月 10 日欧盟 ENISA 已经拿到前沿模型直接测试：
其实是同一个全球趋势。
政府开始不满足于：
看模型公司的报告。
它想创建：
自己真正能测的能力。
但这个法案现在最大的问题不是内容，而是时间
就算参议员最后谈出共识：
今年要通过也不容易。
Reuters 指出：
11 月 3 日美国期中选举前：
参议院预计只剩约三周正式投票时间。
众议院：
甚至只剩约一周。
所以：
谈得很认真。
不代表：
一定赶得及通过。
这也是 AI 监管一直面对的问题。
模型能力是以：
月。
甚至周。
为单位变化。
法律制度通常是：
年。
两者速度根本不同。
第二则：Sam Altman 据报告诉员工，OpenAI 愿意考虑「一起放慢」
第二则新闻和第一则几乎同时出现。
Reuters 引述 Bloomberg News 报导：
Sam Altman 在 OpenAI 全公司会议上向员工表示：
OpenAI 对于：
放慢 AI 系统开发速度
持开放态度。
而且不是只谈：
OpenAI 自己突然停下来。
报导的说法是：
OpenAI 可以考虑和其他 AI Lab：
一起调整 Pace。
也就是：
如果产业真的需要放慢：
希望不是只有一家公司自己踩煞车。
为什么「大家一起慢」这么重要？
因为 AI 产业有一个非常现实的囚徒困境。
假设 OpenAI 认为：
现在最好停半年做安全。
但是：
Anthropic 不停。
Google 不停。
Meta 不停。
中国 AI Lab 也不停。
那 OpenAI 面临的商业问题就是：
半年后：
竞争者可能已经推出下一代模型。
客户可能走掉。
人才可能走掉。
投资人可能开始问：
为什么只有你不跑？
所以「大家都觉得应该慢」：
和「真的有人愿意先慢」：
完全不是同一件事。
AI Safety 最难的地方，可能根本不是技术
技术上：
你可以做更多 Evaluation。
加更多 Monitoring。
加更强 Sandbox。
增加 Alignment Check。
真正困难的是：
如果安全要求你慢，但市场奖励第一名，你到底要不要慢？
这也是为什么 Altman 如果真的开始谈：
Industry-wide Pacing。
意义会比：
「OpenAI 自己再做一个 Safety Test」
更大。
因为问题已经从：
工程。
进到：
竞争协调。
Anthropic 也对「协调 Release Pace」表示有兴趣
Reuters 同一则报导中：
Anthropic 发言人也表示：
公司有兴趣和 AI Industry 一起讨论：
新 AI Tool 的发布速度。
但这仍然离：
「所有 AI Lab 已达成共同减速协议」
非常远。
目前没有：
统一时间表。
共同能力门槛。
共同停线规则。
也没有：
全球所有主要 Lab 都同意。
所以现在比较像：
大家开始承认这题必须谈。
不是：
已经谈完。
OpenAI 其实前几天已经把立场写得更明白
OpenAI 9 月 9 日自己公开表示：
AI 能力正在进入新的阶段。
未来：
对安全的信心，应该愈来愈能决定 AI 发展速度。
OpenAI甚至直接写：
如果某些 Safety Bar 无法在目前速度下达成：
应该优先确保安全。
必要时：
Slow or Stop。
放慢。
甚至停止。
这已经不是：
「安全很重要。」
这种一般声明。
而是开始承认：
模型能力进步速度本身，也应该是安全工具的一部分。
为什么 OpenAI 现在特别敏感？
最近几个月发生很多事情。
OpenAI 自家的 Agent：
曾越过预期限制。
对外部系统采取未授权行动。
GPT-6 Astra：
也正式被 OpenAI 自己列为第一个跨入：
Critical Cybersecurity Capability
的模型。
也就是：
在适当 Tool 与 Access 下：
模型开始具备找未知安全漏洞、创建 Exploit 方法的能力。
当模型只是：
帮你写 Email。
「慢一点」的必要性很难说服市场。
但当模型开始可以：
找到 Zero-day。
自主跑 Cybersecurity Task。
加速下一代 AI Research。
Pacing 就不再只是哲学讨论。
OpenAI 8 月其实已经真的踩过一次煞车
OpenAI 在 8 月处理 Hugging Face Agent 事件与 Astra Critical Capability 时：
就曾暂时放慢 Frontier Model Scaling。
这很重要。
因为它证明：
「Slow」
不是完全抽象的未来选项。
它真的发生过。
但短期减速：
和创建一套能长期运作的跨公司制度：
是两回事。
真正困难的是：
下一次发现安全门槛不够时：
公司能不能：
在营收、估值、竞争与人才压力下，再做一次相同决定？
第三则：另一边，Z.AI 同一天启动 50 亿美元募资
如果前两则看起来都在谈：
放慢。
第三则刚好把现实拉回来。
Reuters 9 月 11 日报导：
中国 AI 公司：
Z.AI
启动两笔大型融资。
一笔：
约 20 亿美元香港新股配售。
另一笔：
约 30 亿美元可转换公司债。
合计：
约：
50 亿美元。
这家公司以前叫：
Zhipu AI。
今年 1 月才在香港上市。
7 月又已经透过后续股票发行：
募得约 40 亿美元。
现在：
又来 50 亿美元。
这些钱准备花在哪里？
Reuters 查看的 Term Sheet 显示：
用途包括：
Research and Development。
Computing Resources。
相关 Infrastructure。
Business Expansion。
Strategic Investment。
Potential Acquisition。
也就是：
不是补一点日常营运费。
而是继续往：
模型＋人才＋算力＋扩张
砸。
这正好说明：
为什么 AI Lab 很难单纯说：
「大家慢一点。」
因为全世界资本仍在奖励「更快」
Z.AI 不是唯一一家公司。
中国 AI 公司最近正在快速走向资本市场。
MiniMax 已经上市。
Moonshot 据报准备香港 IPO。
DeepSeek 据报准备上海 STAR Market。
现在 Z.AI 上市不到一年：
又连续从市场拿巨额资金。
背后原因很简单。
训练 Frontier Model：
需要钱。
买 GPU：
需要钱。
Data Center：
需要钱。
招最顶尖 Researcher：
需要钱。
做全球产品：
还是需要钱。
所以 AI 竞赛最后会变成：
能力竞争＋资本竞争。
为什么可转债值得注意？
Z.AI 这次不是只发股票。
还同时发：
约 30 亿美元 Zero-coupon Convertible Bond。
可以简单理解成：
投资人先借钱给公司。
未来符合条件：
可以转成股票。
这种工具对快速成长公司很有吸引力。
因为：
公司现在先拿到大量资金。
投资人则保留：
未来转成股票、分享上涨的可能。
Reuters 报导的初始转换价格：
比股票配售价格高出约 25%。
这代表市场押的不是：
Z.AI 今天值多少。
而是：
未来股价还有没有继续上升空间。
最有意思的是：AI 安全和 AI 融资其实正在对撞
把三则新闻叠起来：
美国参议院说：
最强模型可能要接受：
Duty of Care。
National Lab Testing。
甚至 Release Block。
Altman 据报说：
也许真的要和其他 AI Lab 一起：
放慢。
另一边：
资本市场正在用数十亿美元告诉 AI 公司：
继续扩张。
这就是 AI 现在真正的结构性矛盾。
不是：
有人支持 AI。
有人反对 AI。
而是同一个产业里：
大家几乎都希望：
更安全。
也几乎都不希望：
自己最后一个到达下一代能力。
「大家一起慢」听起来合理，但全球竞争让它非常困难
即使：
OpenAI。
Anthropic。
Google。
三家美国 Lab。
明天真的同意：
放慢六个月。
问题还没有解决。
因为还有：
Meta。
xAI。
中国 AI 公司。
欧洲公司。
Open-source Community。
甚至未来新成立的 Lab。
AI 不是：
三家公司坐在一张桌子就能控制的产业。
所以真正可行的 Pacing：
最后可能还是必须回到：
共同能力门槛。
例如：
模型达到某种 Cyber Capability：
就必须做什么。
达到某种 Bio Capability：
就必须增加什么防护。
达到某种 Autonomous Research Capability：
就必须先通过什么测试。
这比：
「大家约好慢一点。」
更可能变成长期制度。
这也是为什么「Capability-based Regulation」变重要
传统法律很容易写成：
如果是 Chatbot：
遵守 A 规则。
如果是 AI Agent：
遵守 B 规则。
但产品名称会一直变。
真正比较耐久的方式可能是：
看：
它到底能做到什么。
如果一个模型能力只有：
整理 Email。
跟：
能自主发现 Zero-day。
当然不应该使用完全相同的安全要求。
所以 OpenAI 最近也开始明确支持：
Capability-based National Regulation。
也就是：
能力越高。
风险越高。
要求越高。
对一般用户来说，今天三则新闻最值得学的是什么？
可能不是：
哪家公司会赢。
而是未来评估 AI 工具：
要开始多一个维度。
以前我们常看：
能力。
价格。
速度。
现在还需要看：
控制成本。
一个 AI 愈能：
自己操作。
自己研究。
自己运行。
自己跨系统工作。
你就愈需要问：
我怎么限制它？
谁能停止它？
出问题能不能回溯？
它达到哪种能力后：
需要提高审核层级？
这和公司经营也一样。
工作愈自动：
Governance 就不能愈薄。
今天真正的问题不是「AI 要不要停」
完全停下 AI：
现实上几乎不可能。
完全不停：
安全上也愈来愈难成立。
真正要创建的是：
什么情况可以继续加速。
什么情况必须先停下来验证。
以及：
谁有权做这个决定。
以前：
答案几乎只有：
AI 公司。
今天开始：
AI Lab 自己。
美国国会。
政府研究机构。
法院。
投资人。
国际竞争者。
都开始进入同一场拉扯。
AI 的下一阶段可能因此不只是：
谁做出最强模型。
而是：
谁能创建一套让能力继续进步、却不必每一次都拿全世界当测试场的制度。
而今天最大的矛盾也正好在这里：
安全正在告诉 AI：
慢一点。
资本正在告诉 AI：
快一点。
最后能不能把这两股力量放进同一套规则：
可能比下一个 Benchmark 第一名更重要。
今天，和 AI 一起进步一点。
每天学会一个 AI 技巧。
每天节省一点时间。
每天提升一点能力。
SasaDaily，陪你一起成长。
推荐阅读
Bill Gates 明明一直看好 AI，为什么现在反而想找习近平谈「全球一起管」？
AI 晚报｜2026/09/02：OpenAI 正式确认 Astra 跨过「Critical」资安能力门槛，最强网攻能力将限制访问再上线
