今日 AI 重點｜2026/10/16：八州起訴 OpenAI、Anthropic 讓 METR 進駐內部評測、GPT-Live-1.1 開始上線｜文章

今天三則更新把 AI 從「功能競賽」拉到更現實的層次。美國八個州分別對 OpenAI 提起訴訟，指控 ChatGPT 在兒少安全與產品行銷上違反消費者保護法；Anthropic 則讓 METR 六名外部評測員取得接近內部風險團隊的系統與資訊存取權，而且公司不能直接否決 METR 發布評估結果；另一邊，OpenAI 開始把 GPT-Live-1.1 與新的多語語音推進 ChatGPT Voice。AI 下一階段不只是更強，而是要同時回答：出了問題誰承擔責任、誰能真正檢查它，以及更新對一般人到底有沒有實際改善。

今天三則 AI 更新，

看起來一則在法院。

一則在 AI Lab 裡。

另一則在你的 ChatGPT Voice。

但它們其實都在回答同一件事：

AI 真正進入日常生活後，不能只用「模型更強」當作唯一驗收標準。

現在開始多了三張考卷：

產品出了問題，

誰負責？

公司說自己的 AI 安全，

外部到底能不能真的進去檢查？

以及：

對一般使用者來說，

更新到底改善了什麼？

1. 美國八個州同日對 OpenAI 提告：爭議從「AI 安不安全」正式進入消費者保護法

第一件事情發生在美國。

10 月 14 日，

包括：

Arizona。

Arkansas。

Idaho。

Iowa。

Kansas。

Montana。

Nebraska。

West Virginia。

在內的八個州，

分別對 OpenAI 提起訴訟。

核心爭議集中在：

ChatGPT 對兒少使用者的安全設計與產品行銷。

這些州到底在告什麼？

各州 Complaint 細節並不完全相同，

但共同主線是：

檢察長認為 OpenAI：

對 ChatGPT 安全性的描述，

以及實際產品可能造成的風險之間，

存在落差。

例如 Arizona Attorney General 的公開說法，

直接指控 OpenAI：

傷害兒童。

誤導家長。

違反州 Consumer Fraud Act。

West Virginia Attorney General

也提出類似：

Consumer Protection

訴訟。

這代表爭論已經不是：

「有人覺得 Chatbot 對青少年不好。」

而是開始進入：

法院要不要把這些設計與行銷判定成違反消費者保護法。

州政府特別盯上哪些問題？

公開訴訟說法包括：

Age Verification。

自傷或危險內容的 Guardrails。

Chatbot 是否過度順從使用者。

AI 是否會模擬人類式情緒與同理，

讓未成年使用者過度依賴。

以及：

公司對外宣稱的 Safety

是否和實際產品行為一致。

這些都是：

原告方目前提出的 Allegations。

不是法院已經認定的事實。

這個差別一定要保留。

OpenAI 其實在今年已經做了一系列 Teen Safety 更新

這也是今天不能省略的另一面。

OpenAI 8 月正式推出：

ChatGPT for Teens。

如果系統透過：

帳號年齡。

驗證資料。

Age Prediction

判斷使用者未滿 18 歲，

就會自動套用：

Teen Experience。

其中包含：

更嚴格的敏感內容保護。

學習導向設計。

健康使用提醒。

以及：

Parental Controls。

OpenAI 的公開立場是：

青少年應該能使用 AI，

但必須有：

符合發展階段的額外保護。

所以今天的訴訟真正問的是什麼？

不是：

OpenAI 有沒有做 Teen Safety。

它有做。

真正進入司法程序的問題是：

這些保護是否足夠？

過去的產品設計與宣稱，

是否已經造成違法的 Consumer Harm？

以及：

AI Chatbot 公司究竟要為模型長時間和未成年人互動，

承擔到什麼程度的法律責任？

這才是今天真正的新層級。

這對其他 AI 公司也很重要

如果法院最後接受某些州政府主張，

影響不一定只停在：

ChatGPT。

任何提供：

AI Companion。

教育 Chatbot。

虛擬人物。

語音陪伴。

兒童／青少年 AI

的公司，

都可能開始更認真面對：

年齡辨識。

高風險對話升級。

家長控制。

產品設計。

Safety Claim。

因為未來監管機關可能不只問：

「你有沒有 Safety Policy？」

而會問：

「你的產品實際上有沒有做到？」

但今天不能寫成 OpenAI 已經敗訴

非常重要。

現在是：

各州提告。

不是：

法院已判 OpenAI 違法。

OpenAI 也公開表示，

公司持續強化 Teen Safety，

並強調大多數青少年主要使用 ChatGPT：

學習。

查資料。

建立技能。

提高生產力。

因此今天最準確的說法是：

OpenAI 正面臨新一波州級消費者保護訴訟。

後續還要看：

法院如何處理這些 Allegations。

2. Anthropic 讓 METR 六名外部評測員直接進公司：不再只是「模型做好後給外面測一下」

第二件事情，

剛好是另一種：

AI 公司如何證明自己值得相信。

Anthropic 10 月 15 日宣布，

開始讓非營利 AI 評測機構：

METR

取得：

Employee-like Access。

不是只給：

Claude API。

也不是只寄一份：

System Card。

而是讓：

六名 METR 員工

真正進入 Anthropic 的工作環境。

「Employee-like」到底有多深？

Anthropic 官方說明，

這六名評測員會取得：

公司 Hardware。

Office Space。

Internal Tools。

Internal Systems。

存取範圍大致接近：

Anthropic 自己的：

Risk Assessment Teams。

而公司員工原則上可以把和：

Alignment Risk

有關的資訊，

像分享給同事一樣，

分享給這組 METR 評測員。

這已經比：

「外部公司拿公開模型跑 Benchmark」

深很多。

但 METR 不是什麼都能看

仍然有明確限制。

例如：

Customer Data。

Attorney-client Privileged Information。

部分 Model Architecture Information。

不會因為：

Employee-like Access

就全部開放。

所以不要把它理解成：

Anthropic 把所有公司機密完整交出去。

真正的設計是：

讓第三方看到足夠多，足以形成有意義的風險判斷。

最重要的一點：Anthropic 不能直接阻止 METR 發布結果

這可能是整個方案最值得注意的地方。

METR 會自行發布：

Risk Level。

Incident。

Safety Practice

等分析。

Anthropic：

不能 Veto Publication。

公司只能針對事先定義好的少數敏感類別，

要求：

Redaction。

而且 METR 甚至可以公開說明：

它是否認為 Anthropic 要求刪掉某段內容是合理的。

當然不能把被刪除的機密直接公布。

這已經更接近：

真正的 Independent Evaluator。

Anthropic甚至拿銀行監管來比喻

Anthropic 自己說：

這個設計可以類比：

大型銀行裡的：

Resident Examiner。

原因很簡單。

公司永遠比外部人：

更知道自己內部真正發生什麼。

如果外部評測員只能看到：

公司最後挑給你的資料，

就很難知道：

是不是還有別的風險沒被展示。

所以更深的做法是：

讓合格的外部人員：

真的看得到內部流程。

這和 9 月的 Accenture 合作有什麼不同？

Anthropic 之前已經宣布：

和 Accenture 等外部機構做：

Embedded Evaluation。

但今天的新層級是：

把 Access 做成：

三層制度。

Tier 1：

範圍較窄，

公司決定給哪些資料，

發表結果也需要 Approval。

Tier 2：

Access 更廣，

評測者可以自行發布，

但仍可能受到特定資訊刪除要求。

Tier 3：

就是現在 METR 這種：

Employee-like Access。

Anthropic 希望未來不只一家機構能做到 Tier 3。

這是不是等於政府監管？

不是。

METR：

不是政府機關。

也沒有法律上的：

Regulatory Power。

它不能：

罰 Anthropic。

阻止模型上市。

撤銷營業資格。

而且：

是哪一家 Evaluator 可以進來，

目前仍然由 Anthropic 自己合作選擇。

所以批評者仍然可以問：

公司自己選的評測員，到底能不能完全獨立？

這個問題不會因為：

Access 變深

就自動消失。

但它確實解決了一個很重要的資訊問題

過去外界常遇到：

AI 公司說：

「我們測過了。」

問題是：

外面的人只能看到：

最後整理過的報告。

現在 METR 至少開始有機會：

直接看到：

Evaluation 如何做。

Incident 怎麼處理。

Safeguard 怎麼運作。

Risk Decision 如何形成。

這比：

單看 Benchmark

更接近真正的：

Auditing。

對一般企業也有一個很實際的啟示

如果你的公司未來真的把 AI Agent 用到：

財務。

客服。

IT。

人資。

Production。

不要讓：

做 Agent 的同一組人

成為唯一 Review 它的人。

至少安排：

第二組。

安全人員。

內控。

外部顧問。

或獨立 Reviewer。

去看：

它真正做過什麼。

不是因為：

第一組工程師不可信。

而是：

建立者本來就最容易習慣自己設計的假設。

3. GPT-Live-1.1 開始進 ChatGPT Voice：這次不是換文字模型，而是把「說話」本身再往前推

第三件事情，

直接影響一般 ChatGPT 使用者。

OpenAI 10 月 15 日更新 ChatGPT Release Notes，

開始推出：

GPT-Live-1.1

以及：

GPT-Live-1.1 Quip。

Quip 是：

更小型的版本。

兩者都會用在：

ChatGPT Voice。

這次最直接的改善是「口音」

OpenAI 表示，

GPT-Live-1.1 會提供：

更自然的：

Accents

與：

語音表現。

這次也加入新的 Voice Options，

涵蓋：

法語。

德語。

印地語。

日語。

韓語。

墨西哥西班牙語。

以及一個新的英文 Voice：

Bubbie。

實際看到哪些 Voice，

仍然會依：

Region

與：

Account

不同。

所以不是每個帳號今天都一定看到完全相同清單。

另一個小改變反而很實用：搜尋時不再一直講同一句話

Live 模式可以在：

語音對話中

啟動搜尋。

以前搜尋時，

系統可能反覆使用很類似的：

等待提示語。

GPT-Live-1.1 現在會使用：

更多不同的短句，

告訴你：

正在搜尋。

這聽起來很小。

但 Voice Interface 和文字最大的差別就在：

等待感。

文字介面你可以看到：

Loading。

搜尋狀態。

語音如果突然停住，

人會以為：

AI 掛掉。

所以：

等待時怎麼說話

本身就是 Voice UX。

這是不是代表 ChatGPT 的推理模型升級成 GPT-Live-1.1？

不是這樣理解。

GPT-Live 系列主要負責：

即時語音互動。

包括：

聽。

說。

停頓。

插話。

語音節奏。

它和處理：

複雜文字推理、

Coding、

長研究

的模型角色不同。

ChatGPT Voice 本來就可以：

在需要搜尋或其他能力時，

把工作交給系統中的其他部分。

所以今天不能把：

GPT-Live-1.1

理解成：

「ChatGPT 所有問題都換了一顆更強的主模型。」

它主要是：

Voice Experience 的更新。

一般人真正會感受到什麼？

如果 Rollout 已到你的帳號，

最可能感受到的是：

語音聽起來：

更自然。

不同語言：

更像當地發音。

搜尋過程：

比較不像機器卡住。

以及：

更多 Voice 可以選。

如果你主要只打字，

今天這個更新幾乎不影響你的工作方式。

這也提醒一件很有意思的事

AI 產品成熟之後，

競爭不會永遠只有：

Benchmark。

Context Window。

Token Price。

對真正每天使用的人來說，

一些看起來很小的東西：

AI 會不會亂打斷你。

說話自然不自然。

等待時有沒有回饋。

口音聽起來奇不奇怪。

反而會直接決定：

你願不願意每天使用。

這也是為什麼：

Voice Model

會逐漸變成獨立的一條產品戰線。

今天三件事真正共同的是「AI 開始不能只靠自己說自己好」

OpenAI 的訴訟在問：

產品安全的宣稱，要不要接受法院檢驗？

Anthropic／METR 在問：

公司說自己的模型安全，外部人能不能真的進去看？

GPT-Live-1.1 則回到最基本的產品層：

更新到底有沒有讓使用者真的感受到更好的體驗？

三件事放在一起，

其實代表 AI 產業正在走出：

「新技術只要夠酷就好」

的階段。

開始進入：

Claim 要能被驗證。

Safety 要能被外部檢查。

Product 要能被真正使用。

模型能力當然還是重要。

但當幾億人真的每天和 AI：

聊天。

說話。

工作。

學習。

未來最重要的競爭之一，

會變成：

誰不只做得出 AI，還能證明它值得信任、值得使用。