如果 AI 已經能自己找出程式漏洞、驗證風險，甚至產生修補程式，這麼強大的能力應該開放給所有人嗎？
Google 選擇先把新模型交給經過篩選的資安防禦團隊。
法國 AI 公司 Mistral 卻在另一邊，將大型模型的權重正式公開，讓企業自行下載與部署。
同一天，OpenAI 也更新了 GPT 應該如何行動的公開規範，試圖讓愈來愈自主的模型更能理解人的意圖和界線。
2026 年 10 月 30 日，今天值得關注的三則 AI 更新，分別牽涉模型能力、開放使用與行為控制。
AI 正在變得更有能力，但「有能力」與「應該怎麼使用」之間的距離，也開始愈來愈重要。
一、Google 發表 Gemini 4 Carbon：AI 找漏洞測試達 88.2%，為什麼不直接開放所有人？
美國時間 10 月 28 日，Google 正式發表 Gemini 4 Carbon。
它是 Gemini 4 家族的新一款前沿模型，特別強調三種能力：
- 長時間、多步驟的軟體工程工作。
- 發現程式與系統中的資安漏洞。
- 驗證漏洞並協助產生修補程式。
Google 表示，Carbon 是目前該公司能力最強的模型，並在多項程式開發與資安測試中取得新成績。
但最值得注意的是：Google 並沒有選擇立刻讓所有 Gemini 使用者使用這款模型。
Gemini 4 Carbon 的資安能力有多強？
Google 公布三項與資安直接相關的測試結果。
評測Gemini 4 Carbon 成績SEC-bench Pro：尋找程式漏洞88.2%ExploitGym：驗證漏洞能否被利用54.8%CWE-bench：修補漏洞71.0%這三項測試對應資安工作中不同的步驟。
第一步是發現問題。
第二步是判斷問題是否真的具有風險。
第三步是修正問題。
這比單純要求 AI 回答「這段程式碼安全嗎？」更接近完整的資安處理流程。
不過，這裡有一個重要限制。
88.2% 是 SEC-bench Pro 特定測試中的成績，不代表 Carbon 在真實世界可以找出 88.2% 的所有漏洞。
Google 也明確說明，部分資安評測是在沒有安全護欄限制的條件下進行。
因此，不能直接把這些數字當成一般使用者在 Gemini App 裡的實際成功率。
Google 為什麼特別強調「長時間工作」？
一般 AI 對話通常很短。
使用者問一個問題，模型給出一個回答。
但真實的程式開發與資安工作，可能需要連續完成很多步驟。
例如：
先閱讀大量程式碼。
找到可能出錯的功能。
建立測試情境。
確認漏洞能否重現。
產生修補程式。
再檢查修補是否影響其他功能。
Google 表示，在內部工程環境中，Carbon 已能持續數天處理複雜工程問題。
這是 Google 公布的內部使用經驗，不代表所有使用者都能讓模型無限制、無監督地工作數天。
真正重要的改變，是 AI 開始朝向需要長時間保持上下文、持續處理問題的工作方式發展。
這麼強的模型，為什麼要限制開放？
因為資安能力具有兩面性。
能夠找出系統漏洞的 AI，可以協助企業防禦攻擊。
但相同能力也可能被用來尋找尚未修補的漏洞。
Google 因此決定採取分階段開放方式。
官方表示，Carbon 將先提供給部分資安防禦者，並透過 Fairwind Program 逐步擴大到其他受信任夥伴。
Google 也提到，正在參與美國政府的模型發布前自願測試程序。
一般開發者、企業與消費者的開放時間，則尚未公布確切日期。
Gemini 4 Carbon 現在可以在 Gemini App 使用嗎？
目前不能把它當成已全面開放的 Gemini 功能。
Google 已公布預計採用的 API 初期價格：
- 每百萬輸入 Token：2 美元。
- 每百萬輸出 Token：10 美元。
- 快取輸入 Token：較標準輸入價格低 95%。
官方另指出，優惠期結束後，預計調整為每百萬輸入 Token 4 美元、輸出 Token 20 美元。
但公布價格不等於一般開發者已經取得 API 使用權。
實際可用資格，仍須依後續開放公告為準。
這對一般人有什麼關係？
假設一家網路商店使用 AI Agent 協助維護網站。
如果 AI 能更有效率地發現程式漏洞，可能有助於降低網站遭入侵的風險。
但如果直接讓 AI 自動修改正式網站，而沒有測試和人工確認，也可能造成新的故障。
因此，即使未來使用更強的資安 AI，仍然需要清楚區分：
哪些工作可以自動檢查。
哪些修改只能先進入測試環境。
哪些重要操作必須由工程師核准。
模型能力變強，不代表它取得的系統權限也應該自動增加。
二、Mistral Large 4 正式開放模型權重：企業為什麼想把強大的 AI 留在自己手上？
Google 選擇先限制使用者。
法國 AI 公司 Mistral 則採取不同做法。
10 月 29 日，Mistral 正式公開 Mistral Large 4 的模型權重，讓外部開發者及企業能下載、部署與調整模型。
這個日期很重要。
Mistral Large 4 並不是 10 月 29 日才第一次亮相。
公司早在 10 月 6 日就先推出 API 公開預覽。
當時開發者可以透過 Mistral 的雲端服務試用，但模型權重還沒有正式提供下載。
10 月 29 日的新進展，是模型權重真正公開，讓自行部署成為可行的選擇。
Mistral Large 4 是什麼規模的模型？
根據 Mistral 官方資料，Large 4 是一款混合專家模型（Mixture-of-Experts，MoE）。
它具備約 1.05 兆個總參數，每次運算啟用約 520 億個參數（包含相關嵌入與輸出層）。
模型可處理文字、圖片及長篇文件，並支援最長約 100 萬 Token 的上下文。
Hugging Face 同日確認，官方提供 FP8 與 NVFP4 兩種權重版本。
這不代表一般家用筆電已經能輕鬆執行這款模型。
即使模型每次只啟用部分參數，部署仍涉及大量模型權重、記憶體、運算設備及相應軟體配置。
對一般使用者而言，透過雲端 API 使用可能仍然比較實際。
但對擁有專業基礎設施的企業來說，自行部署的意義就不一樣。
為什麼企業需要自行部署 AI？
想像一家企業正在處理重大資安事故。
工程師需要將程式碼、系統紀錄及疑似惡意程式樣本交給 AI 協助分析。
如果 AI 只能透過外部平台使用，企業就必須考慮：
敏感資料是否適合傳到外部服務？
外部平台突然限制帳號或服務中斷時怎麼辦？
模型拒絕分析某些疑似攻擊行為時，會不會影響合法的資安調查？
Mistral 這次強調，自行部署可以讓組織在自己控制的環境裡使用模型，並管理相關工作流程。
尤其在資安領域，研究人員有時需要重現漏洞，才能確認漏洞存在並測試修補效果。
某些雲端模型的安全限制，可能會拒絕執行這類看起來具有攻擊性的操作。
Mistral 希望提供資安團隊另一種選擇。
但自行部署並不代表可以忽略資訊安全管理，也不代表模型產出的任何操作都適合直接執行。
Mistral Large 4 的資安表現如何？
Hugging Face 在 10 月 29 日的技術文章中指出，Large 4 在 Artificial Analysis Cyber Index 的特定漏洞重現與修補測試中取得 82% 成績。
該測試要求模型重現開源軟體中的真實漏洞，再完成修補。
Hugging Face 也介紹 Large 4 在程式開發、Agent 工作與其他資安評測中的表現。
不過，這些仍是有特定題目、工具及設定的測試結果。
尤其不能直接拿 Mistral 的 82%，與 Google Gemini 4 Carbon 在 SEC-bench Pro 的 88.2% 相比，再宣稱其中一款一定比較強。
因為兩個數字來自不同測試，衡量的任務和條件並不相同。
要比較哪款模型更適合企業，仍然需要在相同工作、相同限制及相同驗收標準下進行測試。
模型權重公開，就代表完全免費、沒有授權限制嗎？
不是。
Mistral Large 4 使用的是 Mistral Ecosystem Open-Weight License。
Hugging Face 說明，這項授權以 MIT 類型授權為基礎，但增加了對某些 Model-as-a-Service 業務的限制。
換句話說，企業可以下載模型權重，不代表任何人都能無條件把它包裝成自己的商業 AI API 服務。
實際的商業使用方式，仍應核對正式授權條文。
此外，開放權重也不等於使用成本為零。
即使不向模型供應商支付每次 API 呼叫費用，自行部署仍可能產生：
GPU 設備成本。
雲端或機房費用。
電力與維護費用。
模型更新與安全管理費用。
因此，企業不應只因為模型可以下載，就假設它一定比使用雲端服務便宜。
開放這麼強的資安模型，會不會反而更危險？
這也是這次發布的重要爭議。
開放權重的優點，是防禦團隊、研究機構及企業可以自行檢查、部署和調整模型。
但一旦權重公開，供應商也很難再限制所有人下載與使用。
Reuters 引述 Mistral 科學副總裁 Pierre Stock 的說法指出，權重公開後，外部使用者取得模型的能力就難以重新收回。
這種不可逆性同時帶來好處與風險。
合法資安團隊可以減少對單一雲端服務商的依賴。
另一方面，惡意行為者也可能取得相同模型能力。
所以，今天真正值得注意的，不只是 Mistral 又推出一款大型模型。
而是前沿 AI 的資安能力，正在出現「限制存取」和「開放權重」兩種不同路線。
三、OpenAI 更新 Model Spec：ChatGPT 以後會更懂你的意思，而不是只照字面執行？
10 月 29 日，OpenAI 正式更新 Model Spec。
Model Spec 是 OpenAI 公開發布的模型行為規範，說明公司希望 GPT 如何理解指令、處理衝突，以及在不同情境下作出回應。
這次更新不是推出另一款 GPT 模型。
也不是宣布所有 ChatGPT 使用者今天都獲得新的操作功能。
它主要改變的是：OpenAI 如何定義模型應該遵循的行為原則。
新版 Model Spec 的五項核心價值是什麼？
OpenAI 重新整理了五項核心價值。
第一，忠於人的意圖（Faithfulness to human intent）。
模型不應只機械式執行字面指令，而要理解使用者真正想完成的目標，同時遵守必要的限制。
第二，降低傷害（Harm minimization）。
模型在採取行動前，需要考慮可能造成的後果，並尊重明確的安全界線。
第三，誠實與透明（Honesty and transparency）。
模型應該清楚區分自己知道什麼、不知道什麼，以及做過哪些事情。
第四，支持人的自主決定（Human agency）。
AI 應該協助使用者理解問題、比較選擇，而不是悄悄替使用者決定人生方向。
第五，關懷（Care）。
模型需要考慮使用者與其他受影響者的處境，提供符合情境、可依賴的協助。
這五項價值並不是彼此完全獨立。
OpenAI 希望模型在真實工作中，能夠處理它們之間可能出現的衝突。
什麼叫做理解使用者意圖，而不是只照字面回答？
例如，你要求 AI 幫忙比較兩份工作機會。
如果 AI 只看薪水，可能直接選擇收入較高的一份。
但你真正重視的，也許是通勤時間、工作穩定度或家庭生活。
新版規範希望模型能考慮使用者已提供的相關背景，而不是每次都把問題當成孤立的一句話。
不過，這裡也有一個重要界線。
模型不能因為推測你喜歡某種答案，就刻意迎合你，或偷偷排除其他合理選擇。
如果 AI 使用過去的偏好來分析，這些假設也應該能被使用者看見及修正。
真正的目標是幫助人作決定，而不是取代人作決定。
新版 Model Spec 對 AI Agent 有什麼影響？
這次更新特別補強三個方向。
第一，是如何使用對話、記憶和其他背景資訊來理解需求。
第二，是如何支持使用者的自主選擇。
第三，是更明確地控制及說明 AI 行動可能造成的副作用。
所謂副作用，不一定是程式出現錯誤。
例如，使用者只是要求 AI 整理一份文件。
如果 Agent 在整理時，又自行修改其他檔案、對外傳送內容，或執行沒有獲得授權的動作，就可能超出使用者原本的意圖。
因此，更強的 AI Agent 需要的不只是更好的任務完成率。
還需要能清楚區分：
使用者要求完成什麼。
哪些操作屬於授權範圍。
哪些可能造成額外影響。
什麼情況下應該先停下來確認。
這些原則是 Model Spec 所描述的方向，並非保證所有現有 AI Agent 都已經完全做到。
OpenAI 更新規範後，ChatGPT 會立即改變嗎？
不一定。
這是今天最需要釐清的地方。
OpenAI 在官方公告中明確表示，Model Spec 描述的是公司正在努力達成的模型行為。
現有模型尚未完全符合新版規範。
公司也表示，正在研究新的訓練方法，讓模型不只是背誦規則，而是更能理解這些原則的理由及適用情境。
因此，不能把今天的公告解讀成：
ChatGPT 從現在開始不會再犯錯。
AI Agent 已經完全不會越權。
模型一定能正確理解每位使用者真正的意思。
新版 Model Spec 是一份公開的行為標準與改進方向，而不是已完成所有安全問題的證明。
對一般使用者最實際的改變是什麼？
短期來看，使用者不必為了這次公告調整所有 Prompt。
但可以透過更明確的工作要求，減少 AI 誤解與越權行動的風險。
例如，在交辦重要工作時，直接說明：
「先整理資料，不要修改原始檔案。」
「遇到沒有證據的地方，標記不知道，不要自行補充。」
「有多種合理選擇時，列出優缺點，最後由我決定。」
「涉及刪除、付款或對外發送，請先取得我的確認。」
這些要求不保證模型永遠遵守，但有助於建立清楚的工作邊界。
比起要求 AI 變得無所不能，讓它知道哪些事情不能自行決定，同樣重要。
四、Google 限制使用、Mistral 開放權重、OpenAI 重寫規範，三家公司為什麼走不同路？
今天三則消息，看起來像是不同公司的獨立發展。
但把它們放在一起，就會發現 AI 產業正面對三個不同問題。
Google 想處理的是：
當模型的資安能力非常強時，應該先讓誰使用？
它選擇讓受信任的防禦者先測試，再評估更廣泛的開放。
Mistral 想處理的是：
企業可不可以不受單一 AI 平台控制，自行部署前沿模型？
它選擇公開模型權重，讓符合授權要求的使用者自行管理。
OpenAI 想處理的是：
當 AI 愈來愈能採取實際行動時，模型應該依照什麼原則作出判斷？
它選擇更新公開的行為規範，並持續研究如何讓模型更符合這些原則。
這三種做法不一定互相排斥。
受限模型也可以建立清楚的行為規範。
開放權重模型同樣需要資安管理。
而公開行為規範的公司，也仍須考慮高風險能力應該如何開放。
真正需要持續觀察的，是這些策略在實際部署中能不能帶來更可靠的結果。
五、今天三則 AI 更新，一般人最應該記住什麼？
首先，不要只看模型排行榜。
一款模型即使在特定測試中取得高分，也不代表它已向所有人開放，或能在任何情境下得到相同結果。
其次，開放權重不是免費又沒有限制的代名詞。
企業想自行部署模型，需要同時評估授權、硬體、維護與安全責任。
最後，AI 公司公布更好的行為規範，也不代表模型從此不會犯錯。
尤其當 AI 開始可以操作檔案、系統與外部工具時，使用者仍需要設定權限、確認範圍與驗收條件。
AI 的未來不只是讓模型更聰明，而是讓強大的能力能夠在清楚的規則與責任之下被使用。
