今天早報講了一個愈來愈重要的問題:

AI 不能再只比較哪個模型最強。

真正放進工作之後,還要問:

一次多少錢?

一個工作要呼叫幾次?

模型掛掉怎麼辦?

如果另一家突然降價,要不要換?

不同工作是不是應該用不同模型?

這時候就會碰到一個很現實的問題。

假設你的 AI 系統同時想使用:

Gemini。

Claude。

DeepSeek。

OpenAI。

Qwen。

每一家都有:

不同 API。

不同模型名稱。

不同價格。

不同 Rate Limit。

不同服務狀態。

如果全部自己接:

很快就會變成另一份工程工作。

今天介紹的:

OpenRouter。

就是專門解決這件事。

OpenRouter 是什麼?

最白話的理解是:

AI 模型的統一入口。

目前 OpenRouter 官方列出:

400+ AI 模型。

70+ Provider。

你不需要為每一家模型公司重新建立完全不同的 API 串接,而是可以透過同一個介面存取不同模型。

例如你的 AI App 今天原本使用:

某個 Gemini 模型。

下星期發現:

Claude 更適合複雜工作。

或 DeepSeek 某個模型更適合大量便宜處理。

你可以在同一套 OpenRouter 架構裡調整。

這就是它最核心的價值。

它不是另一個 AI 模型

這點先分清楚。

OpenRouter 自己的主要角色不是:

跟 Gemini 比誰比較聰明。

而是:

幫你找到、呼叫與管理模型。

可以把它想成:

AI 模型交通轉運站。

你的工作先進 OpenRouter。

然後再送往真正執行工作的模型與 Provider。

第一個實用功能:一次比較很多模型

OpenRouter 的 Models 頁面可以直接比較不同模型的:

價格。

Context Length。

支援能力。

輸入形式。

Tool Calling。

Zero Data Retention。

以及其他模型特性。

這對現在特別有用。

因為 AI 模型變化真的太快。

今天一個模型:

比較強。

下個月可能另一個:

更便宜。

或同樣能力的價格下降。

如果你的系統一開始就完全綁死:

某一家。

後面要換模型:

成本就會提高。

第二個功能:同一個模型還可以有不同 Provider

這一點很多初學者第一次看到會有點奇怪。

例如:

同一個開放模型。

可能不只一家雲端 Provider 提供推論服務。

Provider A:

比較便宜。

Provider B:

速度比較快。

Provider C:

現在比較穩。

OpenRouter 可以在這些 Provider 之間做路由。

官方目前的預設 Provider Routing,會把近期穩定性與價格納入考量,並使用其他可用 Provider 作為 fallback;你也可以指定優先依:

價格。

Throughput。

Latency。

排序。

所以「模型」和「Provider」不是同一件事

這個觀念很重要。

Model

代表:

你要使用哪一個 AI。

Provider

代表:

真正在哪一個服務端替你跑這個模型。

有些模型只有少數 Provider。

有些開放模型可能有很多。

所以 OpenRouter 可以做兩層選擇:

先決定用什麼模型。

再決定:

這個模型由哪個 Provider 執行。

第三個功能:Provider 掛掉,可以換另一家

假設你的 App 正在使用某個模型。

Provider A:

突然 Rate Limit。

或服務中斷。

OpenRouter 可以嘗試其他符合條件的 Provider。

官方把這種機制放在 Provider Routing 裡。

它真正解決的是:

模型沒變,但執行這個模型的服務端換掉。

這和「整個換另一個模型」還不一樣。

第四個功能:模型本身也可以設定備援

另一種情況是:

你原本使用模型 A。

但是:

模型 A Rate Limit。

服務不可用。

或碰到特定拒絕情況。

這時還可以設定:

模型 B。

模型 C。

依序作為 fallback。

OpenRouter 官方的 Model Fallbacks 可以讓請求在指定錯誤情況下依序嘗試其他模型。

所以要把兩種備援分清楚。

Provider Fallback

例如:

同一個模型。

Provider A 不行。

換 Provider B。

Model Fallback

例如:

模型 A 不行。

改模型 B。

這兩件事:

解決的故障層級不同。

但有備援,不代表服務永遠不會中斷

這跟我們之前介紹 LiteLLM 時講過的一樣。

如果:

OpenRouter 本身出問題。

網路出問題。

帳戶餘額不足。

所有合格 Provider 都不能服務。

你設定的所有模型同時不可用。

還是可能失敗。

而且官方也提醒:

第一次 Provider 或模型失敗後再 fallback,本身會增加那一次請求的延遲。

所以:

Fallback 是降低單點故障,不是保證永不中斷。

第五個功能:可以直接按價格、速度或延遲挑 Provider

這就是今天和早報最直接的連接點。

如果你的工作是:

大量夜間文件分類。

你可能更重視:

價格。

如果是:

即時語音客服。

你可能更在意:

Latency。

如果是:

大量長篇內容生成。

你可能更關心:

Throughput。

OpenRouter 可以讓不同工作採不同路由偏好。

這比所有工作只設定:

「永遠使用模型 X。」

更接近真正企業 AI 的做法。

第六個功能:Auto Router 可以替任務選模型

OpenRouter 目前也提供 Auto Router。

它會先判斷 Prompt 的任務類型,再從可用模型中選擇適合的模型,並允許設定不同 Cost Tier。

官方目前的 Auto Router 還會參考 OpenRouter 平台上不同任務類型實際使用模型的聚合支出訊號,而不是固定永遠選同一個模型。

這個概念其實很重要。

因為未來你可能不會再對 AI 系統說:

「所有事情都用某某模型。」

而是:

簡單分類。

便宜模型。

複雜分析。

強模型。

一般寫作。

另一個模型。

圖像理解。

支援 Vision 的模型。

但 Auto Router 不代表它一定替你選到「最好」

因為:

「最好」

本身就取決於你的工作。

你可能重視:

最低成本。

最高正確率。

最低延遲。

特定地區。

特定資料政策。

特定 Tool Calling。

所以正式工作還是應該:

自己測。

尤其是:

客戶回覆。

財務資料。

合約。

正式分析。

不能只因為 Router 自動選了:

就直接相信。

第七個功能:它可以記錄每次到底花多少錢

OpenRouter 的 API 有 Usage Accounting。

回應裡可以取得:

Token 使用量。

成本。

Cache 相關資訊。

不需要另外再做一個額外 API 呼叫才知道這一次用了多少。

這對今天主題非常重要。

因為企業真正需要算的是:

一件工作多少錢。

不是:

月底看到一張總帳單。

例如客服 AI

假設一天處理:

1,000 件。

不要只記:

今天花了 20 美元。

更有用的是記:

簡單詢問:

平均多少?

複雜退款案例:

平均多少?

需要 fallback 的案件:

平均多少?

需要人工修改的:

又多少?

這樣才能真的知道:

哪個流程值得保留。

OpenRouter 還可以做預算控制

目前 OpenRouter 的團隊與企業功能也提供:

Activity。

使用量。

支出資訊。

Workspace Budget。

模型與 Provider 限制。

Guardrails。

組織可以設定日、週、月或 Lifetime 的預算範圍,避免某個團隊或 Agent 沒有限制地一直消耗 API 費用。

這一點對 Agent 特別重要。

因為:

聊天是人問一次。

Agent 可能:

自己跑很多次。

Agent 最大的成本風險之一不是單次很貴

而是:

它不停地跑。

例如一個 Agent:

讀資料。

失敗。

重試。

換模型。

再查一次。

再叫另一個模型檢查。

最後一個任務跑了:

20 次模型呼叫。

如果沒有:

Budget。

最大重試次數。

停止條件。

一個看似便宜的模型:

仍然可能跑出大帳單。

第八個功能:可以先從免費模型試

如果只是想了解 OpenRouter:

不一定要一開始就充值很多錢。

OpenRouter 目前提供 Free Models Router。

它會從當時可用的免費模型中,依照工作需要的功能篩選後選擇模型。

官方也提供不寫程式、先透過 Chat Playground 嘗試的方式。

不過免費模型的可用清單會變動,因此不適合把某一個免費模型當成永久保證。

所以一般人也能試,但真正價值還是在 API

如果你只是:

每天和 AI 聊天。

ChatGPT。

Gemini。

Claude。

原本 App 已經很好用。

不一定需要 OpenRouter。

OpenRouter 真正開始有價值的情況通常是:

你正在建立一個 AI 工作流程。

或:

你想同時測很多模型。

哪些人最適合?

第一,自己做 AI App 的人

不想每換一家模型:

全部重新串。

第二,Vibe Coding 或程式開發者

想測:

哪個模型最適合 Coding。

哪個比較快。

哪個比較省。

第三,自動化工作流程

例如:

n8n。

自製 Agent。

客服。

文件處理。

大量分類。

需要控制每一筆模型成本。

第四,小型 SaaS

產品本身提供 AI 功能。

又不希望完全綁在一家 Provider。

第五,需要模型備援的團隊

主要 Provider 掛掉時:

至少還有另一條路。

哪種人現在不用急?

如果你每天只使用:

ChatGPT App。

Gemini App。

Claude App。

而且沒有 API。

也沒有自動化。

OpenRouter 對你來說:

可能增加複雜度。

因為它的核心價值不是:

介面比較漂亮。

而是:

模型路由與 API 管理。

OpenRouter 和 LiteLLM 很像嗎?

有一部分確實很像。

我們 8 月 11 日介紹過 LiteLLM。

兩個都可以解決:

多模型統一入口。

Fallback。

成本與模型管理。

但適合的情境不同。

OpenRouter 比較像「已經幫你營運好的多模型市場與 Router」

你註冊。

取得 API Key。

充值。

就能開始呼叫多家模型。

不需要先自己維護一個 Gateway Server。

LiteLLM 更適合想自己控制 Gateway 的團隊

如果你想:

自己部署。

自己控制網路。

自己管理 Provider Key。

建立內部 Gateway。

LiteLLM 這條路會比較接近。

所以兩個不是:

誰一定比較強。

而是:

你要的是 Hosted Router,還是自己管理 Gateway。

OpenRouter 的價格怎麼算?

這裡一定要講清楚。

OpenRouter 官方目前表示:

底層模型 Provider 的價格採:

Pass-through pricing。

也就是模型費率本身不另外加價。

但 Pay-as-you-go 使用者在購買 OpenRouter Credits 時:

目前有 5.5% 平台費,最低 0.80 美元

所以不能簡化成:

「OpenRouter 完全沒有額外費用。」

比較準確是:

模型價格本身依 Provider 費率計算,但購買 Credits 有平台費。

免費方案呢?

OpenRouter 目前價格頁列出:

Free。

Pay-as-you-go。

Enterprise。

免費方案可使用部分免費模型與 Provider。

實際可使用哪些免費模型:

可能隨供應狀況調整。

所以測試可以。

真正正式服務:

仍要評估穩定性與付費模型。

隱私呢?

這個問題非常重要。

因為你把 Prompt 送給 OpenRouter:

資料不是只有在你自己的 App 裡。

OpenRouter 官方目前表示:

API 預設會記錄基本 Metadata,例如:

時間。

使用模型。

Token 數量。

但 Prompt 與 Response 預設不會被 OpenRouter 儲存,除非使用者主動開啟 Input/Output Logging。

但還有下一層:真正執行模型的 Provider

例如:

某個 Prompt 最後被送到某家模型 Provider。

那一家 Provider:

也有自己的資料政策。

所以不能只看:

OpenRouter 自己存不存。

還要看:

最後路由到誰。

OpenRouter 因此提供 Provider Data Policy 相關控制。

如果資料比較敏感,可以看 ZDR

OpenRouter 支援:

Zero Data Retention,ZDR。

設定後:

請求只會路由到符合 Zero Data Retention 政策的 Endpoint。

也可以:

帳號層設定。

模型群組設定。

Guardrail。

或單次 Request 指定。

但這裡還是不能誤會。

開 ZDR 不代表世界上所有資料風險都消失

官方特別提醒:

ZDR 的 Provider Routing 限制主要適用於推論請求。

如果另外使用:

Web Search。

Plugin。

其他第三方 Tool。

這些工具可能有:

自己的資料保存政策。

所以 Agent 如果會:

搜尋網路。

呼叫 SaaS。

傳資料到外部 API。

還是要另外檢查。

第一個最值得做的測試:不要先換全部模型

假設你現在 AI 客服都用:

模型 A。

不要第一天就說:

「OpenRouter 幫我全部改成最便宜的模型。」

先抽:

20 件真實工作。

例如:

5 件簡單 FAQ。

5 件資料整理。

5 件複雜判斷。

5 件容易出錯的例外。

然後用:

模型 A。

模型 B。

模型 C。

跑完全相同的工作。

不要只記 Token 價格

每一個模型記四件事。

第一,模型成本

真正花多少。

第二,結果能不能直接用

可用。

需修改。

失敗。

第三,人工修改時間

便宜模型如果每次都要改五分鐘:

可能根本不便宜。

第四,完成速度

即時客服和夜間批次:

需求不同。

接著才建立 Routing Rule

例如測完發現:

一般 FAQ

便宜模型已經很穩。

就走:

低成本模型。

複雜客訴

便宜模型容易漏條件。

改走:

較強模型。

高風險退款

不管哪個模型:

最後都由人確認。

這才是:

真的在做模型路由。

不是:

「永遠選最便宜。」

一個很簡單的第一版

你甚至不需要一開始就做非常聰明的 Router。

先把工作分成:

A:大量、簡單、低風險

便宜模型。

B:複雜、多條件

強模型。

C:資料不足或高風險

轉人工。

然後:

每一類再設定一個 fallback。

已經非常實用。

可以直接使用的模型路由設計 Prompt

你是我的 AI 模型路由與成本顧問。

我正在使用 OpenRouter 或其他多模型 Gateway。

目前的工作是:

[描述工作]

每月大約執行:

[次數]

目前使用模型:

[模型]

目前每件工作大約需要:

[呼叫次數/人工修改時間,如果知道]

請不要直接推薦全市場最便宜的模型。

先把我的工作分成:

A. 高頻、低風險、容易驗證

B. 複雜、多條件、需要較強推理

C. 高風險、資料不足或需要正式商業決策

對 A 類:

提出一個成本優先的模型策略。

對 B 類:

提出一個品質優先的模型策略。

對 C 類:

不要要求 AI 自動完成,設計人工確認點。

接著替 A 與 B 各設計:

主要模型。

Fallback 模型。

Provider Routing 優先條件:

價格、Latency 或 Throughput。

最大重試次數。

單件工作成本上限。

如果主要模型失敗:

什麼錯誤可以自動切換。

什麼錯誤不能靠換模型解決。

最後建立一個測試方法。

用相同 20 件真實工作比較:

總模型成本。

第一次成功率。

人工修改時間。

完成時間。

失敗率。

只在有實際結果之後,再決定是否把更多正式工作切換過去。

如果缺少真實價格或模型表現資料:

直接標示需要實測。

不要自己捏造 ROI。

今天最容易犯的錯:叫 Router 永遠找最便宜

這聽起來最省。

實際上不一定。

最便宜模型如果:

更容易失敗。

多跑三次。

再由人修改。

最後總成本可能更高。

所以真正要最佳化的是:

Cost per Useful Outcome。

每一個可用成果的成本。

不是:

Cost per Token。

第二個錯誤:有 Fallback 就完全不監控

也不行。

假設:

模型 A 失敗。

自動切 B。

B 失敗。

切 C。

最後 C 成功。

系統看起來:

成功。

但是你要問:

為什麼前面一直失敗?

是不是:

Prompt 有問題?

資料格式變了?

Provider 有問題?

還是路由條件寫錯?

如果每天大量發生:

Fallback 本身也可能正在替真正故障遮掩問題。

第三個錯誤:把敏感公司資料隨便路由到所有 Provider

多模型最大的方便:

就是可以換。

但這也意味著:

資料可能送往不同 Endpoint。

所以真正有:

客戶機密。

內部程式碼。

財務。

醫療。

個資。

的工作:

一定要先設定:

允許的 Provider。

資料政策。

ZDR。

所在地區。

以及哪些 Tool 可以使用。

不能只有:

「哪家最便宜就送哪家。」

第四個錯誤:因為 OpenRouter 有統一 API,就認為所有模型完全一樣

不是。

不同模型:

Tool Calling 能力可能不同。

Context 不同。

多模態能力不同。

結構化輸出不同。

推理方式不同。

所以:

統一 API 是降低切換成本,不是消除模型差異。

這一點非常重要。

如果你是一人公司,可以怎麼開始?

不要先寫大型 Agent。

先找一個你每天真的會做的工作。

例如:

把文章摘要成社群版本。

分類客戶詢問。

整理大量產品資料。

再選:

兩個模型。

跑 20 次。

比較:

品質。

成本。

修改時間。

這樣就已經開始理解:

多模型路由真正有沒有價值。

如果你是開發者呢?

那 OpenRouter 的價值會更直接。

你可以把產品原本:

綁死某一個 Provider。

改成:

一個統一模型入口。

之後再逐步加入:

Provider Routing。

Model Fallback。

Budget。

Usage Accounting。

ZDR。

最後才做:

Auto Router。

不要第一天把所有進階功能全開。

今天最重要的判斷

OpenRouter 真正值得注意的地方,不是:

「可以一次用 400 多個模型。」

一般人根本不需要 400 個。

真正重要的是:

AI 模型開始可以被當成一種可以調度的運算資源。

簡單工作:

不用最強模型。

複雜工作:

才升級。

主要 Provider 故障:

換另一個。

模型本身不行:

再走 fallback。

非必要 Provider:

不開。

敏感資料:

限制 ZDR 與資料政策。

最後再把每件工作的:

成本。

品質。

修改時間。

一起算。

這其實就是今天早報說的下一階段 AI 競爭:

不再只是:

誰的模型最強。

而是:

誰能把適合的模型,在適合的時間,送去做適合的工作,而且最後真的比較省。

如果 OpenRouter 只是讓你每天不停換最新模型:

價值有限。

如果它讓你的 AI 系統做到:

普通工作用便宜模型。

複雜工作才使用強模型。

故障有備援。

成本能追蹤。

敏感資料有路由限制。

那它才真正從:

模型目錄。

變成:

AI 工作的交通控制中心。

今天,和 AI 一起進步一點。

每天學會一個 AI 技巧。

每天節省一點時間。

每天提升一點能力。

SasaDaily,陪你一起成長。

推薦閱讀

今日 AI 工具|2026/08/11:LiteLLM,把 OpenAI、Claude、Gemini 接成同一個入口,模型故障還能自動切換備援

今日 AI 工具|2026/08/10:Langfuse,把 AI 每次花多少錢、跑多久、結果好不好記下來,不再只看總帳單

AI 一分鐘教學|2026/08/04:換成便宜 AI 模型前,先用同一組 20 題做「成本、正確率、修改時間」測試