一位單親媽媽打開電腦，查看政府生活補助的申請結果。
畫面上只有一句話：
申請未通過。
她不知道是哪一筆資料有問題，也不知道系統如何做出判斷。
她最近曾經接過一份短期工作，但那只是幾天的臨時收入。
系統卻可能把這筆收入當成她每個月都會領到的固定薪水。
她想解釋，卻找不到可以聯絡的人。
她提出問題，收到的仍然只是自動回覆。
當 AI 拒絕你的補助，真正可怕的不是系統可能答錯，而是你不知道該向誰說明。
這正是澳洲準備加強政府 AI 與自動化決策規範的原因。
政府使用 AI，不只是提高效率
政府每天需要處理大量申請、文件、資格審查與公共服務案件。
AI 可以協助公務人員：
- 整理大量申請資料
- 找出缺少的文件
- 把案件分門別類
- 提醒可能存在的資料錯誤
- 縮短民眾等待處理的時間
這些用途可以減少重複行政工作，本身不一定有問題。
真正需要小心的是，AI 是否從「協助整理」變成「直接決定」。
當系統開始決定一個人能不能取得福利、補助、醫療服務或其他政府資源，影響就不再只是行政效率。
它可能直接影響一個家庭能不能支付房租、購買食物或接受必要照顧。
澳洲準備限制全自動政府決策
澳洲政府正規劃更嚴格的公共部門 AI 使用規則。
政策方向包括公平、準確、透明、安全，以及保留有意義的人類監督。
這不代表政府不能使用 AI。
比較合理的界線是：
AI 可以協助公務人員處理資料，但影響人民重要權益的決定，不能完全變成沒有人負責的系統判定。
澳洲也計畫設立中央 AI 辦公室，協調政府內部的 AI 政策與監管工作。
目前相關制度仍在規劃與建立階段，因此不能寫成澳洲已經全面禁止政府使用自動化決策。
真正正在發生的，是政府準備替這類系統建立更清楚的限制與責任。
一筆錯誤資料，可能改變整個判定
AI 不會憑空理解一個人的完整生活。
它只能根據系統取得的資料進行分析。
如果資料錯誤、過期或缺少背景，判定也可能跟著出錯。
例如：
- 短期收入被誤認為固定收入
- 家庭成員資料沒有及時更新
- 同名者的紀錄被錯誤連結
- 醫療或照護狀況沒有完整登錄
- 系統無法理解特殊生活情況
對系統來說，這些只是資料欄位。
對申請者來說，卻可能決定他是否能得到生活所需的協助。
因此，一套負責任的政府 AI，不能只追求整體準確率。
它還必須讓受到影響的人有機會發現、說明並更正錯誤。
澳洲為什麼特別重視這件事？
澳洲曾經發生受到廣泛批評的 Robodebt 事件。
政府利用自動化方式估算部分民眾可能欠下的福利款項，並向大量民眾追討。
問題在於，系統使用的計算方式可能無法正確反映個別民眾在不同期間的真實收入。
許多人因此被要求證明自己沒有欠款，承受財務與心理壓力。
這段經驗提醒澳洲社會：
當政府把重要判斷交給自動化系統，錯誤不只是技術問題，也可能成為真實的人生傷害。
所以，今天討論的不是 AI 能不能幫政府工作。
而是政府能不能因為使用了 AI，就把解釋與負責的義務一起交出去。
人民至少應該擁有五項權利
當 AI 參與影響人民權益的政府決策時，申請者至少應該擁有以下權利：
- 知道權：知道這項決定是否使用 AI 或自動化系統。
- 解釋權：知道申請為什麼被拒絕，以及哪些資料影響了結果。
- 更正權：能夠修正錯誤、過期或不完整的個人資料。
- 申訴權：有清楚而且可以真正使用的申訴管道。
- 人工審查權：可以要求真人重新查看案件，而不是再次收到相同的自動答案。
真正值得信任的系統，不是承諾永遠不會出錯。
而是出錯時，人民仍然找得到願意處理問題的人。
「有人類參與」不代表真的有人負責
有些組織會說，系統最後仍由人類確認，所以不存在全自動決策問題。
但形式上有人按下確認鍵，不代表真正進行了審查。
如果工作人員每天需要處理數百筆案件，只能快速接受 AI 建議，人類可能只是替系統結果蓋章。
真正有意義的人類監督，應該包含：
- 工作人員看得到 AI 使用的主要資料
- 有時間檢查異常與特殊情況
- 可以不同意系統建議
- 不會因推翻 AI 結果而受到懲罰
- 必須為最後決定提供理由
如果人只能接受系統答案，不能真正改變結果，就不能算是有效的人類監督。
AI 可以找出風險，但不能把懷疑當成證據
政府也可能使用 AI 找出疑似詐欺、重複申請或異常交易。
這類工具可以協助工作人員把注意力放在需要進一步確認的案件。
但風險分數不等於犯罪證據。
異常也不代表一個人一定做錯了事。
一名收入不穩定的零工工作者，資料可能經常出現大幅變動。
一個需要跨地區照顧家人的人，生活紀錄也可能與一般模式不同。
如果系統只學習多數人的行為，就可能把少數或特殊情況判定為可疑。
因此，AI 可以提醒政府進一步查證，卻不應直接把人標記成違規者。
透明不代表公開全部程式碼
政府要求 AI 決策透明，不一定代表必須把所有程式碼公開給每一個人閱讀。
大部分民眾也不可能靠閱讀程式碼理解自己的案件。
真正有用的透明，應該用普通人能理解的方式說明：
- 這項決定有沒有使用 AI
- 系統主要參考哪些資料
- 哪些因素影響判定結果
- 資料可能從哪裡出錯
- 人民要如何提出異議
一封只寫著「經系統判定不符合資格」的通知，不能算是充分解釋。
人民需要知道自己可以從哪一筆資料開始檢查，也要知道下一步能做什麼。
使用外部 AI，公司不能替政府承擔責任
政府部門不一定會自行開發所有 AI 系統。
它們可能向科技公司購買軟體，或委託外部廠商建立判定工具。
但即使技術由民間公司提供，政府仍然不能把責任一起外包。
政府必須知道：
- 系統使用哪些資料訓練與判斷
- 不同族群是否受到不公平影響
- 錯誤率在哪些情況下特別高
- 系統更新後是否重新接受檢查
- 廠商停止服務時資料如何處理
如果政府自己都無法解釋系統如何影響人民，就不應讓它直接決定重要權益。
效率不能只用處理速度衡量
一套自動化系統可能讓案件處理速度變快。
但如果錯誤判定增加、申訴案件變多，或公務人員需要花更多時間修正結果，整體效率未必真的提高。
政府評估 AI 成效時，不應只看：
- 一天處理多少案件
- 節省多少人力成本
- 平均等待時間縮短多少
還應該同時檢查：
- 錯誤判定有多少
- 哪些族群受到較多不利影響
- 申訴需要等待多久
- 有多少案件在人工重審後被改判
- 人民是否真正理解判定理由
政府服務的目的，不只是更快完成案件。
還要確保每一個人都受到公平而有尊嚴的對待。
真正好的政府 AI 應該做什麼？
政府 AI 最適合先協助那些耗時、重複，而且不需要替人民下最後判決的工作。
例如整理文件、提醒缺漏、建立案件摘要，或協助工作人員快速找到相關規定。
當 AI 把行政工作減少後，公務人員應該有更多時間：
- 了解個別申請者的特殊情況
- 說明複雜的資格規定
- 協助民眾補齊資料
- 處理系統無法理解的例外案件
- 真正回應人民提出的問題
如果 AI 導入後，只讓每位工作人員承擔更多案件，卻沒有更多時間服務民眾，那就沒有真正把時間還給人。
這件事也會影響每一個使用 AI 的組織
今天的故事發生在政府，但同樣的原則也適用於銀行、保險、學校、醫院與企業。
當 AI 開始參與貸款、保險理賠、招生、招募與醫療資源分配時，人們也應該知道：
- 自己是否受到自動化判定
- 系統使用了哪些重要資料
- 如何更正錯誤
- 是否能要求真人重新審查
只要一項決定會明顯影響人的生活，就不能只用一句「這是系統判定」結束對話。
結語
AI 可以讓政府更快整理資料、發現缺漏並處理大量行政工作。
但它不能成為一個無法詢問、無法申訴，也沒有人負責的決策者。
當一項判定會影響補助、福利或重要公共服務時，人民應該知道理由、修正資料並要求真人重審。
科技進步不應讓政府與人民之間的距離變得更遠。
真正好的政府 AI，應該減少公務人員的重複工作，讓他們有更多時間理解每個人的真實情況。
一個影響人民生活的決定，不能因為是電腦做的，就沒有人需要回答。
AI 最珍貴的價值，不是把責任交給機器，而是把人的時間留給理解、判斷與幫助真正需要的人。
