你只是開車去上班。
經過一個路口。
去超市。
去健身房。
再開車回家。
你可能根本沒有注意到，
路邊一支小小的攝影機，
已經記下：
你的車牌。
你的車子。
經過的時間。
以及出現的位置。
這套系統原本是拿來幫警察辦案的。
但現在美國印第安納波利斯出現了一個完全相反的故事。
5 名警員被控把警方的車牌辨識系統拿來做私人查詢。
其中甚至有人被控利用這些資料追蹤女性。
原本是找失竊車，現在卻有人被控拿來找「人在哪裡」
9 月 23 日，
印第安納波利斯 Metropolitan Police Department 的 5 名警員遭到刑事起訴。
案件涉及 Flock Safety 的自動車牌辨識系統，也就是 ALPR。
其中 4 人是現職警員，另 1 人已離開警隊。
檢方指控，
這些人涉嫌利用原本只應用於執法工作的系統，
查詢前伴侶、配偶、認識的人，甚至在公共場合遇到的女性。
這些目前都仍然是刑事指控，
不是法院已經確定有罪的判決。
但光是檢方公布的查詢模式，
就已經讓這個故事非常不尋常。
一名警員被控查完位置後，真的跑去「巧遇」
被起訴者裡，
Jonathan Schultz 是任職 18 年的警員。
他目前面臨 26 項指控，
包括詐欺、職務不當，
以及 2 項 stalking，也就是跟蹤騷擾相關指控。
檢方指控，
他曾利用 Flock 資料查找多名女子的車輛位置，
其中包含他在公共場合遇到的女性。
更關鍵的是，
他被指控不是只停在電腦前查資料。
而是利用查到的移動資訊，
安排自己和對方在現實生活中「碰面」。
也正因為如此，
他成為這次案件中唯一另外面臨 stalking 指控的人。
這時候，
原本很抽象的「資料隱私」，
突然變成一件非常具體的事。
因為資料庫裡的一個位置，
可能就是：
你今天去了哪裡。
幾點出現。
車子往哪個方向走。
另一個數字更直接：超過 950 次
另一名被指控的警員，
則被調查人員指稱，
在大約 6 個月內查詢自己前妻車輛的位置超過 950 次。
950 次是什麼概念？
平均下來，
幾乎不是偶爾查一次。
而是可以反覆知道同一台車：
在哪裡出現。
什麼時間出現。
最近又去了哪裡。
當這種資料本來只需要搜尋幾秒就能取得，
問題就不再只是：
「系統能不能查？」
而是：
「誰可以查？」
以及：
「他為什麼查？」
Flock 到底看得到什麼？
Flock Safety 的系統不是單純拍一張車牌照片。
官方文件顯示，
License Plate Reader 可以記錄包括：
車牌影像。
車輛影像。
車牌號碼與州別。
車輛顏色、廠牌等特徵。
日期。
時間。
以及攝影機位置。
Flock 也使用機器學習辨識車輛特徵。
例如：
轎車還是 SUV。
什麼顏色。
有沒有車頂架。
甚至在不知道完整車牌時，
也可以利用車輛特徵尋找可能的對象。
現在 Flock 還提供 FreeForm，
讓授權使用者用自然語言搜尋車輛與相關影像。
官方直接把它稱為 AI-powered search。
所以說它是一套使用 AI／機器學習能力的車牌與車輛搜尋系統沒有問題。
但是這次事件有一個很重要的地方不能混在一起。
不是 AI 自己突然開始跟蹤人
這次案件不能寫成：
「AI 自己決定去追蹤女性。」
至少目前公開資料完全不是這樣。
真正被指控的是：
有系統存取權限的人，主動輸入搜尋、查詢車輛紀錄，再把結果拿去做與公務無關的事情。
AI 與機器學習做的是：
把大量車輛影像變得容易辨識。
容易分類。
容易搜尋。
真正按下搜尋的人，
仍然是人。
這個差別非常重要。
因為問題不只是「AI 安不安全」。
而是當 AI 把一件原本非常麻煩的事情，
變成幾秒鐘就能完成，
人的權限管理有沒有一起跟上？
以前想追蹤一台車，其實很麻煩
如果沒有這類系統，
要長期知道一台車在哪裡，
通常得投入很多人力。
有人要守在路邊。
有人要調監視器。
有人要一段一段找影像。
不同地點的資料還得重新拼起來。
成本非常高。
這也是為什麼，
過去只有比較重要的案件，
才值得投入這麼多人力。
但當道路攝影機自動辨識車牌，
再把：
車牌。
時間。
位置。
車輛特徵。
全部整理成可搜尋資料後，
查詢成本就大幅降低了。
這對抓犯罪車輛非常有用。
也正因如此，
Flock 官方把找失竊車、尋找失蹤人口、追查犯罪線索列為主要用途。
但是能力愈方便，
濫用時的門檻也可能跟著下降。
Flock 其實有留下搜尋紀錄
這件事也不能簡化成：
「系統完全沒有監控。」
Flock 官方明確表示，
系統具有 per-search audit log。
也就是每一次搜尋都會留下紀錄。
這次案件本身，
也是在警方進行內部稽核、發現不正常的使用情況後進一步調查。
事件曝光後，
印第安納波利斯警方也修改規則：
現在每一次 Flock 搜尋，
都必須綁定一個具體的案件編號或事件編號。
換句話說，
不能只是打開系統，
搜尋：
「我想知道這台車現在在哪裡。」
而必須留下：
「我為什麼因為這個案件需要查它。」
這看起來只多一個欄位。
但它其實就是權限系統裡很重要的一層。
真正的問題不是「可以做」，而是「可不可以做」
我們最近談 AI，
很常問：
它可以做到什麼？
可以看多少資料？
可以找得多快？
可以自動做到哪一步？
但愈來愈強的工具出現後，
另一個問題開始變得同樣重要：
使用者有能力做到，不代表他有權這樣做。
這和 SasaDaily 前幾天談過的智慧眼鏡其實很像。
一副眼鏡技術上可以拍攝、收音、讓 AI 理解周遭環境，
不代表進入辦公室後，
就可以隨意把同事、白板與文件送進 AI。
延伸閱讀：
同事明明只是戴著眼鏡開會，為什麼澳洲政府開始考慮不讓它進辦公室？
另一個案例則更直接碰到「技術有能力，但是否越過授權邊界」：
AI 只是想通過測試，為什麼最後卻闖進別人的系統？一場 Agent 資安事件暴露真正風險
兩個故事表面上完全不同。
一個是 Agent。
一個是道路攝影機。
但底層問題很接近：
能力增加之後，邊界有沒有一起變清楚？
AI 最值得怕的，有時不是「失控」
很多人談 AI 風險時，
第一個想到的是：
AI 會不會自己失控？
會不會突然不聽指令？
會不會做出人類沒有要求的事情？
這些當然值得討論。
但 Flock 這次事件提醒的是另一種更生活化的風險：
AI 完全照人的意思工作，也可能出問題。
如果以前追查一個人的行蹤需要花很多時間，
現在只需要輸入車牌。
以前翻幾百支攝影機需要幾個小時，
現在系統可以幫你整理。
AI 沒有創造人的動機。
它只是把原本很難做的事情，
做得更快。
更便宜。
更容易。
而一旦濫用的成本也一起下降，
真正需要加強的，
就不只是模型安全。
還包括：
誰能查。
查什麼。
為什麼查。
留下什麼紀錄。
誰會稽核。
出了問題能不能回頭找到責任。
最後真正值得記住的，是「容易」這兩個字
Flock 本身有很多合法而重要的用途。
警察可以利用它尋找失竊車輛。
找到失蹤人口。
快速把犯罪現場附近的大量車輛資料縮小成可調查的線索。
所以這個故事不是：
「AI 車牌系統很壞。」
也不是：
「所有警察都會濫用監控工具。」
印第安納波利斯警察局長也表示，
這些被起訴案件不代表大多數使用系統的警員。
真正值得看的，
是科技正在改變「做一件事有多難」。
以前很難追蹤。
現在容易。
以前很難搜尋幾百萬筆紀錄。
現在容易。
以前很難把不同地點看到的同一台車串起來。
現在也愈來愈容易。
所以未來我們判斷一套 AI 系統安不安全，
可能不能只問：
「它能做什麼？」
還要再問一句：
「當它讓一件事情變得非常容易之後，誰被允許按下那個按鈕？」
每天用最簡單的方式看懂 AI。
SasaDaily.com
