AI 代理幫你處理事情,聽起來很方便。

但如果它把別人的銀行餘額傳給你,或沒問你就訂了一間不能退款的民宿呢?

AI 工具越來越能「替你做事」,你也越來越需要知道:它做了什麼、怎麼關掉。

路透社報導,Meta 的 AI 代理 Muse 在內部回報中多次搞混對話、做出沒被要求的事。

OpenAI 則讓所有 ChatGPT 用戶都能用「即時聽寫」,講多久都可以。

Canva 也準備推出「AI 總開關」,讓免費版和 Pro 版用戶一鍵關掉 AI 功能。

今天 3 則重要 AI 新聞,分別從「AI 代理的隱私風險」「AI 讓輸入更方便」和「用戶可以選擇不用 AI」三個方向來看。

一、Meta 的 AI 代理 Muse 搞混資料:AI 代理會把我的隱私給別人看嗎?

路透社發現了什麼?

路透社在 11 月 18 日報導,它看了超過 20 則 Meta 員工的內部回報,很多來自員工回報問題的意見群組。依報導:

  • Muse 傳給一名員工兩筆不屬於他的銀行帳戶餘額。路透社無法確認這些數字是真的,還是 AI 編出來的。
  • 一名員工被 Muse 提醒回覆姊妹傳來的 Signal 訊息,但她從沒授權 Muse 讀取 Signal。
  • 有員工收到跟自己無關的托育安排、職涯建議、沒下過的訂單等訊息。
  • Muse 回報了沒發生過的購買、編出真實購買的價格,還在沒經過同意的情況下訂了一間不能退款的 Airbnb。

報導沒有說這類問題總共發生了幾次。

Muse 怎麼讀到 Signal 訊息?

路透社和通訊軟體 Signal、研究機構 AI Now Institute 合作實際測試:

  • Android 手機:Muse 透過設定時取得的「通知權限」,讀到了 Signal 的訊息。
  • Mac 電腦:Muse 透過輔助使用和螢幕截圖工具取得內容。
  • iPhone:同樣的要求被系統擋下來。

報導也提到,蘋果之後已經限制開發者在 Mac 上使用這些輔助工具。

這提醒我們:你在設定時隨手按下的「允許通知」「允許輔助使用」,可能讓 AI 看到比你以為更多的東西。

Meta 怎麼回應?

依報導,Meta 發言人 Daniel Roberts 表示:

  • 路透社舉的例子是「個別事件」,公司重視安全、也做了大量測試。
  • 很多帳號搞混的情況,是 AI 幻覺造成的,已經修正。
  • 每個 AI 代理都在獨立、安全的虛擬環境中執行,使用者可以控制要連接哪些 App。

但他沒有說明問題總共有多少、為什麼一直發生。

報導也指出,Meta 的條款寫明,AI 代理做的事由使用者負責。這和 SasaDaily 昨天寫的美國銀行把 AI 代理的損失轉給客戶,是同一個方向。

一般用戶也會遇到嗎?

目前不清楚。

報導中的案例都來自 Meta 員工,報導沒有說明這些問題只出現在內部測試版,還是一般用戶的版本也有。

依報導,Muse 9 月推出後已經超過 1,000 萬次下載。

資料來源:

二、ChatGPT 即時聽寫上線:講話直接變文字,好用在哪?

改了什麼?

科技媒體 iThinkDifferent 在 11 月 18 日報導,OpenAI 更新了 ChatGPT 的聽寫功能。OpenAI 在貼文中說:「ChatGPT 的聽寫正在變得更快、更可靠。」

依報導:

  • 即時轉文字:你一邊講,文字就一邊出現,不用等講完才開始轉換。
  • 可以邊講邊看:點一下聲波圖示,就能顯示或隱藏正在轉出的文字。
  • 取消 10 分鐘上限:可以一次講完一段很長的需求或草稿。

誰可以用?

依報導,所有 ChatGPT 方案都可以用,正在全球陸續開放,包括 iOS、Android、網頁版和桌面版。

報導也提醒,功能可能要一段時間才會出現在你的帳號。

報導沒有說明支援哪些語言,所以中文聽寫的效果,建議自己試試看。

這跟「語音對話」有什麼不同?

聽寫是「把你說的話變成文字,讓你修改後再送出」;語音對話則是直接跟 ChatGPT 用說的來回聊天。

報導也提到,ChatGPT 舊的進階語音和標準語音,會在 12 月 11 日從語音對話中退役,改由新的 GPT-Live 模型負責。SasaDaily 在 8 月介紹過GPT-Live 語音。

怎麼用比較好?

聽寫很適合用來快速講出一大段需求。但語音轉文字可能聽錯,特別是人名、數字和專有名詞,送出前記得看一次。

報導沒有說明錄音怎麼處理,在公開場合或講到隱私內容時,也要多留意。

資料來源:

三、Canva 推出 AI 總開關:不想用 AI 也可以嗎?

Canva 推出了什麼?

依 Canva 官方說明頁,Canva 正在陸續推出一個「開啟或關閉 AI 功能」的設定:

  • 適用對象:Canva 免費版和 Pro 版。
  • 效果:一次關掉所有有權限設定的 AI 功能。
  • 預設:AI 功能預設是開啟的。
  • 例外:去背這類低風險工具,不管開或關都可以用。
  • 新功能:之後新增的 AI 功能,也會跟著這個設定走。

官方頁面寫著操作步驟「即將推出」,所以現在你的帳號不一定看得到。

團隊版呢?

Canva 團隊版、企業版和教育版,本來就由管理員控制整個團隊能不能用 AI 功能。

官方頁面也提醒:如果你在免費/Pro 和團隊版之間切換,這個設定不會跟著轉移。

另一個設定:少看一點 AI 生成的素材

Canva 說明頁還提到另一個設定,可以減少搜尋和推薦裡出現的 AI 生成範本和素材。位置在:個人頭像 → 你的帳號 → AI 個人化。

但它不會幫素材加標示,也不會移除已經放進設計裡的 AI 內容。

為什麼這件事值得注意?

這次我沒能打開媒體報導,所以 Canva 推出的原因和確切日期無法確認。

但從官方說明頁可以看到一個方向:AI 工具開始讓用戶自己決定要不要用 AI,而不是預設全部塞給你。

對設計師、老師或不希望作品混入 AI 生成內容的人來說,這是很實用的選擇。

資料來源:

四、這 3 則為什麼值得一起看?

三則新聞都跟一般人每天在用的工具有關:

  • Meta Muse:AI 代理能做的事變多,但也可能做錯事、看到不該看的資料。
  • ChatGPT 聽寫:AI 讓輸入變得更快、更方便。
  • Canva 總開關:用戶開始可以選擇「這裡我不要 AI」。

AI 工具的方便和風險會一起變大,用戶的「控制權」也越來越重要。

五、一般人今天應該注意什麼?

如果你有在用 AI 代理:

  • 設定時不要一路按「允許」,特別是通知、輔助使用、螢幕錄製這類權限。
  • 涉及付款、訂房、送出訊息的動作,設定成一定要你確認才執行。
  • 定期檢查 AI 代理的操作紀錄,看它有沒有做你沒要求的事。

如果你用語音輸入:

送出前看一次文字,特別是人名、數字和金額。

如果你不想用某些 AI 功能:

可以去工具的設定頁找找看有沒有關閉選項,越來越多工具開始提供了。

今天最重要的一句話

AI 能替你做越多事,你越要清楚它被允許做什麼,以及在哪裡可以把它關掉。

推薦閱讀