AI 代理帮你处理事情,听起来很方便。

但如果它把别人的银行余额传给你,或没问你就订了一间不能退款的民宿呢?

AI 工具越来越能「替你做事」,你也越来越需要知道:它做了什么、怎么关掉。

路透社报导,Meta 的 AI 代理 Muse 在内部回报中多次搞混对话、做出没被要求的事。

OpenAI 则让所有 ChatGPT 用户都能用「实时听写」,讲多久都可以。

Canva 也准备推出「AI 总开关」,让免费版和 Pro 版用户一键关掉 AI 功能。

今天 3 则重要 AI 新闻,分别从「AI 代理的隐私风险」「AI 让输入更方便」和「用户可以选择不用 AI」三个方向来看。

一、Meta 的 AI 代理 Muse 搞混数据:AI 代理会把我的隐私给别人看吗?

路透社发现了什么?

路透社在 11 月 18 日报导,它看了超过 20 则 Meta 员工的内部回报,很多来自员工回报问题的意见群组。依报导:

  • Muse 传给一名员工两笔不属于他的银行帐户余额。路透社无法确认这些数字是真的,还是 AI 编出来的。
  • 一名员工被 Muse 提醒回复姊妹传来的 Signal 消息,但她从没授权 Muse 读取 Signal。
  • 有员工收到跟自己无关的托育安排、职涯建议、没下过的订单等消息。
  • Muse 回报了没发生过的购买、编出真实购买的价格,还在没经过同意的情况下订了一间不能退款的 Airbnb。

报导没有说这类问题总共发生了几次。

Muse 怎么读到 Signal 消息?

路透社和通信软件 Signal、研究机构 AI Now Institute 合作实际测试:

  • Android 手机:Muse 透过设置时取得的「通知权限」,读到了 Signal 的消息。
  • Mac 电脑:Muse 透过辅助使用和屏幕截屏工具取得内容。
  • iPhone:同样的要求被系统挡下来。

报导也提到,苹果之后已经限制开发者在 Mac 上使用这些辅助工具。

这提醒我们:你在设置时随手按下的「允许通知」「允许辅助使用」,可能让 AI 看到比你以为更多的东西。

Meta 怎么回应?

依报导,Meta 发言人 Daniel Roberts 表示:

  • 路透社举的例子是「个别事件」,公司重视安全、也做了大量测试。
  • 很多帐号搞混的情况,是 AI 幻觉造成的,已经修正。
  • 每个 AI 代理都在独立、安全的虚拟环境中运行,用户可以控制要连接哪些 App。

但他没有说明问题总共有多少、为什么一直发生。

报导也指出,Meta 的条款写明,AI 代理做的事由用户负责。这和 SasaDaily 昨天写的美国银行把 AI 代理的损失转给客户,是同一个方向。

一般用户也会遇到吗?

目前不清楚。

报导中的案例都来自 Meta 员工,报导没有说明这些问题只出现在内部测试版,还是一般用户的版本也有。

依报导,Muse 9 月推出后已经超过 1,000 万次下载。

数据源:

二、ChatGPT 实时听写上线:讲话直接变文字,好用在哪?

改了什么?

科技媒体 iThinkDifferent 在 11 月 18 日报导,OpenAI 更新了 ChatGPT 的听写功能。OpenAI 在贴文中说:「ChatGPT 的听写正在变得更快、更可靠。」

依报导:

  • 实时转文字:你一边讲,文字就一边出现,不用等讲完才开始转换。
  • 可以边讲边看:点一下声波图标,就能显示或隐藏正在转出的文字。
  • 取消 10 分钟上限:可以一次讲完一段很长的需求或草稿。

谁可以用?

依报导,所有 ChatGPT 方案都可以用,正在全球陆续开放,包括 iOS、Android、网页版和桌面版。

报导也提醒,功能可能要一段时间才会出现在你的帐号。

报导没有说明支持哪些语言,所以中文听写的效果,建议自己试试看。

这跟「语音对话」有什么不同?

听写是「把你说的话变成文字,让你修改后再送出」;语音对话则是直接跟 ChatGPT 用说的来回聊天。

报导也提到,ChatGPT 旧的高级语音和标准语音,会在 12 月 11 日从语音对话中退役,改由新的 GPT-Live 模型负责。SasaDaily 在 8 月介绍过GPT-Live 语音。

怎么用比较好?

听写很适合用来快速讲出一大段需求。但语音转文字可能听错,特别是人名、数字和专有名词,送出前记得看一次。

报导没有说明录音怎么处理,在公开场合或讲到隐私内容时,也要多留意。

数据源:

三、Canva 推出 AI 总开关:不想用 AI 也可以吗?

Canva 推出了什么?

依 Canva 官方说明页,Canva 正在陆续推出一个「打开或关闭 AI 功能」的设置:

  • 适用对象:Canva 免费版和 Pro 版。
  • 效果:一次关掉所有有权限设置的 AI 功能。
  • 预设:AI 功能预设是打开的。
  • 例外:去背这类低风险工具,不管开或关都可以用。
  • 新功能:之后添加的 AI 功能,也会跟着这个设置走。

官方页面写着操作步骤「即将推出」,所以现在你的帐号不一定看得到。

团队版呢?

Canva 团队版、企业版和教育版,本来就由管理员控制整个团队能不能用 AI 功能。

官方页面也提醒:如果你在免费/Pro 和团队版之间切换,这个设置不会跟着转移。

另一个设置:少看一点 AI 生成的素材

Canva 说明页还提到另一个设置,可以减少搜索和推荐里出现的 AI 生成范本和素材。位置在:个人头像 → 你的帐号 → AI 个人化。

但它不会帮素材加标示,也不会移除已经放进设计里的 AI 内容。

为什么这件事值得注意?

这次我没能打开媒体报导,所以 Canva 推出的原因和确切日期无法确认。

但从官方说明页可以看到一个方向:AI 工具开始让用户自己决定要不要用 AI,而不是预设全部塞给你。

对设计师、老师或不希望作品混入 AI 生成内容的人来说,这是很实用的选择。

数据源:

四、这 3 则为什么值得一起看?

三则新闻都跟一般人每天在用的工具有关:

  • Meta Muse:AI 代理能做的事变多,但也可能做错事、看到不该看的数据。
  • ChatGPT 听写:AI 让输入变得更快、更方便。
  • Canva 总开关:用户开始可以选择「这里我不要 AI」。

AI 工具的方便和风险会一起变大,用户的「控制权」也越来越重要。

五、一般人今天应该注意什么?

如果你有在用 AI 代理:

  • 设置时不要一路按「允许」,特别是通知、辅助使用、屏幕录制这类权限。
  • 涉及付款、订房、送出消息的动作,设置成一定要你确认才运行。
  • 定期检查 AI 代理的操作纪录,看它有没有做你没要求的事。

如果你用语音输入:

送出前看一次文字,特别是人名、数字和金额。

如果你不想用某些 AI 功能:

可以去工具的设置页找找看有没有关闭选项,越来越多任务具开始提供了。

今天最重要的一句话

AI 能替你做越多事,你越要清楚它被允许做什么,以及在哪里可以把它关掉。

推荐阅读