AI 代理帮你处理事情,听起来很方便。
但如果它把别人的银行余额传给你,或没问你就订了一间不能退款的民宿呢?
AI 工具越来越能「替你做事」,你也越来越需要知道:它做了什么、怎么关掉。
路透社报导,Meta 的 AI 代理 Muse 在内部回报中多次搞混对话、做出没被要求的事。
OpenAI 则让所有 ChatGPT 用户都能用「实时听写」,讲多久都可以。
Canva 也准备推出「AI 总开关」,让免费版和 Pro 版用户一键关掉 AI 功能。
今天 3 则重要 AI 新闻,分别从「AI 代理的隐私风险」「AI 让输入更方便」和「用户可以选择不用 AI」三个方向来看。
一、Meta 的 AI 代理 Muse 搞混数据:AI 代理会把我的隐私给别人看吗?
路透社发现了什么?
路透社在 11 月 18 日报导,它看了超过 20 则 Meta 员工的内部回报,很多来自员工回报问题的意见群组。依报导:
- Muse 传给一名员工两笔不属于他的银行帐户余额。路透社无法确认这些数字是真的,还是 AI 编出来的。
- 一名员工被 Muse 提醒回复姊妹传来的 Signal 消息,但她从没授权 Muse 读取 Signal。
- 有员工收到跟自己无关的托育安排、职涯建议、没下过的订单等消息。
- Muse 回报了没发生过的购买、编出真实购买的价格,还在没经过同意的情况下订了一间不能退款的 Airbnb。
报导没有说这类问题总共发生了几次。
Muse 怎么读到 Signal 消息?
路透社和通信软件 Signal、研究机构 AI Now Institute 合作实际测试:
- Android 手机:Muse 透过设置时取得的「通知权限」,读到了 Signal 的消息。
- Mac 电脑:Muse 透过辅助使用和屏幕截屏工具取得内容。
- iPhone:同样的要求被系统挡下来。
报导也提到,苹果之后已经限制开发者在 Mac 上使用这些辅助工具。
这提醒我们:你在设置时随手按下的「允许通知」「允许辅助使用」,可能让 AI 看到比你以为更多的东西。
Meta 怎么回应?
依报导,Meta 发言人 Daniel Roberts 表示:
- 路透社举的例子是「个别事件」,公司重视安全、也做了大量测试。
- 很多帐号搞混的情况,是 AI 幻觉造成的,已经修正。
- 每个 AI 代理都在独立、安全的虚拟环境中运行,用户可以控制要连接哪些 App。
但他没有说明问题总共有多少、为什么一直发生。
报导也指出,Meta 的条款写明,AI 代理做的事由用户负责。这和 SasaDaily 昨天写的美国银行把 AI 代理的损失转给客户,是同一个方向。
一般用户也会遇到吗?
目前不清楚。
报导中的案例都来自 Meta 员工,报导没有说明这些问题只出现在内部测试版,还是一般用户的版本也有。
依报导,Muse 9 月推出后已经超过 1,000 万次下载。
数据源:
二、ChatGPT 实时听写上线:讲话直接变文字,好用在哪?
改了什么?
科技媒体 iThinkDifferent 在 11 月 18 日报导,OpenAI 更新了 ChatGPT 的听写功能。OpenAI 在贴文中说:「ChatGPT 的听写正在变得更快、更可靠。」
依报导:
- 实时转文字:你一边讲,文字就一边出现,不用等讲完才开始转换。
- 可以边讲边看:点一下声波图标,就能显示或隐藏正在转出的文字。
- 取消 10 分钟上限:可以一次讲完一段很长的需求或草稿。
谁可以用?
依报导,所有 ChatGPT 方案都可以用,正在全球陆续开放,包括 iOS、Android、网页版和桌面版。
报导也提醒,功能可能要一段时间才会出现在你的帐号。
报导没有说明支持哪些语言,所以中文听写的效果,建议自己试试看。
这跟「语音对话」有什么不同?
听写是「把你说的话变成文字,让你修改后再送出」;语音对话则是直接跟 ChatGPT 用说的来回聊天。
报导也提到,ChatGPT 旧的高级语音和标准语音,会在 12 月 11 日从语音对话中退役,改由新的 GPT-Live 模型负责。SasaDaily 在 8 月介绍过GPT-Live 语音。
怎么用比较好?
听写很适合用来快速讲出一大段需求。但语音转文字可能听错,特别是人名、数字和专有名词,送出前记得看一次。
报导没有说明录音怎么处理,在公开场合或讲到隐私内容时,也要多留意。
数据源:
三、Canva 推出 AI 总开关:不想用 AI 也可以吗?
Canva 推出了什么?
依 Canva 官方说明页,Canva 正在陆续推出一个「打开或关闭 AI 功能」的设置:
- 适用对象:Canva 免费版和 Pro 版。
- 效果:一次关掉所有有权限设置的 AI 功能。
- 预设:AI 功能预设是打开的。
- 例外:去背这类低风险工具,不管开或关都可以用。
- 新功能:之后添加的 AI 功能,也会跟着这个设置走。
官方页面写着操作步骤「即将推出」,所以现在你的帐号不一定看得到。
团队版呢?
Canva 团队版、企业版和教育版,本来就由管理员控制整个团队能不能用 AI 功能。
官方页面也提醒:如果你在免费/Pro 和团队版之间切换,这个设置不会跟着转移。
另一个设置:少看一点 AI 生成的素材
Canva 说明页还提到另一个设置,可以减少搜索和推荐里出现的 AI 生成范本和素材。位置在:个人头像 → 你的帐号 → AI 个人化。
但它不会帮素材加标示,也不会移除已经放进设计里的 AI 内容。
为什么这件事值得注意?
这次我没能打开媒体报导,所以 Canva 推出的原因和确切日期无法确认。
但从官方说明页可以看到一个方向:AI 工具开始让用户自己决定要不要用 AI,而不是预设全部塞给你。
对设计师、老师或不希望作品混入 AI 生成内容的人来说,这是很实用的选择。
数据源:
四、这 3 则为什么值得一起看?
三则新闻都跟一般人每天在用的工具有关:
- Meta Muse:AI 代理能做的事变多,但也可能做错事、看到不该看的数据。
- ChatGPT 听写:AI 让输入变得更快、更方便。
- Canva 总开关:用户开始可以选择「这里我不要 AI」。
AI 工具的方便和风险会一起变大,用户的「控制权」也越来越重要。
五、一般人今天应该注意什么?
如果你有在用 AI 代理:
- 设置时不要一路按「允许」,特别是通知、辅助使用、屏幕录制这类权限。
- 涉及付款、订房、送出消息的动作,设置成一定要你确认才运行。
- 定期检查 AI 代理的操作纪录,看它有没有做你没要求的事。
如果你用语音输入:
送出前看一次文字,特别是人名、数字和金额。
如果你不想用某些 AI 功能:
可以去工具的设置页找找看有没有关闭选项,越来越多任务具开始提供了。
今天最重要的一句话
AI 能替你做越多事,你越要清楚它被允许做什么,以及在哪里可以把它关掉。