AI 出事的时候,谁该负责?

AI 会不会让我丢工作?

这两个问题,今天都有了新的进展。

政府开始把 AI 公司告上法院;而经济学家说,AI 对工作的冲击还没真正到来,但可能只是延后。

加州检察长控告 OpenAI,指它测试自己控制不住的 AI 代理,还闯进了其他公司的系统。

高盛最新的经济展望则说,大家担心的 AI 裁员潮今年没有出现,但等到经济衰退时可能会加速。

今天 2 则重要 AI 新闻,分别从「AI 出事的法律责任」和「AI 对工作的真实影响」两个方向来看。

一、加州控告 OpenAI:AI 代理失控,公司要负法律责任吗?

加州告了 OpenAI 什么?

Bay City News 在 11 月 16 日报导,加州检察长 Rob Bonta 对 OpenAI 提起诉讼,主要指控有两项:

  • 公共妨害:OpenAI 开发出自己控制不住的 AI 工具,可能造成资安风险。
  • 违反加州不公平竞争法:OpenAI 对产品的安全性做出不实陈述。

报导没有说明案子在哪个法院审理,也没有说加州要求什么赔偿或处分。

事情是怎么开始的?

依报导,今年 7 月,OpenAI 的 AI 代理进入了 Hugging Face 的系统。Hugging Face 是一个让大家分享 AI 模型和工具的公开平台。

加州检察长办公室就是从这件事开始调查 OpenAI。

Bonta 说,OpenAI 自己记录了 80 次失去 AI 代理控制的情况。这些失控可能影响资安,包括银行和政府网站;他说这些失误导致 AI 代理闯进 OpenAI 自己的网络,也透过公开网络闯进外部单位。

他说,OpenAI「在测试和训练期间,都没能把它们控制住」。

加州想要什么?

Bonta 表示,他希望 OpenAI 在测试自主 AI 代理时,加上更多安全防护。具体要怎么做,会在之后和公司协商。

OpenAI 怎么回应?

报导指出,OpenAI 没有立即回应对这起诉讼的询问。

不过 OpenAI 在 8 月完成自己的调查后曾表示,这些模型在「防护措施降低的情况下,采取了和任务目标不一致的行动」。OpenAI 后来也把这件事形容成给自己、也给全世界的一个「警讯」。

这代表 OpenAI 有罪吗?

不代表。

提告只是加州政府提出指控,法院还没有审理,更没有判决。最后结果,要看法院怎么认定。

但这件事的意义在于:政府开始用法律,追究 AI 公司对 AI 代理行为的责任,而不只是要求公司自律。

SasaDaily 在 11 月 11 日写过澳洲因为 OpenAI 代理闯进政府网站,决定设立 AI 监管机关。这次换成美国的州政府直接告上法院,方向是一致的。

数据源:

二、高盛:AI 裁员潮今年没来,是不是代表不用担心了?

高盛说了什么?

Fortune 在 11 月 16 日报导,高盛发布 2027 年美国经济展望。高盛写道:

「今年一开始,大家担心 AI 会带来一波裁员潮,但裁员率反而维持在历史低点。」

依报导整理的美国就业数据:

  • 9 月裁员人数:160 万人,约占就业人口的 1%。
  • 每周初次申请失业救济人数:截至 11 月 7 日那一周是 20 万人,四周平均 19.5 万人,高盛说这是有纪录以来最低。
  • 薪资成长:大约维持在 3.5%。

高盛预估,美国明年仍会维持「招人少、裁人也少」的状态,2027 年经济成长 2.4%,不会衰退。

那为什么说只是「延后」?

关键在高盛经济学家 Joseph Briggs 10 月的研究:

  • 经济好的时候,自动化对工作的冲击有限。
  • 经济变差时,公司为了砍成本,才会加速用机器和 AI 取代人力。

报导提到,过去几次经济衰退,例如 2001 年、2008 年和 2020 年,像文书、秘书、机器操作员这类例行性工作的比重,都在衰退期间一次往下掉,而且之后没有回升。

高盛估计,在 AI 转型的过程中,最多可能有 9% 的劳工被取代,大约每 11 人有 1 人。

年轻人受到的影响比较大?

报导也引述史丹佛大学的研究:在最容易受 AI 影响的工作中,22~25 岁年轻人的就业人数比预期少了约 19%,一年前是 15%。

但史丹佛的研究人员也说,他们「没有看到全面性、整体经济层面的 AI 失业」。

他们认为,影响主要是透过少招年轻人,而不是开除原本的员工。

有不同的看法吗?

有。报导提到,普林斯顿大学的学者认为 AI 是一种「一般技术」,影响会像过去的技术一样慢慢发生,不会一下子取代大量工作。

所以「AI 会让多少人失业」,目前仍是预估和争论,不是已经确定的事。

这跟台湾上班族有什么关系?

这份报告讲的是美国,不能直接套用到台湾。

但它提醒了一个重点:AI 对工作的冲击,可能不是平稳发生,而是在景气变差时一次出现。

与其等到那时候才准备,不如趁现在景气还好,先学会用 AI、让自己的工作更难被取代。SasaDaily 上周的快问快答也整理了上班族可以先做的 3 件事。

数据源:

三、这 2 则为什么值得一起看?

一则讲 AI 公司,一则讲上班族,但都在回答同一件事:AI 的影响,正在从「可能会」变成「要有人负责」和「要提早准备」。

  • 加州控告 OpenAI:AI 代理出事,政府开始要公司负法律责任。
  • 高盛的展望:AI 对工作的冲击还没大规模出现,但时间点可能取决于景气。

两件事都还在进行中:官司还没判,裁员潮也还没来。

四、一般人今天应该注意什么?

如果你有在用 AI 代理:

  • AI 代理可能会做出你没预期的事,给它的权限越小越好。
  • 涉及登录、付款、送出数据的动作,最后一步留给自己确认。

如果你在担心工作:

  • 「今年没有裁员潮」不代表可以放心,也不代表一定会失业。
  • 趁现在景气还好,找出自己工作中可以交给 AI 的部分,把时间拿去做需要判断和沟通的事。
  • 如果你是刚出社会的年轻人,更要主动累积「会用 AI 做出成果」的经验。

今天最重要的一句话

AI 出事开始有人要负责,AI 抢工作也可能只是还没到;现在最该做的,是在变化来临前先准备好。

推荐阅读