如果你要替一个国家制定政策，
第一件事情通常不是问 AI：
「你觉得怎么做比较好？」
而是先找：
研究。
数据。
专家意见。
过去案例。
这也是为什么国会调查会公开征求 submission。
学者可以提交研究。
企业可以提供产业数据。
民间团体可以提出实际经验。
一般人也可以告诉议员：
某个政策真正落到生活里，
会发生什么事情。
这些文档最后可能被：
国会议员阅读、
委员会引用、
写进正式报告，
甚至成为下一步政策讨论的依据。
所以它背后一直有一个很基本的假设：
你拿出来当证据的研究，至少真的存在。
但到了 AI 时代，
现在连这件事都开始需要重新确认。
澳洲国会收到的文档里，出现了根本不存在的研究
Guardian Australia 最近检查本届澳洲国会公开调查收到的大量 submissions。
结果发现：
至少有 39 份提交文档
包含疑似 AI 幻觉造成的错误引用。
问题不是单纯：
作者名字少打一个字。
有些引用是真的研究，
却把：
作者、
标题、
页码、
研究结果
组合错了。
但更严重的情况是：
整篇研究根本不存在。
甚至还出现：
AI 把一篇不存在的论文，
挂到一位真实学者名下。
这就麻烦了。
因为假的东西如果写得很荒谬，
大家一眼就会发现。
真正危险的是：
它看起来非常像真的。
连被冒名的教授，都有一瞬间怀疑「我真的没写过吗？」
其中一个案例，
涉及澳洲学者 Divna Haslam。
一份提交给家庭暴力与自杀相关调查的文档，
引用了一篇挂在她名下的研究。
问题是：
那篇研究并不存在。
而且文档还错误描述了她团队真正研究过的内容。
Haslam 看到后形容这件事很令人不安。
因为那笔引用：
作者看起来对。
研究题目看起来合理。
格式也像正式学术文献。
如果只快速扫过，
很容易相信。
另一位记者与学者 Margaret Simons 也遇到类似情况。
一份提交国会的文档，
引用一篇据称由她撰写的学术文章。
但她根本没有写过。
最荒谬的是，
那笔假的文献引用格式做得太像真的，
让她自己都短暂产生一个念头：
「等等，我真的没有写过吗？」
如果连名字被挂上去的人，
都会被那个格式骗到一下，
那一般读者、
研究助理，
甚至忙着看几百页数据的议员，
又有多少时间逐篇确认？
Guardian 没有直接用「AI 侦测器」判定
这里有一点非常重要。
Guardian 并不是把国会文档丢进一个：
「AI Detector」
然后看到：
98% AI
就宣布这些文档有问题。
因为现有 AI 侦测工具本身就可能误判。
他们采取的方式反而比较笨，
但也比较值得信任。
先把国会 submissions 里面的参考文献抽出来。
再一笔一笔和：
Crossref、
Google Scholar、
DOI
等学术数据源比对。
如果一份文档有超过 20% 的引用找不到，
才进一步人工检查。
还会直接向原作者确认。
最后才找出至少 39 份含有疑似幻觉引用的提交文档。
这个数字甚至只是保守估计。
因为这种方法只能找到：
「AI 把引用做错」
的文档。
如果有人整篇都用 AI 写，
却没有放任何参考资料，
这套方法根本抓不到。
超过 100 份文档还留下了 ChatGPT 的 URL 痕迹
Guardian 另外发现，
超过 100 份提交文档的参考链接里，
留下与 ChatGPT 产生链接相关的 URL 标记。
但这里不能直接下结论说：
「100 多份文档全部是 ChatGPT 写的。」
因为这些标记也可能是在：
拷贝其他文章、
转贴数据、
经过其他来源
之后留下来。
所以这只能说明：
LLM 很可能已经大量进入文档制作流程。
不能单靠这个痕迹，
判定谁用了哪一个 AI。
真正能确认的问题还是：
里面确实出现了查不到的研究与错误引用。
更严重的不是 AI 编错，而是国会报告后来又引用它
如果故事停在：
「有人交了一份品质很差的文档。」
其实还不是最严重。
因为国会每天本来就会收到：
品质不同、
立场不同、
可信度不同
的意见。
真正让这件事升级的地方是：
Guardian 发现，
部分国会委员会正式报告，
后来引用了那些含有大量疑似 AI 幻觉来源的 submissions。
这代表错误开始走过第一层门槛。
原本它只是：
一个 AI 产生的错误。
接着变成：
一份正式提交国会的文档。
再接着可能变成：
国会报告里的一个来源。
到了这里，
同样一句话的外观看起来就完全不同了。
如果 ChatGPT 告诉你：
「某研究证明这件事。」
你可能还会怀疑。
但如果搜索结果写：
「根据澳洲国会收到的正式 submission……」
可信度突然就提高很多。
问题是：
官方网站是真的，不代表官方网站里引用的每一项证据都是真的。
然后最奇怪的循环出现了：AI 开始引用 AI 自己编出的错误
这可能是整个故事最重要的地方。
以前你怀疑一篇研究不存在，
最简单的方法就是：
Google 一下。
如果完全找不到，
你就会开始怀疑：
是不是引用错了？
但现在搜索本身也加入了生成式 AI。
Guardian 发现，
当有人搜索其中一些假的研究时，
Google 的 AI 摘要有时会：
把这篇不存在的研究整理得像真的一样。
为什么？
因为网络上现在已经真的出现一份文档，
提到了这篇「研究」。
那份文档又刚好放在：
国会 inquiry submission。
于是整个流程变成：
AI 编出一篇不存在的研究。
↓
有人把它放进正式 submission。
↓
submission 被公开在国会网站。
↓
搜索 AI 看到国会网站真的写了这篇研究。
↓
AI 再把它整理成答案。
↓
下一个人看到搜索结果，以为研究是真的。
这就形成一种以前很少遇到的：
信息自我污染循环。
假的东西不需要突然变成真的。
它只要被够多「看起来可靠的地方」重复，
就会愈来愈像真的。
最大的风险不是「AI 幻觉」，而是假的东西开始取得权威
一个 ChatGPT 回答错误，
影响可能只是一个人。
一份学生作业引用错误，
影响可能是一堂课。
但如果错误进入：
政府报告、
法律文档、
企业研究、
学术文章、
媒体报导，
问题会变成另一个层级。
因为下一个人通常不会重新从零查证。
他会想：
这是国会文档。
应该有人查过了。
这是顾问公司报告。
应该有人负责。
这是正式研究报告。
应该有来源。
而 AI 最容易利用的，
正是这种：
「前面应该已经有人检查过」的信任。
澳洲其实已经出现过另一个昂贵的案例
这不是第一次。
2025 年，
顾问公司 Deloitte 曾因替澳洲联邦政府制作的一份报告中出现错误内容，
包括虚构引用与假的法院判例，
最后同意部分退款。
那份政府委托报告价值：
44 万澳币。
这件事情提醒我们：
高价报告、
知名公司、
正式政府采购，
都不能自动等于：
每一笔引用都已经被验证。
AI 可以让制作文档变得非常快。
但它也让：
制造一份「看起来很专业的错误文档」变得非常快。
澳洲国会现在开始承认：连脚注都得多查一步
在 Guardian 调查公开后，
澳洲国会几个重要委员会的主席开始公开回应。
自由党参议员 Paul Scarr 说，
最大的风险就是：
决策者最后根据错误信息做决定。
他的结论很直接：
国会已经被提醒了。
未来需要在：
脚注、
来源、
文档中的主张
上做更多检查。
但现实问题也很明显。
一个大型国会调查，
可能收到：
数百份、
甚至更多文档。
每份几十页。
每份又有几十个引用。
真的要把每一篇论文、
每一个 DOI、
每一个数字
重新人工查一次，
需要非常大量的人力。
AI 降低了「制造内容」的成本。
却把另一个成本推高了：
验证内容。
但答案也不是「禁止大家用 AI 写 submission」
澳洲国会议员 Louise Miller-Frost 提醒了另一个重要面向。
AI 也可能让以前很难参与公共政策的人，
更容易整理自己的意见。
不是每个人都有：
研究助理、
律师、
政策顾问、
专业写作者。
一位照顾家人的普通民众，
可能真的有非常重要的第一手经验，
却不知道怎么把它整理成十页正式文档。
AI 可以帮他：
整理结构、
修正文句、
把想法写清楚。
这其实能让更多人参与民主进程。
所以问题不是：
「国会文档能不能用 AI？」
真正的问题是：
「AI 可以帮你写到哪里，哪些东西一定要自己证明？」
一个很简单的界线：文字可以帮你整理，证据不能让它替你发明
如果 AI 帮你把：
三段混乱的意见，
整理成三个清楚段落，
风险相对低。
但只要 AI 开始说：
「根据 2024 年某某教授研究……」
你就应该立刻停一下。
找到原始论文。
确认作者。
确认标题。
确认 DOI。
确认研究到底说了什么。
如果原始来源找不到，
就不要引用。
这个原则不只适用国会。
它也适用：
报告、
企划、
演示文稿、
商业分析、
论文、
新闻、
SEO 文章，
甚至我们每天请 AI 帮忙查数据的工作。
AI 可以替你整理证据。
但不能因为它把脚注排得很漂亮，
你就假设证据真的存在。
未来真正困难的工作，可能从「找答案」变成「证明答案从哪里来」
十年前，
数据太少。
所以我们花很多时间：
找数据。
现在 AI 可以几秒钟给你：
十个研究、
十五个数据、
五个案例。
新的问题变成：
哪一个是真的？
它真的支持这个结论吗？
它是不是引用另一个二手来源？
那个二手来源又是从哪里来？
最后能不能回到：
第一手证据？
AI 时代真正重要的技能，
可能不再只是：
「你知不知道答案？」
而是：
「你能不能证明这个答案为什么值得相信？」
最危险的 AI 错误，不一定看起来像错误
如果 AI 说：
澳洲首都是东京。
没有人会相信。
真正危险的是：
它给你一个真实教授名字。
一个合理研究题目。
一个漂亮的期刊格式。
一个听起来很合理的结论。
甚至后来还能搜索到：
国会网站真的提过它。
所有东西看起来都对。
只有一件事情不对：
那篇研究从来没有存在过。
所以 AI 时代最需要小心的，
可能不是明显的胡说八道。
而是那些：
看起来已经有人替你查证过的答案。
每天用最简单的方式看懂 AI。
sasadaily.com
今天，和 AI 一起进步一点。
每天学会一个 AI 技巧。
每天节省一点时间。
每天提升一点能力。
SasaDaily，陪你一起成长。
推荐阅读
AI 快问快答｜2026/08/31：Gemini Notebook 回答有引用，就代表整段都是作者原意吗？
