AI学什么(第5期)：大模型为何会一本正经地胡说八道？
大家好，我是蓝衣剑客，欢迎来到「AI学什么」——一个专注于AI科普的栏目。这个栏目的宗旨是"用最精彩的故事，讲述最硬核的知识"。在这里，你将看到深入浅出的AI核心技术解析，既不会被枯燥的技术细节困扰，也不会停留在肤浅的概念层面。通过生动的类比、通俗的语言和完整的故事，帮助你在轻松阅读中掌握那些看似难以理解的AI知识，培养应对AI时代的核心认知能力。无论你是AI领域的新手，还是希望加深理解的从业者，这里都能为你提供清晰的知识和独特的思考角度。
"毛病"？？？
2024年夏天的一个午后，天津市民李萌正和母亲一起吃饭，突然母亲脸色变得凝重："你必须把那只猫送走，立刻马上！"
李萌一头雾水："妈，怎么了？我们家小喵才养了三个月..."
"你不知道吗？女孩子养猫会得'毛病'！会面目全非的那种病！"母亲急切地掏出手机，给她看一篇"科普文章"。
文章令人不安——开头是个女孩和猫咪的温馨照片，接着画风急转直下，展示了一系列恐怖的"病变"图像。每张图下都配有专业术语和医学解释。文末引用了几位"权威专家"的警告，这些"专家"都有头衔、单位，看起来无比真实。
"妈，这是假的，完全是假的。"李萌试图解释。
"有图有真相！还有那么多医生的研究报告，怎么可能是假的？"母亲坚持己见。
一番争吵后，李萌上网搜索，发现这篇文章已被多个平台辟谣。所谓的"毛病"纯属虚构，文中的"专家"不存在，连那些触目惊心的"患者照片"都是AI生成的。
这场家庭小风波很快平息，但李萌却陷入了思考：当AI生成的谎言变得如此真实，普通人该如何分辨真假？
在几个月前，大洋彼岸的纽约，资深律师史蒂文·施瓦茨正面临职业生涯的尴尬时刻。他在法庭文件中引用了六个完全不存在的判例——这些案例是由ChatGPT编造的，但看起来无比真实，连案号、引用格式都一丝不苟。
更尴尬的是，当施瓦茨质疑ChatGPT时，AI非但没承认错误，反而振振有词地坚持这些案例"确实存在"，还补充了更多虚假细节。这位经验丰富的律师最终被法院罚款5000美元，职业声誉受损。
两个截然不同的故事，却指向同一个问题：为什么这些AI生成的谎言会如此具有欺骗性？它们为何能够一本正经地胡说八道，甚至连专业人士都会上当？
终生困在图书馆里的学者
在一座巨大的图书馆里，住着一位特殊的学者。他从未踏出过图书馆半步，却阅尽了这里几乎所有的藏书——包含了人类绝大部分已出版的智慧结晶。
这位学者博学多识，能滔滔不绝地讨论任何话题。问他莎士比亚、爱因斯坦或是中国古代历史，他都能对答如流。
但有些事情，他只知其然，不知其所以然。
他能描述苹果的形状、颜色和营养成分，却从未亲眼见过苹果在阳光下泛着的光泽，从未体验过咬下第一口时那脆生生的触感与汁水迸发的清甜。
他能告诉你珠穆朗玛峰的海拔高度、地质构成和攀登路线，却从未感受过站在山脚仰望时的渺小感，也没体验过高海拔地区稀薄的空气。
这位"图书馆学者"就是大模型的真实写照。它们"读过"互联网上海量的文本，在理论上接触了人类已经数字化的大部分知识，却从未通过感官直接体验过现实世界。
最要命的问题是：当图书馆里的书对某个事实描述不足、矛盾或干脆错误时，这位学者该怎么办？
没有实际经验可参考，面对不确定性，他只能凭借已读书籍中的模式和统计规律，拼凑出一个看似合理的答案。
更糟的是，如果有人问他一个图书馆里根本没记载过的问题，他不会老老实实地说"抱歉，我不知道"，而是会基于读过的一般模式，编造出一个听起来合情合理的回答。
这正是AI幻觉的本质：不是刻意撒谎，而是在知识边界上的"合理"推测。有时候，这种推测恰好正确；更多时候，却是自信满满的胡说八道。
幻觉的根源：一场超大规模的拼图游戏
幻觉问题可以用拼图游戏来形象比喻。把一个巨大拼图盒倒空，里面混杂着数十亿片来自不同图画的碎片——风景画的一角、人像的轮廓、抽象艺术的色块。当有人试图用这些混杂的碎片拼出"莫奈的花园"时，即使从未见过真正的莫奈画作，只要手边有足够多与"莫奈"、"花园"相关的碎片，也能拼出一幅像模像样的作品。细看之下，这幅拼凑的"莫奈"可能混入了梵高的笔触、毕加索的构图，或是完全不存在的元素。
大语言模型处理知识的方式，就是这样一场超大规模的拼图游戏。模型不是简单地记住每个事实，而是将知识分解成小片段，存储在一个错综复杂的神经网络中。每个网络节点包含了来自不同文本的信息碎片，以及这些碎片之间的关联强度。
当模型回答问题时，它从这张巨网中提取相关碎片，重组出看起来最合理的答案。
以"莫奈在哪一年创作《睡莲》"为例。模型会提取与"莫奈"、"睡莲"、"年份"相关的所有碎片，然后拼接成答案。问题在于，莫奈的《睡莲》系列实际上创作于1897年至1926年间，共有约250幅作品，没有单一确定的"创作年份"。但模型必须给出一个具体答案，于是它可能基于最强关联的年份给出一个精确的回答："1899年"或"1904年"。
再比如你问AI："2024年诺贝尔物理学奖获得者是谁？"
如果模型的训练数据截止到2023年，它实际上不可能知道真实答案。按照常理，它应该回答"我不知道"或"我的数据只更新到2023年"。但大多数时候，它会给出一个看起来非常确定的答案：
"2024年诺贝尔物理学奖授予了约翰·史密斯教授，以表彰他在量子计算领域的突破性贡献。"
这个回答听起来无比权威，完全符合诺贝尔奖新闻报道的格式和语气。但"约翰·史密斯"很可能是完全虚构的人物，他的"突破性贡献"也纯属编造。
更复杂的情况是，当模型遇到训练数据中没有明确答案的问题时，它会创造性地组合相关碎片。比如问"莫奈和梵高是否曾见过面"，模型可能会基于"都是后印象派画家"、"都活跃在19世纪末的法国"等碎片，生成一个听起来合情合理但可能完全虚构的相遇故事。
为什么AI会这样做？原因在于它的训练模式。在模型的训练数据中，关于诺贝尔奖的陈述几乎都是确定的、权威的表述。"诺贝尔物理学奖授予了..."后面一般不会跟着"我不确定"或"可能是某某"这类表达，而是跟着一个具体人名和具体成就。按照统计规律和模式匹配，给出确定的、权威的回答反而是更"正确"的选择——尽管这个具体答案是编造的。
这就是AI幻觉如此有欺骗性的原因——它们不是随意乱编，而是精准地模仿了真实权威信息的语言模式和结构特征，是基于真实知识碎片的精巧重组，就像用真实的艺术元素拼凑出一幅从未存在过的画作。它给的答案"听起来对"，因为它的表达方式与真正正确的答案几乎一模一样。
用户视角：如何减少被AI"忽悠"的风险？
无论技术如何进步，模型幻觉问题在短期内恐怕难以彻底解决。作为用户，我们需要掌握一套实用的应对策略，既能获取可靠信息，又不会被AI误导。
老实说，这些策略并不复杂，甚至有些是我们在处理人类信息时就应该具备的基本素养。下面我们就来具体看看如何操作。
策略一：让AI展示思考过程
你有没有注意过，当别人要你解释推理过程时，你更容易发现自己的错误？AI也是这样。
心理学家丹尼尔·卡尼曼把人类思考分为两种模式：系统1是快速、直觉的；系统2是缓慢、分析的。AI也有类似特点。直接提问容易让AI进入"快速模式"，更容易产生幻觉；而要求它一步步分析，则能激活"慢思考"模式。
实际操作示例：
❌ 常规提问（容易产生幻觉）：
"哪个国家首次成功登陆火星？"
✅ 改进后的提问（降低幻觉风险）：
"请一步步分析火星探测的历史。首先，列出已经尝试登陆火星的主要国家和组织，然后对每次任务的结果进行分析，最后确定哪个国家首次成功登陆火星，以及这次任务的具体细节和时间。"
❌ 常规提问：
"电子商务在中国农村的渗透率是多少？"
✅ 改进后的提问：
"请通过以下步骤分析中国农村电子商务渗透情况：1. 说明我们应该如何衡量'电子商务渗透率'；2. 列出可能有相关数据的权威机构或报告；3. 基于你所知的最新研究数据，分析中国农村电子商务的发展状况；4. 如果存在多种统计口径或不同的数据来源，请列出这些差异。"
为什么有效？
要求AI展示推理过程有三个关键好处：
1. 减少"跳跃式"错误：当AI被迫一步步思考时，每一步都更有可能基于事实而非猜测
2. 提高透明度：你能看到AI是如何得出结论的，而不仅仅是结论本身
3. 促进自我纠错：AI在详细阐述过程中更容易发现自身逻辑中的矛盾
提示词示例：
请通过以下步骤分析[问题]：
1. 确定需要考虑的关键因素和背景
2. 列出相关的已知事实和数据
3. 针对每个重要观点提供支持证据
4. 指出任何不确定性或知识缺口
5. 基于以上分析得出结论
策略二：质疑信息来源和可靠性
记者采访时总会问"你从哪里得到这个信息的？"这个习惯值得我们学习。当AI告诉你一个具体的数据或不常见的事实时，追问它的信息来源。
实际操作示例：
❌ 常规提问（不询问来源）：
"AI对全球GDP的贡献预计将达到多少？"
✅ 改进后的提问（询问来源与方法）：
"关于AI对全球GDP的贡献预测，有哪些权威机构发布过研究报告？这些不同机构的预测数字是多少？他们使用了什么方法得出这些预测？这些预测中存在哪些主要的不确定因素？"
❌ 常规提问：
"苏格拉底说过'未经检视的生活不值得过'这句话出自哪本著作？"
✅ 改进后的提问：
"苏格拉底的名言'未经检视的生活不值得过'最早出现在哪些文献记载中？这句话在原文中的确切表述是什么？我们如何确定这确实是苏格拉底说的而非后人误传？有没有学者对此有不同解读？"
提示词示例：
关于[具体信息或观点]：
1. 请说明这个信息的具体来源
2. 这些来源的可靠性和权威性如何
3. 学术界/产业界对此有哪些不同看法
4. 如果数据/观点有多个版本，请列出主要差异
5. 你对这些信息可靠性的评估是什么
策略三：强化AI的"认知谦逊"
大多数AI模型都有个通病——它们不擅长"知道自己不知道什么"。与其被AI自信满满的错误回答误导，不如主动帮它树立一些认知边界。
实际操作示例：
❌ 常规提问（没有设定谦逊框架）：
"2025年房地产市场会有什么变化？"
✅ 改进后的提问（强化认知谦逊）：
"请记住，预测未来存在本质的不确定性，承认这一点比给出看似确定但可能错误的预测更有价值。基于当前已知的经济因素和房地产趋势，2025年房地产市场可能会出现什么变化？请明确区分哪些是基于数据的推论，哪些是更具不确定性的猜测。对于每个预测，请提供你的置信度评估。"
❌ 常规提问：
"自动驾驶汽车会在什么时候完全普及？"
✅ 改进后的提问：
"我理解预测技术采用时间点存在很大不确定性。请先分析影响自动驾驶汽车普及的主要因素（技术、法规、成本、消费者接受度等），然后基于现有研究和专家观点，给出不同发展路径下可能的时间范围。如果对某些方面你缺乏最新信息，请明确指出这些知识缺口，而不是给出可能过时或不准确的回答。"
实用技巧：
设定不确定性预期：
> "请在回答前明确指出可能的不确定性领域。承认不确定性比错误的确定性更有价值。"
要求置信度评估：
> "对于你回答中的每个关键观点，请用百分比表示你的置信度，并解释这个置信度评估的理由。"
> "如果我的问题涉及到你知识库之外或训练数据之后的信息，请明确指出而不是尝试推测。"
允许'不知道'：
> "如果对某部分你没有足够信息回答，请直接说'我没有足够信息'，而不是基于有限信息给出可能误导的回答。"
策略四：多角度验证法
古人说"兼听则明"，在AI时代尤为重要。面对重要信息，千万不要只依赖单一来源。
实际操作案例：
假设你想了解"长新冠"的最新研究进展：
步骤1：同一AI，不同问法
问法A："长新冠的主要症状是什么？"
问法B："目前医学界如何定义和诊断长新冠？"
问法C："长新冠与普通新冠康复有什么关键区别？"
步骤2：不同AI，同一问题
在ChatGPT、Claude和文心一言上分别询问："近两年来，关于长新冠病因的主要研究突破有哪些？"
步骤3：AI+传统搜索
将AI提到的关键研究、数据或机构名称在Google Scholar或医学专业数据库中搜索验证
步骤4：专业渠道确认
查询CDC、WHO等权威机构的官方指南或最新立场声明
实用技巧：
多角度问询：设计不同问法，从不同角度探索同一主题
> "这种疾病的症状是什么？"
> "这种疾病的诊断标准是什么？"
> "这种疾病与类似疾病如何区分？"
> "我注意到之前你提到[X]，但其他来源提到[Y]，能解释这个差异吗？"
追踪信息到源头：要求AI提供原始研究或数据来源，然后自己查阅
> "请提供支持这个观点的原始研究或报告名称，最好包含作者、发表年份和期刊名称。"
并非所有AI回答的风险都一样高。有些类型的信息特别容易出现幻觉，需要格外警惕。
高风险信息清单及应对策略：
1. 具体数字和日期
示例：某公司2023年营收、某历史事件精确发生时间
应对："请提供这个数字/日期的具体来源。如果有多个来源报道了不同的数字，请列出主要差异。"
2. 最新信息和事件
示例：超出AI训练数据时间点的政策变化、技术突破
应对："我了解你的知识可能有截止日期。在回答关于[具体时间]之后的事件时，请明确说明这可能超出你的知识范围，而不是基于旧数据推测。"
3. 专业领域建议
示例：法律、医疗、投资等需要专业资质的建议
应对："我需要一个初步的分析作为参考，但理解这不能替代专业[医生/律师/顾问]的建议。请在回答中明确标注哪些是一般性信息，哪些问题最好咨询专业人士。"
4. 复杂因果关系
示例：经济衰退原因、疾病病因
应对：> "请分析[事件/现象]可能的多种原因，并说明各种解释的支持证据强度。不要简化为单一因果关系，除非有压倒性证据支持。"
5. 争议性话题
示例：政治立场、社会政策效果
应对："请客观呈现关于[话题]的主要立场和观点，包括支持每种观点的主要论据和证据。不要倾向于单一立场，也不要假装有客观'正确答案'。"
提示词示例（通用高风险话题）：
关于[高风险话题]，请：
1. 首先说明这个领域信息的复杂性和潜在不确定性
2. 分别列出主要的事实和推测部分
3. 提供多个视角和解释，而非单一答案
4. 明确指出哪些方面最好寻求专业人士意见
5. 推荐可靠的信息来源供进一步核实
策略六：建立个人"事实核查"习惯
与其被动接受AI的回答，不如培养主动核查的习惯。这不仅能避免被误导，还能帮助我们在AI时代保持信息自主权。
核心习惯培养：
1. 重要信息二次确认
原则：任何将用于决策或分享的信息，至少通过一个独立渠道验证
实操示例： 当AI告诉你"研究表明每天喝咖啡可以降低心脏病风险30%"时，先问："这项研究的具体出处是？样本量和研究方法是什么？"然后在PubMed等医学数据库搜索相关研究验证。
2. 可疑信息记录
实操示例：建立一个简单记录："今天AI错误地声称某电影2022年上映，实际是2023年。看来具体日期容易出错。"
3. 规律更新认知
原则：AI技术在快速发展，定期了解最新的局限性和应对方法
实操示例：每隔3个月，问AI："关于你的能力和局限性，最近有什么重要更新？你现在能做什么，不能做什么？"
提示词示例（用于定期评估AI可靠性）：
我想了解你当前的能力范围和局限性：
1. 你的知识截止到什么时间？
2. 在哪些领域你能提供最可靠的信息？
3. 在哪些领域你的回答可能不够准确或完整？
4. 对于使用你获取信息，你建议用户采取哪些验证步骤？
策略七：培养"AI协作思维"
最理想的状态是把AI当作"智能助手"而非"万能答案机"。建立一种协作关系，而不是简单的问答模式。
实际协作模式示例：
1. 问题分解模式
流程：让AI帮助分解复杂问题→针对每个子问题收集初步信息→自行综合判断
示例提问： "我想理解气候变化的经济影响。首先，请帮我将这个大问题分解成5-7个关键子问题或方面，这样我可以逐个深入研究。"
[AI回答后]
> "现在，针对你提到的第一个子问题'不同行业受气候变化的影响差异'，请提供一个初步框架和关键考虑因素。"
2. 假设检验模式
流程：提出初步假设→让AI提出支持和反对证据→自行评估
示例提问： "我有一个假设：'远程工作将在未来十年成为大多数知识工作的主导模式'。请帮我：
1)列出支持这个假设的主要证据和趋势；
2)列出反对或限制这个假设的主要证据和考量；
3)指出评估这个假设时我可能忽略的关键因素。"
3. 多方案对比模式
流程：让AI生成多个方案→提供比较框架→自行决策
示例提问：> "我正考虑学习一门新的编程语言来进入数据分析领域。请提出三个不同的学习路径方案，每个方案包括语言选择、学习顺序和预计时间投入。然后，提供一个比较框架，帮我从就业前景、学习曲线和与现有技术的兼容性等方面评估这些方案。"
技术视角：如何从源头减少"胡说八道"？
AI研究人员当然不会满足于用户自行应对幻觉问题。各大实验室都在努力从技术层面减少幻觉。
最主流的技术路线是"检索增强生成"(RAG)。这种方法给AI配备了一个实时的事实核查员。当AI回答问题时，不只依靠自己的"记忆"，还会从可靠的知识库中检索相关信息，基于这些检索到的信息生成回答。
另一个有前景的方向是"量化不确定性"。新一代AI系统开始为每个答案提供"置信度"评分，让用户了解AI对自己答案的把握程度。这就像天气预报会说"降雨概率60%"，而不是简单地说"会下雨"或"不会下雨"。
当然，彻底解决幻觉问题可能需要AI架构的根本性突破。目前的技术路线——无论是通过搜索引擎检索事实，还是通过人类反馈强化学习——都像是在给原本就不完美的系统打补丁。真正的解决方案可能需要我们重新思考AI的学习和推理方式。
镜子中的智慧
模型的幻觉是人类认知的一面镜子。天津李萌的母亲相信AI生成的"毛病"文章，正反映了我们容易被权威外表迷惑、倾向于相信符合预期的信息的认知弱点。AI之所以能一本正经地胡说八道，恰恰因为它精准模仿了我们认为"可信信息"应有的样子。
我是蓝衣剑客，谢谢你看我的文章。