幻觉Hallucination
一句话
幻觉是大模型生成了听起来合理、实际却错误或不存在的内容，比如编出不存在的函数或文献。
大白话
幻觉像一个从不说“我不知道”的学生答题：不会的题也写得条理清楚、语气笃定，看起来像对的。
比喻的边界
学生是故意蒙，模型没有“故意”，它只是按规律生成最像样的文字，自己分不清哪些是事实；所以语气越肯定，不代表越可靠。
拿去就能用
开始做
我想了解。回答时区分哪些是你确定的、哪些是推测，并给出可以核对的官方来源；不知道就直接说不知道，不要补一个看起来合理的答案。
还差：问题，发给 AI 前记得换掉
出错了
你给的安装命令运行后提示“找不到这个包”。我怀疑包名是编出来的。先别让我安装任何东西，帮我到官方包仓库核对：它是否存在、维护者是谁、下载量和最近发布时间，再决定用不用；不可信就换成官方文档推荐的方案并附链接。
想做深
我在做一个根据文档回答问题的助手。帮我设计回答规则：只依据提供的资料，每句结论附原文引用，找不到依据就说没有，再告诉我怎么抽查引用是否真的对得上。
别这样说 → 这样说
别这样说
你确定吗？别骗我。
这样说
你说这个平台的免费套餐支持每分钟跑一次定时任务，我没找到出处。帮我给出官方文档里写这件事的原文和链接；找不到就直接说不确定，不要换个说法再肯定一次。
差别：不追问态度，而是要求可核对的原文出处，并允许说“不确定”。
容易误解：
误解回答附了引用和链接，内容就一定是对的。
其实是引用也可能是编的，或者原文并不支持它的结论；要点开链接，确认原文存在，而且确实说了这件事。包名对得上也不代表安全，陌生的小众包安装前先看维护者和下载量。
展开专业理解
幻觉来自模型的工作方式：它生成的是统计上合理的文字，而不是查证过的事实。常用的降低办法有：允许它说“不知道”，让它先从资料里摘出原文再作答，要求每条结论附引用并逐条核对，找不到依据就撤回。这些办法能减少幻觉，但不能消除，关键事实仍要自己查证。
来源
- Claude 文档：减少幻觉 核对于 2026-09-26