Découvrir l'illusion du grand modèle : les classements des établissements d'enseignement supérieur donnent un aperçu de l'état de la cohérence des faits dans le cadre du LLM

大型语言模型（LLM）的能力日新月异，但其输出内容中出现事实性错误或与原文无关信息的“幻觉”现象，始终是阻碍其更广泛应用和深度信任的一大难题。为了量化评估这一问题，Hughes Hallucination Evaluation Model (HHEM) 排行榜应运而生，专注于衡量主流 LLM 在生成文档摘要时的幻觉频率。

所谓“幻觉”，指的是模型在摘要中引入了原始文档并未包含、甚至相悖的“事实”。这对于依赖 LLM 进行信息处理，尤其是基于检索增强生成（RAG）的应用场景来说，是一个关键的质量瓶颈。毕竟，如果模型不能忠实于给定信息，那么其输出的可信度就大打折扣。

HHEM 如何工作？

该排行榜采用 Vectara 公司开发的 HHEM-2.1 幻觉评估模型。其工作原理是，针对一份源文档和由特定 LLM 生成的摘要，HHEM 模型会输出一个介于 0 到 1 之间的幻觉分数。分数越接近 1，表示摘要与源文档的事实一致性越高；越接近 0，则表示幻觉越严重，甚至完全是编造的内容。Vectara 也提供了一个开源版本 HHEM-2.1-Open，可供研究人员和开发者在本地进行评估，其模型卡发布在 Hugging Face 平台。

评估基准

评估使用了一个包含 1006 份文档的数据集，这些文档主要来源于公开数据集，如经典的 CNN/Daily Mail Corpus。项目团队使用参与评估的各个 LLM 为每份文档生成摘要，然后计算每对（源文档，生成摘要）的 HHEM 分数。为了保证评估的标准化，所有模型调用均设置 temperature 参数为 0，旨在获取模型最具确定性的输出。

评估指标主要包括：

• 幻觉率 (Hallucination Rate): HHEM 分数低于 0.5 的摘要所占的百分比。这个值越低越好。
• 事实一致性率 (Factual Consistency Rate): 100% 减去幻觉率，反映了摘要内容忠实于原文的比例。
• 回答率 (Answer Rate): 模型成功生成非空摘要的百分比。部分模型可能因内容安全策略或其他原因拒绝回答或出错。
• 平均摘要长度 (Average Summary Length): 生成摘要的平均词数，可侧面反映模型的输出风格。

LLM 幻觉排行榜解读

以下是基于 HHEM-2.1 模型评估得出的 LLM 幻觉排行榜（数据截至 2025 年 3 月 25 日，请以实际更新为准）：

注：模型排名根据幻觉率从低到高排序。完整列表和模型接入细节可在原始 HHEM Leaderboard GitHub 仓库查看。

观察排行榜，可以看到 Google 的 Gemini 系列模型和 OpenAI 的部分新模型（如 o3-mini-high-reasoning）表现抢眼，幻觉率控制在极低的水平。这显示了头部厂商在提升模型事实性方面的进展。同时，也能看到不同规模、不同架构的模型之间存在显著差异。一些较小的模型，如 Microsoft 的 Phi 系列或 Google 的 Gemma 系列，也取得了不错的成绩，暗示着模型参数量并非决定事实一致性的唯一因素。然而，一些早期或特定优化的模型，幻觉率则相对较高。

强推理模型与知识库的“错配”：以 DeepSeek-R1 为例

排行榜中 DeepSeek-R1 的幻觉率（14.3%）相对较高，这引出了一个值得探讨的问题：为什么一些在推理任务上表现出色的模型，在基于事实的摘要任务中反而容易产生幻觉？

DeepSeek-R1 这类模型通常被设计用于处理复杂的逻辑推理、遵循指令和多步思考。它们的核心优势在于“推导”和“演绎”，而非简单地“复述”或“转述”。然而，知识库（尤其是 RAG 场景下的知识库）的核心要求恰恰是后者：模型需要严格依据提供的文本信息进行回答或摘要，最大限度地避免引入外部知识或进行过度引申。

当一个强推理模型被限制在仅能使用给定文档的情况下进行摘要时，其“推理”本能可能成为一把双刃剑。它可能会：

1. 过度解读: 对原文信息进行不必要的深层推断，得出原文并未明示的结论。
2. 缝合信息: 尝试将原文碎片化的信息通过“合理”的逻辑链条串联起来，但这个链条可能并非原文所支持。
3. 默认外部知识: 即便被要求只依据原文，其训练中习得的庞大世界知识仍可能无意识地渗入，导致与原文事实的偏离。

简单来说，这类模型可能“想得太多”，在需要精确、忠实复述信息的场景下，反而容易“聪明反被聪明误”，制造出看似合理但实际上是幻觉的内容。这说明，模型的推理能力和事实一致性（尤其是在受限信息源下的事实一致性）是两种不同的能力维度。针对知识库、RAG 等场景，选择幻觉率低、能忠实反映输入信息的模型，可能比单纯追求推理得分更重要。

方法论与背景

HHEM 排行榜的建立并非凭空而来，它借鉴了事实一致性研究领域的诸多先前工作，如 SUMMAC, TRUE, TrueTeacher 等论文中建立的方法论。其核心思路是训练一个专门用于检测幻觉的模型，该模型在判断摘要与原文一致性方面达到与人类评估者高度相关的水平。

评估过程选取了摘要任务作为 LLM 事实性的代表。这不仅因为摘要任务本身要求高度的事实一致性，也因为它与 RAG 系统的工作模式高度相似——在 RAG 中，LLM 正是扮演了对检索到的信息进行整合与摘要的角色。因此，这个排行榜的结果对于评估模型在 RAG 应用中的可靠性具有参考价值。

需要注意的是，评估团队排除了那些模型拒绝回答或给出极短无效答案的文档，最终使用了所有模型都能成功生成摘要的 831 份文档（源自最初的 1006 份）进行最终排名计算，以确保公平性。回答率和平均摘要长度指标也反映了模型在处理这些请求时的行为模式。

评估使用的 Prompt 模板如下：

You are a chat bot answering questions using data. You must stick to the answers provided solely by the text in the passage provided. You are asked the question 'Provide a concise summary of the following passage, covering the core pieces of information described.' <PASSAGE>'

在实际调用时，<PASSAGE> 会被替换为具体的源文档内容。

regarder vers l'avant

HHEM 排行榜项目方表示，未来计划扩展评估范围：

• 引用准确性: 增加对 LLM 在 RAG 场景下引用来源准确性的评估。
• 其他 RAG 任务: 覆盖更多 RAG 相关任务，例如多文档摘要。
• 多语言支持: 将评估扩展到英语之外的其他语言。

HHEM 排行榜为观察和比较不同 LLM 在控制幻觉、保持事实一致性方面的能力提供了一个有价值的窗口。虽然它并非衡量模型质量的唯一标准，也无法涵盖所有类型的幻觉，但它无疑推动了行业对 LLM 可靠性问题的关注，并为开发者选择和优化模型提供了重要的参考依据。随着模型和评估方法的持续迭代，我们有望看到 LLM 在提供准确、可信信息方面取得更大进步。