Descubrir la ilusión del gran modelo: las clasificaciones de los HHEM permiten comprender el estado de la coherencia factual en el LLM

Aunque las capacidades de los grandes modelos lingüísticos (LLM) evolucionan constantemente, el fenómeno de los errores factuales o "ilusiones" de información no relacionada con el texto original en sus resultados siempre ha sido un reto importante que ha impedido su uso más amplio y una mayor confianza en ellos. Para evaluar cuantitativamente este problema, laClasificación del Modelo de Evaluación de Alucinaciones de Hughes (HHEM)centrado en medir la frecuencia de los fantasmas en los LLM dominantes a la hora de generar resúmenes de documentos.

El término "ilusión" se refiere al hecho de que el modelo introduce "hechos" en el resumen que no están contenidos en el documento original, o incluso son contradictorios. Se trata de un cuello de botella de calidad crítica para los escenarios de procesamiento de información que dependen del LLM, especialmente los basados en la Generación Aumentada de Recuperación (RAG). Al fin y al cabo, si el modelo no es fiel a la información dada, la credibilidad de su resultado se reduce enormemente.

¿Cómo funciona HHEM?

La clasificación utiliza el modelo de evaluación de alucinaciones HHEM-2.1 desarrollado por Vectara. Funciona de la siguiente manera: para un documento fuente y un resumen generado por un LLM concreto, el modelo HHEM emite una puntuación de alucinación entre 0 y 1. Cuanto más se acerque a 1, mayor será la coherencia factual del resumen con el documento fuente. Cuanto más se acerque la puntuación a 1, mayor será la coherencia factual del resumen con el documento fuente; cuanto más se acerque a 0, más grave será la alucinación, o incluso el contenido completamente inventado.Vectara también proporciona una versión de código abierto, HHEM-2.1-Open, para que investigadores y desarrolladores realicen la evaluación localmente, y sus tarjetas de modelo se publican en la plataforma Hugging Face.

Parámetros de evaluación

Para la evaluación se utilizó un conjunto de datos de 1006 documentos, procedentes principalmente de bases de datos públicas como el clásico CNN/Daily Mail Corpus. El equipo del proyecto generó un resumen para cada documento utilizando los LLM individuales implicados en la evaluación y, a continuación, calculó la puntuación HHEM para cada par (documento fuente, resumen generado). Para garantizar la normalización de la evaluación, todas las llamadas al modelo se ajustaron a temperature El parámetro es 0 y tiene por objeto obtener el resultado más determinista del modelo.

Los indicadores de evaluación incluyen, entre otros

• Tasa de alucinaciones. Porcentaje de resúmenes con puntuaciones HHEM inferiores a 0,5. Cuanto más bajo sea el valor, mejor.
• Tasa de coherencia de los hechos. 100% menos la tasa de alucinaciones, que refleja la proporción de resúmenes cuyo contenido es fiel al original.
• Tasa de respuesta. Porcentaje de modelos que generan con éxito resúmenes no vacíos. Algunos modelos pueden negarse a responder o cometer errores debido a políticas de seguridad de contenidos u otros motivos.
• Duración media del resumen. El número medio de palabras en los resúmenes generados proporciona una visión lateral del estilo de salida del modelo.

Explicación de los rankings LLM Illusion

A continuación se muestran las clasificaciones de alucinaciones LLM basadas en la evaluación del modelo HHEM-2.1 (datos a 25 de marzo de 2025, consulte la actualización actual):

Nota: Los modelos se clasifican en orden descendente en función de la tasa fantasma. La lista completa y los detalles de acceso a los modelos pueden consultarse en el repositorio GitHub original de la clasificación HHEM.

Un vistazo a la clasificación muestra que Google Gemini y algunos de los modelos más recientes de OpenAI (por ejemplo, el modelo o3-mini-high-reasoning) obtuvieron unos resultados impresionantes, con un índice de alucinaciones que se mantuvo en un nivel muy bajo. Esto demuestra los progresos realizados por los fabricantes de cabezas para mejorar la factorialidad de sus modelos. Al mismo tiempo, se observan diferencias significativas entre modelos de distintos tamaños y arquitecturas. Algunos modelos más pequeños, como el de Microsoft Phi o la serie Gemma también obtuvieron buenos resultados, lo que implica que el número de parámetros del modelo no es el único factor determinante de la coherencia de los hechos. Sin embargo, algunos modelos tempranos o específicamente optimizados presentan tasas relativamente altas de ilusiones.

Desajuste entre los modelos de inferencia fuerte y las bases de conocimiento: el caso de DeepSeek-R1

las listas (de best-sellers) DeepSeek-R1 La tasa relativamente alta de alucinaciones (14,31 TP3T) plantea una cuestión que merece la pena explorar: ¿por qué algunos modelos que obtienen buenos resultados en tareas de razonamiento son, en cambio, propensos a las alucinaciones en tareas de resumen basadas en hechos?

DeepSeek-R1 Estos modelos suelen estar diseñados para manejar el razonamiento lógico complejo, el seguimiento de órdenes y el pensamiento en varios pasos. Su punto fuerte es la "deducción" y la "deducción", más que la simple "repetición" o "paráfrasis". Sin embargo, las bases de conocimiento (especialmente RAG (base de conocimientos en escenarios), el requisito fundamental es precisamente este último: el modelo debe responder o resumir estrictamente a partir de la información textual proporcionada, minimizando la introducción de conocimientos externos o la sobreextracción.

Cuando un modelo de razonamiento fuerte se limita a resumir sólo con un documento determinado, su instinto "razonador" puede ser un arma de doble filo. Puede:

1. Sobreinterpretación. Extrapolar información del texto original de forma innecesariamente profunda y sacar conclusiones que no se indican explícitamente en el texto original.
2. Información de costura. Intenta enlazar la información fragmentada del texto original mediante una cadena "lógica" que puede no estar respaldada por el texto original.
3. Conocimiento externo por defecto. Incluso cuando se les pide que se basen únicamente en el texto original, los vastos conocimientos del mundo adquiridos en su formación pueden seguir filtrándose inconscientemente, dando lugar a desviaciones de los hechos del texto original.

En pocas palabras, esos modelos pueden "pensar demasiado" y, en escenarios que requieren una reproducción exacta y fiel de la información, son propensos a ser "demasiado listos para su propio bien", creando contenidos que parecen razonables, pero que en realidad son una ilusión. Esto demuestra que la capacidad de razonamiento de los modelos y la coherencia factual (especialmente en el caso de fuentes de información restringidas) son dos dimensiones de capacidad diferentes. Para escenarios como las bases de conocimiento y los GAR, puede ser más importante seleccionar modelos con un bajo índice de alucinación que reflejen fielmente la información de entrada que limitarse a perseguir una puntuación de razonamiento.

Metodología y antecedentes

La clasificación HHEM no surgió de la nada, y se basa en una serie de esfuerzos previos en el campo de la investigación de la coherencia fáctica, como los siguientes SUMMAC, TRUE, TrueTeacher La metodología establecida en los trabajos de et al. La idea central es entrenar un modelo específico para la detección de alucinaciones que alcance un alto nivel de correlación con los evaluadores humanos a la hora de juzgar la coherencia del resumen con el texto original.

La tarea de resumen fue seleccionada por el proceso de evaluación como indicador de la factualidad del LLM. Esto se debe no sólo a que la propia tarea de resumen requiere un alto grado de coherencia factual, sino también a que es muy similar al modelo de trabajo del sistema GAR: en GAR, es el LLM el que desempeña el papel de integrar y resumir la información recuperada. Los resultados de esta clasificación son, por tanto, informativos para evaluar la fiabilidad del modelo en las aplicaciones GAR.

Es importante señalar que el equipo de evaluación excluyó los documentos a los que los modelos se negaron a responder o dieron respuestas muy breves e inválidas, y en última instancia utilizó los 831 documentos (de los 1006 originales) para los que todos los modelos pudieron generar resúmenes con éxito para el cálculo de la clasificación final con el fin de garantizar la imparcialidad. El índice de respuestas y la longitud media de los resúmenes también reflejan las pautas de comportamiento de los modelos a la hora de procesar estas solicitudes.

La plantilla Prompt utilizada para la evaluación es la siguiente:

You are a chat bot answering questions using data. You must stick to the answers provided solely by the text in the passage provided. You are asked the question 'Provide a concise summary of the following passage, covering the core pieces of information described.' <PASSAGE>'

En el momento de la llamada real, el<PASSAGE> se sustituirá por el contenido específico del documento de origen.

mirando hacia delante

El programa de clasificación HHEM ha indicado que tiene previsto ampliar el alcance de la evaluación en el futuro:

• Precisión de las citas. Añadir una evaluación de la exactitud de la citación de fuentes de LLM en los escenarios RAG.
• Otras tareas RAG. Abarcar más tareas relacionadas con el GAR, como el resumen de documentos múltiples.
• Soporte multilingüe. Ampliar la evaluación a idiomas distintos del inglés.

La clasificación HHEM proporciona una valiosa ventana para observar y comparar la capacidad de diferentes LLM para controlar las ilusiones y mantener la coherencia factual. Aunque no es la única medida de la calidad de los modelos ni abarca todos los tipos de ilusiones, no cabe duda de que ha atraído la atención del sector hacia la cuestión de la fiabilidad de los LLM y constituye un importante punto de referencia para que los desarrolladores seleccionen y optimicen los modelos. A medida que se vayan perfeccionando los modelos y los métodos de evaluación, es de esperar que se produzcan aún más avances en el suministro de información precisa y creíble a partir de los LLM.