Ingeniería de consejos ejemplos de uso común de la tabla de referencia rápida (versión china)

Dado que el modelo SOTA Big Language es capaz de responder a preguntas cada vez más complejas, el mayor reto consiste en diseñar indicaciones perfectas a través de la plomo (alrededor) Estas preguntas. Este artículo sirve de ayuda-memoria y reúne algunos principios que le ayudarán a mejorar su labor de orientación. Hablaremos de lo siguiente:

AUTOMAT es un acrónimo que contiene lo siguiente:

Veamos un ejemplo de combinación de las técnicas anteriores:

(A) Juego de rol: define el papel específico del asistente de IA, ¡con el mayor detalle posible!

(U) Perfil del usuario: define el público objetivo, sus antecedentes y el nivel de conocimientos esperado:

(T) Descripción de la tarea: utilizar verbos explícitos para describir la tarea a realizar:

(O) Formato de salida: describe la forma deseada de la salida. Se explica con más detalle en la siguiente sección:

(M) Modo de respuesta: utilice adjetivos para describir la manera, el tono y el estilo de respuesta que debe adoptar la IA:

(A) Manejo de excepciones: describe el manejo de situaciones no rutinarias. Normalmente solo se aplica a los modelos integrados en la aplicación:

(T) Restricciones temáticas: enumere la gama de temas permitidos para el debate:

El marco CO-STAR es muy similar al marco AUTOMAT, pero con un enfoque ligeramente distinto; CO-STAR representa las cinco áreas siguientes:

No es sorprendente que muchos de los elementos del marco CO-STAR tengan una correspondencia directa con elementos del marco AUTOMAT:

Tras describir la tarea, hay que definir explícitamente el formato del resultado, es decir, cómo debe estructurarse la respuesta. Al igual que ocurre con los humanos, dar al modelo un ejemplo concreto suele ayudarle a comprender mejor nuestros requisitos:

Por último, le ruego que aclare los siguientes puntos:

De este modo, el modelo puede comprender mejor los requisitos de la tarea y obtener mejores resultados:

definaFormato de salida:

Otra forma de hacerlo es mediante ejemplos deescaparateFormato de salida:

La estructura de salida puede refinarse aún más especificando los valores permitidos:

Por último, no olvides explicar cómo tratar la información que no se puede determinar:

El aprendizaje sin muestras establece una tarea para el modelo y proporciona dos tipos de ejemplos:

En general, basta con ofrecer un ejemplo por caso de uso para facilitar la comprensión del modelo. Debe evitarse enumerar ejemplos similares:

Cree una sección de ejemplos separada para Less Sample Learning:

Se ofrece un ejemplo para cada caso:

Proporcione hasta uno o dos ejemplos por caso de uso:

Permitir que un modelo "piense y hable" como un ser humano, es decir, que explique su razonamiento paso a paso, suele dar mejores resultados (para más información, consulte Este artículo del equipo Google Brain) Funciona así: das un ejemplo de pregunta y respondes con una pregunta similar, y luego haces la pregunta que realmente quieres hacer. De este modo, el modelo pensará y responderá paso a paso, siguiendo el ejemplo que le diste.

Muestre al modelo cómo razonar a través de un ejemplo o de un número reducido de ejemplos:

El uso de frases clave, como "piensa paso a paso", guía al modelo a través del proceso de razonamiento en cadena:

El proceso se describe con un ejemplo:

En muchos casos, sus avisos seguirán una estructura específica, diferenciándose sólo en ciertos parámetros (por ejemplo, la hora, el lugar, la historia del diálogo, etc.). Por lo tanto, podemos generalizar el prompt como un Plantillas de consejossustituye estos parámetros por variables:

El mensaje final generado podría tener este aspecto:

En primer lugar, tenemos que definir una plantilla de aviso que contenga de una a varias variables.

A continuación, en cada diálogo, tenemos que sustituir las variables de la plantilla por sus valores reales. En código Python, esto podría verse así.

El mensaje resultante es algo parecido a esto.

RAG (Retrieval Enhanced Generation) es posiblemente uno de los avances más importantes de los dos últimos años en el campo de la modelización de grandes lenguajes (LLM). Permite a los LLM acceder a sus datos o documentos propios para responder a casi cualquier pregunta, superando eficazmente limitaciones como los plazos de conocimiento en los datos preentrenados. Al acceder a una mayor variedad de datos, el modelo puede mantener actualizados sus conocimientos y abarcar una gama más amplia de áreas temáticas.

Dado que los modelos no releen las instrucciones, es importante asegurarse de que las entienden a la primera. Estructurar las instrucciones con guiones, comillas y saltos de línea puede ayudar a los modelos a entender mejor lo que se les quiere decir.

Puede dividir las distintas secciones mediante títulos:

Ponga los datos entre comillas fuera de la indicación:

Las comillas (simples, dobles y triples) también pueden utilizarse para las entradas del usuario:

Combinando todas las herramientas anteriores, he aquí un ejemplo casi perfecto de un consejo real.

Empieza construyendo las indicaciones en el siguiente orden:

Tenga en cuenta que los separadores también estructuran las preguntas.

Para problemas más complejos, las pistas individuales suelen ser insuficientes. En lugar de construir una única pista que contenga cada pequeño paso, es más sencillo y eficaz dividir la pista. Normalmente, se empieza por categorizar los datos de entrada, luego se selecciona una cadena específica y se utilizan modelos y funciones deterministas para procesar los datos.

Divida una misma pregunta en varias, por ejemplo, clasifique primero las tareas.

A continuación, puede seleccionar las preguntas de seguimiento adecuadas en función de los resultados de la categorización y, por último, evaluar las respuestas.