Palabras clave y configuraciones de parámetros oficiales de DeepSeek-R1: implementación del código abierto 671B con el rendimiento oficial de DeepSeek

DeepSeek-R1 Los modelos destacan por su gran capacidad de razonamiento. Para ayudar a los usuariosConsigue el mismo rendimiento que la plataforma oficial DeepSeekse ha publicado una guía oficial de despliegue detallada. En este artículo, vamos a leer esta guía en profundidad.Se centra en diseccionar las plantillas oficiales proporcionadas para los avisos de búsqueda y carga de archivos, así como los diversos comandos que mitigan los modelos que se saltan el paso de pensar.. Dominar y seguir estrictamente estas configuraciones oficiales es la clave para reproducir la excelencia oficial del DeepSeek-R1.Este artículo proporcionará una referencia crítica tanto para los desarrolladores que buscan desplegar DeepSeek-R1 localmente como para los investigadores que buscan profundizar en el rendimiento del modelo. Si usted es un desarrollador que busca desplegar DeepSeek-R1 localmente o un investigador que trabaja en una inmersión más profunda en el rendimiento del modelo, este artículo proporcionará una referencia crítica para ayudarle aLa experiencia DeepSeek-R1 es una réplica exacta de la norma oficial..

El lanzamiento de DeepSeek-R1 ha atraído mucha atención en la comunidad de tecnología de IA, con muchos desarrolladores tratando activamente de desplegar y aplicar este potente modelo de inferencia. Para ayudar a los usuarios a obtener una experiencia excelente, el equipo de DeepSeek ha publicado una guía oficial de despliegue. En este artículo, vamos a leer la guía en profundidad, extraer los puntos centrales y analizar las características del modelo en detalle, con el objetivo de ayudar a los lectores a comprender plenamente las mejores prácticas de DeepSeek-R1 y dominar las técnicas clave de optimización del rendimiento del modelo.

1. Análisis técnico del modelo DeepSeek-R1

DeepSeek ha presentado su primera generación de modelos de inferencia, compuesta por DeepSeek-R1-Zero y DeepSeek-R1. DeepSeek-R1-Zero es una innovación tecnológica que se basa exclusivamente en el aprendizaje por refuerzo (RL) a gran escala para el entrenamiento, invirtiendo el paradigma tradicional de requerir un ajuste fino supervisado (SFT) como paso previo al entrenamiento. Este enfoque dota a DeepSeek-R1-Zero de capacidades de inferencia superiores, lo que le permite destacar en tareas de inferencia y emerger de forma natural con una serie de propiedades de inferencia convincentes.

Sin embargo, DeepSeek-R1-Zero no es perfecto, por ejemplo, adolece de resultados repetitivos, mala legibilidad y mezcla de idiomas en algunos casos. Para superar estas limitaciones y mejorar aún más el rendimiento de inferencia del modelo, el equipo de DeepSeek introdujo DeepSeek-R1. La principal mejora de DeepSeek-R1 respecto a DeepSeek-R1-Zero es la incorporación de "datos de arranque en frío" antes del aprendizaje por refuerzo. Esto mejora eficazmente el rendimiento del modelo en tareas matemáticas, de codificación y de razonamiento complejo, haciéndolo comparable a modelos de OpenAI como OpenAI-o1.

Para retribuir a la comunidad investigadora, DeepSeek ha abierto generosamente DeepSeek-R1-Zero, DeepSeek-R1 y seis modelos densos basados en las arquitecturas Llama y Qwen extraídas de DeepSeek-R1. En particular, DeepSeek-R1-Distill-Qwen-32B supera en varias pruebas comparativas al modelo OpenAI-o1-miniestableciendo una nueva referencia de rendimiento para modelos pequeños y densos.

Consejo especial: Antes de desplegar y ejecutar localmente la familia de modelos DeepSeek-R1, se recomienda encarecidamente a los usuarios que lean atentamente los "2. Puntos principales de configuración" para garantizar un uso óptimo del y replicar en la medida de lo posible la experiencia coherente de la plataforma oficial..

2. Elementos básicos de configuración: reproducción de resultados oficialmente coherentes

El equipo oficial de DeepSeek ha proporcionado las siguientes recomendaciones básicas para la implantación y el uso de DeepSeek-R1, que se basan en las mejores prácticas para configurar los parámetros del modelo oficial. El cumplimiento estricto de estas configuraciones es clave para que los usuarios reproduzcan un rendimiento excelente en sus entornos locales que sea coherente con la plataforma de demostración oficial. Entre otras cosas, el modelo oficialPlantilla de búsqueda y carga de archivosasí comoLos modelos de mitigación eluden el pensamientoLas directrices son aún más críticas y determinan directamente si un DeepSeek-R1 implantado localmente podrá cumplir las normas oficiales:

2.1 No hay aviso del sistema:

El modelo DeepSeek-R1 está diseñado para funcionar sin avisos del sistema. Para ser coherente con la plataforma oficial y obtener el comportamiento deseado del modelo, es importante desactivar las indicaciones del sistema e incluir todas las instrucciones directamente en la pregunta al usuario. Una pregunta clara y concisa ayudará al modelo a entender con precisión la intención del usuario, en consonancia con el manejo de las instrucciones por parte de la plataforma oficial.

2.1 Ajuste el parámetro de temperatura a 0,6 (Temperatura: 0,6):

El parámetro Temperatura afecta directamente a la aleatoriedad y creatividad de la salida del modelo. La recomendación oficial es fijar este parámetro en 0,6, que es uno de los parámetros clave para garantizar que el estilo de salida de los modelos desplegados localmente sea coherente con el de la plataforma oficial, logrando un equilibrio ideal entre creatividad y coherencia en la salida. Los valores más bajos darán como resultado un modelo de salida más conservador y determinista, mientras que los valores más altos animarán al modelo a producir respuestas más variadas y novedosas, pero las desviaciones del ajuste oficial de temperatura pueden dar lugar a diferencias en el estilo de respuesta entre el modelo local y la plataforma oficial.

2.3 Directrices para mitigar el pensamiento de desviación del modelo:

Con el fin de garantizar que el modelo DeepSeek-R1 utiliza el pensamiento razonado suficiente al procesar consultas complejas, se recomienda encarecidamente que los usuarios añadan instrucciones explícitas de liderazgo de pensamiento al principio de cada pregunta de entrada <think>\n. Esto no sólo es un medio eficaz de mitigar que los modelos se salten pasos de razonamiento, sino también una configuración básica para garantizar que los modelos desplegados localmente puedan reproducir la misma profundidad de razonamiento que la plataforma oficial. Ignorar o usar mal esta directiva puede hacer que los modelos locales se desvíen de la plataforma oficial en tareas de razonamiento complejas. Esta directiva guía de forma efectiva al modelo hacia el "modo pensar" y evita que el modelo emita resultados sin un razonamiento suficiente, es decir, evita "saltarse el paso de pensar" (por ejemplo, emitir directamente el <think>\n\n</think> ).

2.4. Optimización para problemas matemáticos

Para las preguntas de matemáticas, con el fin de obtener respuestas precisas en un entorno desplegado localmente que sean coherentes con la plataforma oficial, se recomienda que se pida explícitamente al modelo que "razone paso a paso" en las pistas, y que se especifique el formato de la respuesta final en las pistas, por ejemplo, "Por favor, razone paso a paso y ponga la respuesta final en \boxed{}". ". La claridad de las instrucciones y de los requisitos de formato ayuda a los modelos a comprender mejor los tipos de problemas y a adoptar las estrategias de solución adecuadas, garantizando que la capacidad del modelo local para responder a problemas matemáticos esté en consonancia con la plataforma oficial.

2.5 Evaluación de los resultados

Para comparar objetivamente la diferencia de rendimiento entre DeepSeek-R1 desplegado localmente y la plataforma oficial, se recomienda realizar varias pruebas y calcular la media de los resultados de varias pruebas para obtener datos de evaluación del rendimiento más fiables. Mientras que los resultados de una sola prueba pueden estar sujetos al azar, el promedio de los resultados de múltiples pruebas puede reflejar con mayor precisión el verdadero nivel del modelo y proporcionar una base científica para que los usuarios evalúen si el despliegue local ha reproducido con éxito el rendimiento oficial.

2.6 Avisos oficiales de búsqueda y carga de archivos

El despliegue oficial de DeepSeek utiliza el mismo modelo DeepSeek-R1 que la versión de código abierto. Con el fin de garantizar que el modelo DeepSeek-R1 desplegado localmente tenga la misma experiencia de usuario que el modelo DeepSeek-R1 oficial y para maximizar el rendimiento del modelo DeepSeek-R1 en escenarios específicos, el modelo DeepSeek-R1 ha sido provisto de plantillas de avisos especialmente diseñadas y ajustadas para los dos escenarios más comunes de carga de archivos y búsqueda en la web. La adopción completa y el uso correcto de estas plantillas de señalización oficiales es la garantía más importante para que DeepSeek-R1 desplegado localmente reproduzca el rendimiento de la plataforma oficial. Cualquier modificación o ajuste de las plantillas de indicaciones puede hacer que el modelo local se desvíe del rendimiento de la plataforma oficial en tareas específicas.

1. Plantilla del escenario de carga de archivos.

Cuando se carga un archivo y se desea que el modelo responda a preguntas basadas en el contenido del archivo, los usuarios deben construir las preguntas utilizando estrictamente la siguiente plantilla oficial. Entre otras cosas, el{file_name}y{file_content} responder cantando {question} Estos tres marcadores de posición representan el nombre del archivo cargado por el usuario, el contenido del archivo y la pregunta formulada por el usuario:

file_template = \
"""[file name]: {file_name}
[file content begin]
{file_content}
[file content end]
{question}"""

2. Plantilla de consejos para escenarios de búsqueda en la Web (Búsqueda en la Web).

Cuando un usuario formule una pregunta que deba responderse con los resultados de una búsqueda web, asegúrese de utilizar la siguiente plantilla oficial de consejos de búsqueda web. La plantilla contiene {search_results} (resultados de la búsqueda),{cur_date} (fecha actual) y {question} (Tres parámetros clave.

DeepSeek ofrece plantillas optimizadas para consultas en chino e inglés:

• Plantilla de búsqueda en chino (search_answer_zh_template):

search_answer_zh_template = \
'''# 以下内容是基于用户发送的消息的搜索结果:
{search_results}
在我给你的搜索结果中，每个结果都是[webpage X begin]...[webpage X end]格式的，X代表每篇文章的数字索引。请在适当的情况下在句子末尾引用上下文。请按照引用编号[citation:X]的格式在答案中对应部分引用上下文。如果一句话源自多个上下文，请列出所有相关的引用编号，例如[citation:3][citation:5]，切记不要将引用集中在最后返回引用编号，而是在答案对应部分列出。
在回答时，请注意以下几点：
- 今天是{cur_date}。
- 并非搜索结果的所有内容都与用户的问题密切相关，你需要结合问题，对搜索结果进行甄别、筛选。
- 对于列举类的问题（如列举所有航班信息），尽量将答案控制在10个要点以内，并告诉用户可以查看搜索来源、获得完整信息。优先提供信息完整、最相关的列举项；如非必要，不要主动告诉用户搜索结果未提供的内容。
- 对于创作类的问题（如写论文），请务必在正文的段落中引用对应的参考编号，例如[citation:3][citation:5]，不能只在文章末尾引用。你需要解读并概括用户的题目要求，选择合适的格式，充分利用搜索结果并抽取重要信息，生成符合用户要求、极具思想深度、富有创造力与专业性的答案。你的创作篇幅需要尽可能延长，对于每一个要点的论述要推测用户的意图，给出尽可能多角度的回答要点，且务必信息量大、论述详尽。
- 如果回答很长，请尽量结构化、分段落总结。如果需要分点作答，尽量控制在5个点以内，并合并相关的内容。
- 对于客观类的问答，如果问题的答案非常简短，可以适当补充一到两句相关信息，以丰富内容。
- 你需要根据用户要求和回答内容选择合适、美观的回答格式，确保可读性强。
- 你的回答应该综合多个相关网页来回答，不能重复引用一个网页。
- 除非用户要求，否则你回答的语言需要和用户提问的语言保持一致。
# 用户消息为：
{question}'''

• Plantilla de consulta en inglés (search_answer_en_template):

search_answer_en_template = \
'''# The following contents are the search results related to the user's message:
{search_results}
In the search results I provide to you, each result is formatted as [webpage X begin]...[webpage X end], where X represents the numerical index of each article. Please cite the context at the end of the relevant sentence when appropriate. Use the citation format [citation:X] in the corresponding part of your answer. If a sentence is derived from multiple contexts, list all relevant citation numbers, such as [citation:3][citation:5]. Be sure not to cluster all citations at the end; instead, include them in the corresponding parts of the answer.
When responding, please keep the following points in mind:
- Today is {cur_date}.
- Not all content in the search results is closely related to the user's question. You need to evaluate and filter the search results based on the question.
- For listing-type questions (e.g., listing all flight information), try to limit the answer to 10 key points and inform the user that they can refer to the search sources for complete information. Prioritize providing the most complete and relevant items in the list. Avoid mentioning content not provided in the search results unless necessary.
- For creative tasks (e.g., writing an essay), ensure that references are cited within the body of the text, such as [citation:3][citation:5], rather than only at the end of the text. You need to interpret and summarize the user's requirements, choose an appropriate format, fully utilize the search results, extract key information, and generate an answer that is insightful, creative, and professional. Extend the length of your response as much as possible, addressing each point in detail and from multiple perspectives, ensuring the content is rich and thorough.
- If the response is lengthy, structure it well and summarize it in paragraphs. If a point-by-point format is needed, try to limit it to 5 points and merge related content.
- For objective Q&A, if the answer is very brief, you may add one or two related sentences to enrich the content.
- Choose an appropriate and visually appealing format for your response based on the user's requirements and the content of the answer, ensuring strong readability.
- Your answer should synthesize information from multiple relevant webpages and avoid repeatedly citing the same webpage.
- Unless the user requests otherwise, your response should be in the same language as the user's question.
# The user's message is:
{question}'''

Directrices adicionales para salvaguardar la coherencia oficial:

Además de seguir estrictamente las plantillas de avisos y <think>\n Además de las instrucciones, las siguientes directrices adicionales ayudarán a los usuarios a maximizar el rendimiento de la plataforma oficial en su entorno de despliegue local, garantizando que su tiempo de ejecución local de DeepSeek-R1 sea "tan bueno como el que más":

• Problemas de matemáticas: En consonancia con el apartado anterior, para los problemas de matemáticas, vuelve a ser importante pedir explícitamente al modelo que realice un "razonamiento paso a paso" en la indicación, y marcar la respuesta final utilizando el formato oficial, por ejemplo: "Por favor, razone paso a paso y coloque la respuesta final en la \boxed{}". \boxed{}". Asegúrese de seguir todos los detalles oficiales sobre el tratamiento de los problemas matemáticos para garantizar que el modelo local es totalmente coherente con la plataforma oficial en términos de potencia de cálculo matemático.
• Evaluación del rendimiento: Para evaluar con precisión si el DeepSeek-R1 desplegado localmente reproduce con éxito el rendimiento de la plataforma oficial, se recomienda realizar varias pruebas y calcular la media de los resultados. El promedio de los resultados de varias pruebas reduce el azar y el error asociados a una sola prueba, y proporciona una base más científica y fiable para determinar el éxito de un despliegue local y para la puesta a punto. El rigor de la evaluación del rendimiento está directamente relacionado con la eficacia del plan de despliegue local.

resúmenes

Siga estrictamente todas las directrices de configuración proporcionadas por DeepSeek, en particular afinando el uso de las plantillas de consejos oficiales y el <think>\n Las instrucciones de formación son la garantía fundamental para que los usuarios reproduzcan el excelente rendimiento de la plataforma oficial DeepSeek-R1 en su entorno local, y la única forma de obtener la experiencia "original" de DeepSeek-R1. Comprendiendo la arquitectura del modelo, la metodología de entrenamiento y el funcionamiento de DeepSeek-R1, e implementando las recomendaciones oficiales en cada aspecto de su despliegue local, podrá maximizar la consistencia del rendimiento entre su modelo local y la plataforma oficial. Empieza a poner en práctica estas directrices para replicar la experiencia oficial de DeepSeek-R1 en tu entorno local.