OpenReasoning-Nemotron - серия моделей рассуждений с открытым исходным кодом от NVIDIA

Что такое OpenReasoning-Nemotron?

OpenReasoning-Nemotron - это серия крупномасштабных языковых моделей с открытым исходным кодом от NVIDIA для поддержки обработки задач рассуждения в математике, науке и коде. Модели основаны на DeepSeek Модель R1 0528 дистиллирована из модели R1 0528 с масштабами параметров 1,5B, 7B, 14B и 32B для удовлетворения различных вычислительных потребностей. Основанная на крупномасштабной дистилляции данных и контролируемом обучении с тонкой настройкой, модель обладает превосходной способностью делать выводы и превосходит конкурентов в математической области. openReasoning-Nemotron поддерживает режим "тяжелого" вывода, который сочетается с алгоритмом GenSelect и мультиинтеллектуальным сотрудничеством для дальнейшего усиления эффекта вывода. Модель работает локально и поддерживается LM. Модель работает локально и может быть развернута с помощью таких инструментов, как LM Studio, предоставляя мощный инструмент для образования, исследований и разработки кода.

Ключевые особенности OpenReasoning-Nemotron

• Высокоэффективные навыки рассуждения: отлично справляется с такими сложными областями, как математика, наука и код, генерируя высококачественные решения для рассуждений, которые предоставляют пользователям точный логический анализ и ответы.
• Гибкие размеры моделейМодель доступна в различных масштабах параметров (1,5B, 7B, 14B и 32B), и пользователь выбирает подходящую версию модели, исходя из своих вычислительных ресурсов и требований задачи.
• "Тяжелая" модель рассуждений: Основанный на алгоритме GenSelect, объединяющем результаты рассуждений нескольких интеллектов для дальнейшей оптимизации работы, он лучше справляется с математическими и кодовыми задачами и предлагает лучшие решения.
• Сильная базовая поддержкаОни представляют собой мощную отправную точку для будущих исследований в области рассуждений на основе обучения с подкреплением (RL), помогая разработать более эффективные методы рассуждений.
• Поддержка локального времени выполнения: Поддерживает локальную работу 100%, которая легко развертывается и используется пользователями с помощью таких инструментов, как LM Studio.

Адрес официального сайта OpenReasoning-Nemotron

• Библиотека моделей HuggingFace:: https://huggingface.co/collections/nvidia/openreasoning-nemotron-687730dae0170059860f1f01

Как использовать OpenReasoning-Nemotron

• Использование концентратора для обнимающихся лиц::Обратитесь к адресу библиотеки модели HuggingFace.
• Установите библиотеку трансформеров "Обнимающиеся лица: Установка обнимающегося лица transformers установите библиотеку с помощью следующей команды:

pip install transformers

• Модели для погрузки: Использование transformers Библиотека загружает выбранную модель OpenReasoning-Nemotron. Например, загрузите модель с параметрами 7B:

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "nvidia/OpenReasoning-Nemotron-7B"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

• Формирование результатов вывода: Генерирование результатов рассуждений с помощью моделей. Например, генерирование ответа на математическую задачу:

input_text = "Solve the equation 2x + 3 = 7."
inputs = tokenizer(input_text, return_tensors="pt")
outputs = model.generate(**inputs, max_length=50)
result = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(result)

Основные преимущества OpenReasoning-Nemotron

• Сильные рассуждения: Фокусируется на математических, научных и кодовых задачах, предоставляя высококачественные решения для рассуждений, основанные на многоинтеллектуальном сотрудничестве и превосходной математической производительности.
• Гибкие размеры моделейСистема доступна в четырех вариантах: 1,5, 7, 14 и 32 ББ, что позволяет удовлетворить различные требования к вычислительным ресурсам и задачам.
• Передовые методы обучения: Основано на крупномасштабной дистилляции данных и контролируемой тонкой настройке (SFT), обучение с подкреплением (RL) не использовалось, что обеспечивает прочный фундамент для последующих исследований.
• Эффективное развертывание и использование: Поддерживает локальный запуск, развертывание LM Studio и интеграцию с Hugging Face Hub для быстрой загрузки и использования.
• Мощные базовые модели: Обеспечивает мощную отправную точку для исследований в области обучения с подкреплением (RL) для поддержки рассуждений и решений сложных проблем в различных областях.
• Открытый исходный код и поддержка сообщества: Как модель с открытым исходным кодом, пользователи имеют свободный доступ к коду и богатым ресурсам и поддержке сообщества Hugging Face.

Для кого предназначен OpenReasoning-Nemotron?

• научный сотрудник: Ученые и исследователи, работающие в области искусственного интеллекта, машинного обучения и обработки естественного языка, для изучения и оптимизации алгоритмов вывода.
• педагог: Учителям, которым нужны пособия, помогающие ученикам понимать и решать сложные задачи при преподавании математики, естественных наук и других предметов.
• школьники: Студенты, изучающие такие предметы, как математика, естественные науки, программирование и т.д., отвечают на вопросы и учебные пособия с помощью моделей.
• разработчик программного обеспечения: Программисты и команды разработчиков, которым необходимо генерировать код, оптимизировать производительность кода или отлаживать его.
• специалист по анализу данных: профессионалы, занимающиеся сложными задачами анализа данных и научными вычислениями, поддерживаемыми рассуждениями с помощью моделей.