OpenReasoning-Nemotron - NVIDIA의 오픈 소스 추론 모델 시리즈

1.3K 00

오픈추론-네모트론이란 무엇인가요?

OpenReasoning-Nemotron은 수학, 과학 및 코드에서 추론 작업의 처리를 지원하기 위해 NVIDIA에서 오픈 소스화한 일련의 대규모 언어 모델입니다. 이 모델은 다음을 기반으로 합니다. DeepSeek R1 0528 모델은 다양한 계산 요구 사항을 충족하기 위해 1.5B, 7B, 14B 및 32B의 매개변수 스케일을 가진 R1 0528 모델에서 증류되었습니다. 대규모 데이터 증류 및 감독 미세 조정 학습을 기반으로 하는 이 모델은 추론 능력이 뛰어나며 수학 영역에서 경쟁사보다 뛰어난 성능을 발휘합니다. openReasoning-Nemotron은 "무거운" 추론 모드를 지원하며, GenSelect 알고리즘 및 다중 지능 협업과 결합하여 추론 효과를 더욱 향상시킵니다. 모델은 로컬에서 실행되며 LM에서 지원합니다. 이 모델은 로컬에서 실행되며 LM Studio와 같은 도구와 함께 배포할 수 있어 교육, 연구 및 코드 개발을 위한 강력한 도구를 제공합니다.

오픈추론-네모트론의 주요 기능

매우 효과적인 추론 능력수학, 과학, 코드와 같은 복잡한 영역에서 탁월한 성능을 발휘하여 사용자에게 정확한 논리적 분석과 답을 제공하는 고품질 추론 솔루션을 생성합니다.
유연한 모델 크기이 모델은 다양한 파라미터 스케일(1.5B, 7B, 14B, 32B)로 제공되며, 사용자는 자신의 컴퓨팅 리소스 및 작업 요구 사항에 따라 적절한 모델 버전을 선택합니다.
"무거운" 추론 모델여러 지능의 추론 결과를 결합하여 성능을 더욱 최적화하는 GenSelect 알고리즘을 기반으로 수학 및 코딩 작업에서 탁월한 성능을 발휘하며 더 나은 솔루션을 제공합니다.
강력한 기본 지원향후 강화 학습(RL) 기반 추론 연구를 위한 강력한 출발점을 제공하여 보다 효율적인 추론 기법을 개발하는 데 도움을 줍니다.
로컬 런타임 지원로컬 100% 작업을 지원하며, LM Studio와 같은 도구를 사용하여 사용자가 쉽게 배포하고 사용할 수 있습니다.

오픈추론-네모트론 공식 웹사이트 주소

허깅페이스 모델 라이브러리:: https://huggingface.co/collections/nvidia/openreasoning-nemotron-687730dae0170059860f1f01

오픈리추론-네모트론 사용 방법

허깅 페이스 허브 사용::허깅페이스 모델 라이브러리 주소에 액세스합니다.
허깅 페이스 트랜스포머 라이브러리 설치하기: 허깅 페이스 설치 transformers 라이브러리를 설치하려면 다음 명령어를 사용하여 설치하세요:

pip install transformers

모델 로드사용 transformers 라이브러리가 선택한 OpenReasoning-Nemotron 모델을 로드합니다. 예를 들어 매개 변수가 7B인 모델이 로드됩니다:

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "nvidia/OpenReasoning-Nemotron-7B"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

추론 결과 생성: 모델을 사용하여 추론 결과를 생성합니다. 예를 들어 수학 문제에 대한 답을 생성할 수 있습니다:

input_text = "Solve the equation 2x + 3 = 7."
inputs = tokenizer(input_text, return_tensors="pt")
outputs = model.generate(**inputs, max_length=50)
result = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(result)

오픈추론-네모트론의 핵심 이점

강력한 추론수학, 과학 및 코드 추론 작업에 중점을 두고 다중 지능 협업과 뛰어난 수학적 성능을 기반으로 고품질 추론 솔루션을 제공합니다.
유연한 모델 크기이 시스템은 다양한 컴퓨팅 리소스와 작업 요구 사항을 충족하기 위해 1.5B, 7B, 14B, 32B의 네 가지 파라미터 크기로 제공됩니다.
고급 교육 기술대규모 데이터 증류 및 감독 미세 조정(SFT)을 기반으로 강화 학습(RL)을 사용하지 않아 후속 연구를 위한 탄탄한 기반을 제공했습니다.
효율적인 배포 및 사용빠른 로딩 및 사용을 위해 로컬 실행, LM Studio 배포 및 Hugging Face Hub와의 통합을 지원합니다.
강력한 기본 모델여러 영역의 복잡한 문제에 대한 추론과 해결책을 지원하는 강화 학습(RL) 연구를 위한 강력한 시작점을 제공합니다.
오픈 소스 및 커뮤니티 지원오픈 소스 모델로서 사용자는 코드에 무료로 액세스할 수 있으며, 허깅 페이스 커뮤니티의 풍부한 리소스와 지원을 받을 수 있습니다.