DeepSeek-R1 정식 버전을 무료로 사용하는 상위 5가지 AI 추론 플랫폼

과도한 트래픽과 사이버 공격으로 인해 며칠 동안 딥서치 웹사이트와 앱이 다운되고 API가 작동하지 않는 문제가 발생했습니다.

이전에는 DeepSeek-R1을 로컬에 배포하는 방법을 공유한 적이 있습니다(DeepSeek-R1 로컬 배포), 일반 사용자는 671b 풀 모델은커녕 70b 모델도 실행하기 어려운 하드웨어 구성으로 제한되어 있습니다.

다행히도 모든 주요 플랫폼에서 DeepSeek-R1을 이용할 수 있으므로, 평평한 대체품으로 사용해 볼 수 있습니다.

I. NVIDIA NIM 마이크로서비스

NVIDIA 빌드: 여러 AI 모델을 통합하고 무료로 경험해 보세요.
웹사이트: https://build.nvidia.com/deepseek-ai/deepseek-r1

NVIDIA는 전체 볼륨 파라미터 671B를 배포했습니다. DeepSeek-R1 모델, 웹 버전은 사용이 간단하며 클릭하면 채팅 창을 볼 수 있습니다:

오른쪽에는 코드 페이지도 있습니다:

간단히 테스트해 보세요:

채팅 상자 아래에서 일부 매개변수 항목을 켤 수도 있습니다(대부분의 경우 기본값으로 설정할 수 있음):

이러한 옵션의 대략적인 의미와 기능은 다음과 같습니다:

온도:
값이 높을수록 출력은 더 무작위로 생성되고 더 창의적인 응답이 생성될 수 있습니다.

상위 P(핵 샘플링):
값이 높을수록 더 많은 확률적 품질 토큰을 유지하고 더 많은 다양성을 생성합니다.

빈도 페널티:
값이 높을수록 빈도가 높은 단어에 더 많은 불이익을 주고 장황함이나 반복을 줄입니다.

출석 페널티:
값이 높을수록 모델이 새로운 단어를 시도하려는 경향이 강해집니다.

최대 토큰:
값이 높을수록 응답의 잠재적 길이가 길어집니다.

중지:
특정 문자나 시퀀스를 생성할 때 출력을 중지하여 너무 오래 생성되거나 토픽이 부족해지는 것을 방지합니다.

현재 화이트 존의 수가 증가함에 따라(아래 차트에서 대기열에 있는 사람의 수를 보세요) NIM이 다소 뒤처지고 있습니다:

NVIDIA도 그래픽 카드가 부족합니까?

NIM 마이크로서비스는 DeepSeek-R1에 대한 API 호출도 지원하지만 이메일 주소로 계정을 등록해야 합니다:

등록 절차는 이메일 인증만으로 비교적 간단합니다:

등록 후 채팅 인터페이스 오른쪽 상단의 "이 NIM으로 빌드"를 클릭하여 API KEY를 생성할 수 있으며, 현재 등록 시 1,000포인트(1,000개의 상호작용)가 제공되므로 모두 사용한 후 새 이메일 주소로 다시 등록할 수 있습니다.

NIM 마이크로서비스 플랫폼은 다른 많은 모델에 대한 액세스도 제공합니다:

II. Microsoft Azure

웹 사이트:
https://ai.azure.com

Microsoft Azure를 사용하면 채팅 플레이그라운드를 통해 챗봇을 만들고 모델과 상호 작용할 수 있습니다.

Azure는 가입하는 데 많은 어려움이 있으며, 먼저 Microsoft 계정을 만들어야 합니다(이미 계정이 있는 경우 로그인만 하면 됩니다):

계정을 만들려면 이메일 인증도 필요합니다:

10개의 네더월드 질문에 연속으로 답하여 자신이 인간임을 증명하는 것으로 마무리하세요:

여기로 오는 것만으로는 구독을 만들 수 없습니다:

휴대폰 번호와 은행 계좌 번호 및 기타 정보를 확인합니다:

다음으로 '기술 지원 없음'을 선택합니다:

여기에서 클라우드 배포를 시작할 수 있으며, '모델 카탈로그'에서 DeepSeek-R1 모델을 눈에 잘 띄게 볼 수 있습니다:

클릭한 후 다음 페이지에서 '배포'를 클릭합니다:

다음으로 '새 프로젝트 만들기'를 선택해야 합니다:

그런 다음 모두 기본값으로 설정하고 "다음"을 클릭합니다:

다음으로 '만들기'를 클릭합니다:

이 페이지에서 만들기가 시작되며 잠시 기다리는 데 시간이 걸립니다:

완료되면 이 페이지로 이동하여 '배포'를 클릭하여 다음 단계로 이동할 수 있습니다:

또한 위의 '가격 및 약관'을 확인하여 무료로 사용할 수 있음을 확인할 수 있습니다:

"배포"를 클릭하여 이 페이지를 계속 진행하면 "플레이그라운드에서 열기"를 클릭할 수 있습니다:

그러면 대화를 시작할 수 있습니다:

Azure에는 NIM과 유사한 매개 변수 조정 기능도 있습니다:

플랫폼으로서 배포할 수 있는 모델은 다양합니다:

이미 배포된 모델은 향후 왼쪽 메뉴의 'Playground' 또는 '모델 + 엔드포인트'를 통해 빠르게 액세스할 수 있습니다:

III. Amazon AWS

웹 사이트:
https://aws.amazon.com/cn/blogs/aws/deepseek-r1-models-now-available-on-aws

DeepSeek-R1도 눈에 띄는 기능과 라인업을 갖추고 있습니다.

Amazon AWS 등록 프로세스와 Microsoft Azure는 거의 번거롭고 결제 방법뿐만 아니라 전화 인증 + 음성 인증도 입력해야하므로 여기서는 자세히 설명하지 않습니다:

정확한 배포 프로세스는 Microsoft Azure와 거의 동일합니다:

IV. 뇌

Cerebras: 현재 사용 가능한 세계에서 가장 빠른 AI 추론, 고성능 컴퓨팅 플랫폼
웹사이트: https://cerebras.ai

여러 대형 플랫폼과 달리 Cerebras는 70b 모델을 사용하며, "GPU 솔루션보다 57배 빠르다"고 주장합니다:

이메일 등록을 입력하면 상단의 드롭다운 메뉴에서 DeepSeek-R1을 선택할 수 있습니다:

실제 속도는 주장만큼 과장된 것은 아니지만 실제로 더 빠릅니다:

V. Groq

Groq: AI 빅 모델 추론 가속화 솔루션 제공업체, 고속 무료 빅 모델 인터페이스
웹사이트: https://groq.com/groqcloud-makes-deepseek-r1-distill-llama-70b-available

이메일을 등록하고 입력하면 모델도 선택할 수 있습니다:

그것도 빠르긴 하지만, 다시 말하지만 70b는 세레브라보다 조금 더 느리게 느껴지나요?

채팅 인터페이스는 로그인한 상태에서 바로 액세스할 수 있다는 점에 유의하세요:
https://console.groq.com/playground?model=deepseek-r1-distill-llama-70b

전체 DeepSeek V3 및 R1 목록:

AMD

AMD Instinct™ GPU, DeepSeek-V3를 구동: SGLang을 통한 AI 개발의 혁신 (AMD Instinct™ GPU가 DeepSeek-V3를 구동: SGLang을 통한 AI 개발의 혁신)

NVIDIA

DeepSeek-R1 NVIDIA 모델 카드 (DeepSeek-R1 NVIDIA 모델 카드)

Microsoft Azure

단일 NDv5 MI300X VM에서 DeepSeek-R1 실행 (단일 NDv5 MI300X VM에서 DeepSeek-R1 실행)

기본 설정

https://www.baseten.co/library/deepseek-v3/

Novita AI

Novita AI는 OpenRouter용 DeepSeek-V3를 실행하는 SGLang을 사용합니다. (SGLang을 사용하여 OpenRouter용 DeepSeek-V3를 실행하는 Novita AI)

바이트댄스 볼크엔진

실물 크기의 딥시크 모델이 볼케이노 엔진에 출시되었습니다!

데이터 크런치

SGLang을 사용하여 8x NVIDIA H200에 DeepSeek-R1 671B 배포 (SGLang을 사용하여 8x NVIDIA H200에 DeepSeek-R1 671B 배포)

쌍곡선

https://x.com/zjasper666/status/1872657228676895185

Vultr

SGLang을 사용하여 Deepseek V3 대규모 언어 모델(LLM)을 배포하는 방법 (SGLang으로 배포하는 방법) Deepseek V3 LLM(대규모 언어 모델링))

RunPod

2025년 런팟에서 서버리스 LLM 사용의 새로운 점은 무엇인가요? (2025년 런팟에서 서버리스 LLM이 사용하는 새로운 기능은 무엇인가요?)