DeepSeek-R1 WebGPU: 브라우저에서 로컬로 DeepSeek R1 1.5B를 실행하세요!

일반 소개

DeepSeek-R1 WebGPU는 웹GPU 기술을 활용하여 사용자가 브라우저에서 직접 복잡한 AI 모델을 실행할 수 있도록 해주는 Hugging Face Spaces 플랫폼에서 webml-community가 제공하는 최첨단 AI 추론 모델입니다. 이 모델은 DeepSeek-R1을 기반으로 하며 추론 작업을 위해 설계되어 효율적이고 현지화된 AI 처리 기능을 제공합니다. 사용자는 추가 소프트웨어를 설치할 필요 없이 브라우저에서 WebGPU 지원만 있으면 수학적 추론, 코드 생성 및 질문 답변과 같은 고급 AI 기능을 경험할 수 있어 교육, 연구 및 개발자에게 이상적입니다.

복지:무료 GPU 성능으로 딥시크-R1 오픈 소스 모델을 온라인으로 배포하기(API)

기능 목록

• 브라우저에서 AI 모델 실행다운로드할 필요 없이 최신 브라우저만 있으면 됩니다.
• WebGPU 가속 지원효율적인 연산과 성능 향상을 위해 GPU를 활용합니다.
• 멀티태스크 AI 추론수학, 코드 생성 및 복잡한 텍스트 이해 작업을 포함합니다.
• 대화형 채팅 인터페이스사용자가 인터페이스에서 직접 모델과 상호작용할 수 있습니다.
• 등록 필요 없음바로 사용할 수 있고 간소화된 사용자 환경.

도움말 사용

DeepSeek-R1 웹 GPU 사용 방법

호환성 확인 및 준비:
먼저, 브라우저에서 WebGPU를 지원하는지 확인하세요. 현재 가장 일반적으로 사용되는 브라우저는 Google Chrome(버전 88 이상)으로, WebGPU를 지원합니다. Chrome의 실험적 기능(chrome://flags/)을 방문하여 WebGPU를 활성화하면 이를 확인할 수 있습니다.

웹사이트를 방문하세요:

1. 브라우저를 열고 다음 위치로 이동합니다.얼굴 공간 안아주기.
2. 페이지가 로드되면 입력 상자와 출력 영역이 포함된 깔끔한 사용자 인터페이스가 표시됩니다.

모델을 사용한 추론:

• 질문 또는 작업 입력입력 상자에 모델이 처리할 문제나 작업을 입력합니다. 수학 문제, 프로그래밍 코드 생성 또는 텍스트 추론이 필요한 모든 작업이 여기에 해당될 수 있습니다.
  • 입력 예시:计算1000阶乘的最后一位数字 어쩌면 编写一个Python函数来计算斐波那契数列.
• 위임장 제출보내기 버튼을 클릭하거나 Enter 키를 눌러 입력 내용을 제출합니다. 모델이 요청 처리를 시작하며, 작업의 복잡성에 따라 몇 초 정도 걸릴 수 있습니다.
• 결과 보기: 결과가 출력 영역에 표시됩니다. 모델은 작업의 성격에 따라 자세한 단계 또는 직접적인 결과를 제공합니다.

경험을 최적화하세요:

• 모델 매개변수 조정현재 인터페이스는 비교적 단순하지만 향후에는 온도(생성된 텍스트의 무작위성 제어) 또는 최대 응답 길이와 같은 매개변수 조정 옵션을 제공할 수 있습니다.
• 몇 번이고 다시 시도결과가 만족스럽지 않다면 질문을 조정하거나 다른 방식으로 자신을 표현해 볼 수 있습니다.

FAQ:

• 브라우저가 WebGPU를 지원하지 않는다면 어떻게 하나요? - 브라우저를 업데이트하거나 최신 버전의 Chrome과 같은 WebGPU 지원 브라우저를 사용하는 것이 좋습니다.
• 모델 응답이 너무 느린가요? - 인터넷 연결 상태가 양호하고 브라우저의 GPU 설정이 비활성화되어 있지 않은지 확인하세요.

주의:

• 모델은 브라우저 내에서 실행되므로 출력 품질과 속도는 기기 성능 및 네트워크 상태에 따라 영향을 받을 수 있습니다.
• 모든 온라인 AI 모델의 사용에는 해당 모델의 이용약관 및 개인정보처리방침이 적용됩니다.

DeepSeek-R1 WebGPU 배포 튜토리얼

DeepSeek R1 웹 GPU는 허깅 페이스 기반의 Transformers.js DeepSeek R1 WebGPU는 브라우저에서 딥 러닝 모델을 효율적으로 실행하는 방법을 보여주기 위해 설계된 딥 러닝 모델 예제입니다. 이 프로젝트는 WebGPU 기술을 활용하여 WASM보다 최대 100배 빠른 훨씬 빠른 모델 추론을 가능하게 합니다. DeepSeek R1 WebGPU는 주로 자연어 처리 작업에 사용되며 서버 없이 브라우저에서 직접 실행할 수 있는 다양한 사전 훈련된 모델을 지원합니다.

시작하기
아래 단계에 따라 애플리케이션을 설정하고 실행하세요.

1. 복제 리포지토리
   GitHub에서 예제 리포지토리를 복제합니다:

git clone https://github.com/huggingface/transformers.js-examples.git

2. 프로젝트 디렉토리로 이동
   작업 디렉터리를 deepseek-r1-webgpu 폴더로 전환합니다:

cd transformers.js-examples/deepseek-r1-webgpu

3. 종속성 설치
   npm을 사용하여 필요한 종속 요소를 설치합니다:

npm i

4. 개발 서버 실행
   개발 서버를 시작합니다:

npm run dev

이제 애플리케이션이 로컬에서 실행되고 있을 것입니다. 브라우저를 열고 다음을 방문합니다. http://localhost:5173 보기를 만듭니다.