DeepSeek-R1 기반 WeChat 지능형 챗봇의 Windows 네이티브 배포

14.1K 00

새해 복 많이 받으세요! 여러분 모두 새해 인사드립니다! 최근 제 친구 서클은 DeepSeek-R1 자체 개발한 오픈 소스 모델인 DeepSeek에 대해 들어보셨을 겁니다! 국내 오픈 소스 모델인 DeepSeek에 대해 들어보셨을 거라고 생각합니다. 온라인에서 DeepSeek-R1을 로컬로 배포하는 방법에 대한 튜토리얼이 꽤 많이 나왔는데, 오늘은 실제 예제와 함께 DeepSeek-R1이 얼마나 강력한지 직접 체험해 보도록 하겠습니다! 첫 번째 단계는 DeepSeek-R1을 사용하여 로컬 환경에 새 시스템을 배포하는 것입니다!

이번 호에서는 주로 로컬 DeepSeekR1을 사용하여 WeChat에 액세스하여 WeChat 지능형 챗봇을 구현하는 방법을 공유합니다! 구현 단계는 크게 세 부분으로 나뉘는데, Ollama의 로컬 배포, WeChat 액세스, 구성 수정입니다.

액세스 효과는 다음과 같습니다! 모두 현지화되었습니다! DeepSeek의 API에 액세스할 필요가 없습니다.

전체 과정은 어렵지 않으며 약 10분 정도 걸립니다. 복잡한 작업은 모두 캡슐화했기 때문에 다운로드하고 설치 및 실행하기만 하면 됩니다!

DeepSeek-R1의 로컬 배포

먼저 DeepSeek-R1을 로컬에 배포해야 합니다. DeepSeek-R1을 로컬에 설치할 수 없는 경우 다음 단계로 이동하세요:무료 GPU 성능으로 딥시크-R1 오픈 소스 모델을 온라인으로 배포하기

1.5B, 7B, 8B 등은 실제 R1이 아닌 R1 추론에 의해 향상된 Qwen / llama의 "증류"버전이며, 순혈 R1이 아니라는 것을 간단히 이해할 수 있으며 경험은 Qwen2.5-1.5B 또는 llama + R1이 혼합되어 있음을 알 수 있습니다. 671B 풀 볼륨 버전은 실제 R1이며, 물론 일반 소비자 그래픽 카드는 671B 풀 볼륨 버전을 사용할 수 없으므로 먼저 증류 된 버전을 사용하여 플레이하십시오.

올라마 설치

여기서는 네트워크 드라이브에 설치한 Ollama라는 도구를 사용하거나 공식 웹사이트에서 다운로드할 수 있습니다.

공식 웹사이트

https://ollama.com/

윈도우 버전 다운로드(현재 위챗의 제한으로 인해 윈도우 플랫폼만 지원합니다.)

설치 및 모델 경로 설정

설치 프로그램을 열어 설치합니다. 기본적으로 C 드라이브에 설치됩니다. 명령줄에서 다음과 같이 입력하면 됩니다./DIR=를 클릭하여 설치 경로를 지정합니다.

OllamaSetup.exe /DIR="D:ollama"

이미 C 드라이브에 Ollama를 설치했지만 설치 디렉터리를 변경하려는 경우.

이 경로를 다음과 같이 설정합니다.Ollama폴더를 설치하려는 디렉터리로 이동합니다.

C:Users你的用户名AppDataLocalProgramsOllama

예를 들어

E:Ollama

이사할 때 다음과 같은 문제가 발생할 수 있는데, 이는 설치 후Ollama기본적으로 이미 시작되어 있습니다.

작업 관리자에서 찾아야 합니다.Ollama노래로 응답ollama.exe두 프로세스 모두에서 마우스 오른쪽 버튼으로结束任务. 먼저 닫아야 합니다.Ollama다시 닫기ollama.exe.

그런 다음 환경 변수를 변경해야 합니다.

설정-고급 시스템 설정-환경 변수-경로 찾기를 열고 두 번 클릭하여 편집합니다.

C 드라이브에서 이 파일을 찾습니다.Ollama트레일

지정한 디렉토리로 변경

새 사용자 변수 추가OLLAMA_MODELS다운로드한 모델이 저장되는 위치이며, 설정하지 않으면 기본적으로 C 드라이브의 사용자 폴더에 저장됩니다.

위의 모든 설정이 완료되면 명령줄에 다음과 같이 입력합니다.ollama -v작동하는지 확인합니다.

모델 다운로드

https://ollama.com/library/deepseek-r1:1.5b

페이지로 이동하여 현재 R1에서 사용 가능한 모든 모델을 확인하세요.

모델을 실행하는 데 필요한 해당 비디오 메모리는 다음과 같습니다.

딥시크릿-R1:1.5B - 1-2G 비디오 메모리
deepseek-r1:7b - 6-8G 비디오 메모리
deepseek-r1:8b - 8G 비디오 메모리
deepseek-r1:14b - 10-12G 비디오 메모리
deepseek-r1:32b - 24G-48 비디오 메모리
deepseek-r1:70b - 96G-128 비디오 메모리
deepseek-r1:671b - 496GB 이상의 비디오 메모리가 필요합니다!

컴퓨터의 구성에 따라 해당 모델을 선택하고 명령줄에 명령을 붙여넣고 실행하면 모델이 자동으로 다운로드됩니다. 예를 들어, 제가 여기서 실행한 것은 다음과 같습니다.ollama run deepseek-r1:14b

또한 웹 디렉토리에 1.5B 모델과 14B 모델을 준비했는데, 인터넷 연결 상태가 좋지 않은 경우 모델을 모델 경로에 직접 압축을 풀고 실행하면 다시 사용할 필요가 없습니다!ollama다운로드.

WeChat에 액세스하기 위한 BOT 배포

이 단계를 수행했다면 성공에 가까워진 것입니다! 나머지 단계는 매우 간단합니다!

우리는NGCBot이 프로젝트는 지역DeepSeekWeChat에 액세스

프로젝트 주소:

https://github.com/ngc660sec/NGCBot

원래 프로젝트는 쉰페이 스타파이어, 키미, gpt, 딥시크 등과 같은 플랫폼의 API에 대한 액세스를 지원합니다.그러나 로컬 DeepSeek 액세스가 지원되지 않기 때문에 오픈 소스 코드를 사용하여 원본 프로젝트를 다음과 같이 수정했습니다!유지 보수에 참여하실 수 있습니다!

로컬 딥서치 지원
쉴드 생각
상황에 맞는 대화 지원

넷북을NGCBot.zip포장 풀기

런처의 압축을 풀고 더블클릭하여 프로젝트를 엽니다.

프로젝트가 자동으로 WeChat을 열면 이 시점에서 메시지가 표시됩니다:只支持64位微信또는当前微信版本不支持

컴퓨터에 설치된 WeChat의 버전이 너무 최신 버전이기 때문입니다.NGCBot특정 버전을 설치해야 합니다.

준비해 둔 버전의 WeChat을 설치하고NGCBot프로젝트에서 스와이프하여 WeChat에 로그인하면 완료!

이니시에이터에 다음과 같은 메시지가 표시되면 서비스가 성공적으로 초기화되었음을 증명합니다.

이 시점에서 로그인한 WeChat에 메시지를 전송하여 테스트합니다.

완료!

BOT 구성 수정하기

아니, 로봇이 끝났어요! 너무 기뻐하지 마세요! 한 가지 더 알아야 할 것이 있습니다.NGCBot구성 설정!

쇼(티켓)NGCBot프로젝트 루트 디렉토리에 있습니다.Config/Config.yaml논문

여기에서는 필요한 두 가지 설정만 설명하며, 나머지는 공식 세부 정보를 확인하실 수 있습니다.

첫 번째는 수정입니다.超级管理员配置를 클릭하고 여기에 다른 웨이보인 관리자 웨이보의 아이디를 입력합니다.

아이디는 다른 마이크로 신호에서 로봇으로 전송된 메시지를 이 마이크로 신호로 복사하여 얻을 수 있습니다.

두 번째는 다음을 수정하는 것입니다.localDeepSeeklowerdeepSeekmodel모델 이름

올라마를 설치한 모델이 여기에 채워집니다.

위의 단계를 완료했다면, 이제 로컬 버전의 DeepSeek-R1 Microsoft 챗봇을 사용하게 된 것을 축하합니다.

이슈

질문: MAC에 액세스할 수 있나요?
A: 아니요.NGCBot이 프로젝트는 윈도우만 지원하지만 올라마는 배포할 수 있습니다.
질문: 항상 WeChat에 연결되어 있어야 하나요? 전원을 끌 수 없나요?
A: 예, Windows 버전의 WeChat에 로그인하는 것과 동일하며 휴대폰은 정상적으로 채팅 할 수 있지만 컴퓨터를 끄면 정상적으로 실행할 수 없습니다. 지속적으로 실행하려면 클라우드 서버와 함께 배포하는 것이 좋습니다.
질문: 이전과 동일하나요?chatgpt-on-wechat차이점은 무엇인가요?
A: 프로토콜은 다르며, 얼마 전 마이크로 블로깅이chatgpt-on-wechat인터페이스를 사용하므로 현재 이 Hook 기반NGCBot프로젝트는 여전히 매우 안정적입니다.

통합 팩 획득

투시 랩 버전:

Quark: https://pan.quark.cn/s/bc26b60912da

바이두:https://pan.baidu.com/s/1QKFWV1tMti9s4m9K_HAPFg?pwd=428a

마지막에 쓰기

1년 전에 다음과 같은 비공개 메시지를 받았습니다.chatgpt-on-wechat이 프로젝트 인터페이스는 WeChat 관계자에 의해 차단되었으며, 원래는COZE공유.NGCBot이 프로젝트, 하하하DeepSeek-R1전반적으로! 그래서 . ...COZE는 일단 뒷전으로 미뤄두자! 모두 새해 복 많이 받으세요, 만두 먹으러 갈게요 .....