Ein gutes neues Jahr! Ich grüße Sie alle! In letzter Zeit hat sich mein Freundeskreis DeepSeek-R1 Ich bin sicher, Sie haben alle über DeepSeek, unsere hausgemachte Open-Source-Modell gehört! Ich glaube, Sie haben von unserem heimischen Open-Source-Modell gehört - DeepSeek. Online über die lokale Bereitstellung von DeepSeek-R1 Tutorials haben eine ganze Menge gewesen, heute lassen Sie uns etwas anderes tun, kombiniert mit praktischen Beispielen, Hand in Hand, um Sie zu nehmen, um DeepSeek-R1 spielen, sehen, wie mächtig es wirklich ist! Der erste Schritt ist, DeepSeek-R1 zu verwenden, um ein neues System in einer lokalen Umgebung bereitzustellen!
In dieser Ausgabe geht es hauptsächlich darum, wie man mit dem lokalen DeepSeekR1 auf WeChat zugreift, um einen intelligenten Chatbot für WeChat zu erstellen! Die Implementierungsschritte sind in drei große Teile unterteilt: lokale Bereitstellung von Ollama, Zugang zu WeChat, ändern Sie die Konfiguration.
Hier ist die Wirkung des Zugangs! Alles lokalisiert! Kein Zugriff auf DeepSeek's api nötig.
Der gesamte Vorgang ist nicht schwierig und dauert etwa 10 Minuten. Ich habe die ganze Komplexität der Arbeit gekapselt, so dass alles, was Sie tun müssen, ist es herunterzuladen und einfach installieren und ausführen!
Lokaler Einsatz von DeepSeek-R1
Zuerst müssen Sie DeepSeek-R1 lokal installieren. Wenn Sie DeepSeek-R1 nicht lokal installieren können, fahren Sie bitte mit dem nächsten Schritt fort:Online-Einsatz des Open-Source-Modells DeepSeek-R1 mit kostenloser GPU-Leistung
Es sollte beachtet werden, dass die 1.5B, 7B, 8B und so weiter die "destillierten" Versionen von Qwen/llama sind, die durch die R1 Argumentation verbessert werden, nicht das echte R1, Sie können einfach verstehen, dass es kein reinrassiges R1 ist, und die Erfahrung ist eine Mischung aus Qwen2.5-1.5B oder llama+R1. Die 671B-Vollversion ist das echte R1, natürlich ist unsere allgemeine Consumer-Grafikkarte nicht in der Lage, die 671B-Vollversion zu verarbeiten, also verwenden Sie zunächst die destillierte Version zum Spielen.
Installation von Ollama
Hier verwenden wir das Tool Ollama, das ich auf meinem Netzlaufwerk abgelegt habe, oder Sie können es von der offiziellen Website herunterladen.
offizielle Website
https://ollama.com/
Download Windows-Version (hier zu sagen, zur Zeit aufgrund der Beschränkungen von WeChat, den Zugang zu WeChat, nur Unterstützung Windows-Plattform)
Einstellung der Installations- und Modellpfade
Öffnen Sie das Installationsprogramm zur Installation. Standardmäßig wird es auf Laufwerk C installiert. Sie können dies tun, indem Sie in der Befehlszeile Folgendes eingeben/DIR=
um den Installationspfad anzugeben.
OllamaSetup.exe /DIR="D:ollama"
Wenn Sie Ollama bereits auf Ihrem Laufwerk C installiert haben, aber das Installationsverzeichnis ändern möchten.
Wenn Sie diesen Pfad aufOllama
Verschieben Sie den Ordner in das Verzeichnis, in dem Sie installieren möchten
C:BenutzerIhr BenutzernameAppDatenLokaleProgrammeOllama
zum Beispiel
E:Ollama
Beim Umzug kann folgendes Problem auftreten, das darauf zurückzuführen ist, dass nach der Installation derOllama
Sie ist bereits standardmäßig gestartet.
Es muss im Task-Manager gefunden werdenOllama
im Gesang antwortenollama.exe
Für beide Prozesse klicken Sie mit der rechten Maustaste aufEnde des Mandats
. Sie muss zuerst geschlossen werdenOllama
Wiederverschließungollama.exe
.
Als nächstes müssen Sie die Umgebungsvariablen ändern
Öffnen Sie Einstellungen-Erweiterte Systemeinstellungen-Umgebungsvariablen-Pfad suchen, doppelklicken Sie zum Bearbeiten.
Diese befindet sich auf dem Laufwerk C.Ollama
Pfade
Wechseln Sie in das von Ihnen angegebene Verzeichnis
Eine neue Benutzervariable hinzufügenOLLAMA_MODELLE
Dies ist der Ort, an dem das heruntergeladene Modell gespeichert wird. Wenn Sie dies nicht festlegen, wird es standardmäßig im Benutzerordner auf Laufwerk C gespeichert.
Sobald alles eingerichtet ist, geben Sie in der Befehlszeile Folgendes einollama-v
Überprüfen Sie, ob es funktioniert hat.
Modelle herunterladen
https://ollama.com/library/deepseek-r1:1.5b
Gehen Sie auf die Seite, um alle derzeit verfügbaren Modelle für den R1 zu sehen
Hier ist der entsprechende Videospeicher, der für die Ausführung des Modells benötigt wird.
- deepseek-r1:1.5b - 1-2G Videospeicher
- deepseek-r1:7b - 6-8G Grafikspeicher
- deepseek-r1:8b - 8G Videospeicher
- deepseek-r1:14b - 10-12G Videospeicher
- deepseek-r1:32b - 24G-48 Videospeicher
- deepseek-r1:70b - 96G-128 Videospeicher
- deepseek-r1:671b - benötigt 496GB Videospeicher oder mehr!
Wählen Sie das entsprechende Modell entsprechend der Konfiguration Ihres Computers aus, fügen Sie den Befehl in die Befehlszeile ein und führen Sie ihn aus, das Modell wird automatisch heruntergeladen. Ich habe zum Beispiel den folgenden Befehl ausgeführtollama run deepseek-r1:14b
Ich habe auch ein 1,5B-Modell und ein 14B-Modell im Webverzeichnis vorbereitet. Wenn Sie keine gute Internetverbindung haben, können Sie das Modell direkt in Ihren Modellpfad entpacken und ausführen, Sie müssen es nicht noch einmal verwenden!ollama
Herunterladen.
Einsatz von BOT für den Zugriff auf WeChat
Wenn Sie diesen Schritt durchgeführt haben, sind Sie dem Erfolg näher gekommen! Die restlichen Schritte sind sehr einfach!
Wir müssen dieNGCBot
Dieses Projekt zur Förderung der lokalenDeepSeek
Zugang zu WeChat
Adresse des Projekts:
https://github.com/ngc660sec/NGCBot
Das ursprüngliche Projekt unterstützt den Zugriff auf die API von Plattformen wie Xunfei Starfire, kimi, gpt, deepseek und so weiter.Da aber der lokale DeepSeek-Zugang nicht unterstützt wird, habe ich die folgenden Änderungen am Originalprojekt vorgenommen und Open Source!Sie sind herzlich eingeladen, sich an der Wartung zu beteiligen!
- Unterstützung für lokale Deepseek
- Schild denken
- Unterstützung des kontextuellen Dialogs
Stellen Sie das Netbook in dieNGCBot.zip
Auspacken
Entpacken Sie die Datei und doppelklicken Sie auf den Launcher, um das Projekt zu öffnen.
Das Projekt öffnet automatisch Ihr WeChat, das Sie an dieser Stelle auffordert:Unterstützt nur 64-bit WeChat
oderVon der aktuellen WeChat-Version nicht unterstützt
Das liegt daran, dass die auf unseren Computern installierte Version von WeChat zu neu ist.NGCBot
Es muss eine bestimmte Version installiert werden.
Installieren Sie die von mir vorbereitete Version von WeChat und öffnen Sie erneut dieNGCBot
Projekt, wischen, um sich bei WeChat anzumelden, fertig!
Wenn auf dem Initiator folgendes angezeigt wird, beweist dies, dass der Dienst erfolgreich initialisiert wurde.
Zu diesem Zeitpunkt senden wir eine Nachricht an den angemeldeten WeChat-Nutzer, um ihn zu testen.
Erledigt!
Ändern Sie die BOT-Konfiguration
Nein, der Roboter ist fertig! Freu dich doch nicht so! Es gibt noch etwas, das du wissen musst.NGCBot
Konfigurationseinstellungen!
zeigen (eine Eintrittskarte)NGCBot
im Stammverzeichnis des Projekts.Config/Config.yaml
Papiere
Hier werden nur zwei notwendige Einstellungen beschrieben, den Rest können Sie in den offiziellen Details nachlesen.
Die erste ist eine ÄnderungSuperadministrator-Konfiguration
Geben Sie hier die ID Ihres anderen Weibo ein, das Admin Weibo.
Die ID kann durch Kopieren einer Nachricht, die von einem anderen Mikrosignal an den Bot gesendet wurde, in dieses Mikrosignal ermittelt werden.
Die zweite Möglichkeit besteht darin, dielocalDeepSeek
unterdeepSeekmodel
Der Name des Modells in der Datei
Welches Modell Sie mit ollama installiert haben, wird hier eingetragen.
Nachdem Sie die oben genannten Schritte durchgeführt haben, können wir Ihnen gratulieren: Sie haben eine lokale Version von DeepSeek-R1 microsoft chatbot.
Ausgaben
- F: Kann auf den MAC zugegriffen werden?
- A: Nein.
NGCBot
Das Projekt unterstützt nur Windows, aber Ollama kann eingesetzt werden. - F: Muss ich die ganze Zeit mit WeChat verbunden sein? Kann ich es nicht abschalten?
- A: Ja, es entspricht dem Einloggen in die Windows-Version von WeChat, das Mobiltelefon kann normal chatten, aber es kann sicher nicht normal laufen, wenn der Computer ausgeschaltet ist. Wenn Sie es kontinuierlich laufen lassen wollen, empfiehlt es sich, es auf einem Cloud-Server einzusetzen.
- F: Ist dies dasselbe wie das vorherige
chatgpt-on-wechat
Was ist der Unterschied? - A: Die Protokolle sind unterschiedlich, und vor einiger Zeit umhüllte der Mikrofilm die
chatgpt-on-wechat
Schnittstelle verwendet, so dass derzeit diese Hook-basierteNGCBot
Das Projekt ist nach wie vor sehr stabil.
Erwerb des Integrationspakets
am Ende schreiben
Ich habe vor einem Jahr eine private Nachricht erhalten, in der standchatgpt-on-wechat
Diese Projektschnittstelle wurde von WeChat-Beamten blockiert und sollte mit demCOZE
Teilen.NGCBot
Dieses Projekt, hahaha genau richtigDeepSeek-R1
Auf der ganzen Linie! Und so . ...COZE legen wir das erst mal auf Eis! Frohes neues Jahr an alle, ich gehe jetzt Knödel essen .....