GaiaNet-Knoten: Installieren und betreiben Sie Ihren eigenen lokalen Modell-Online-Proxy-Dienst

Allgemeine Einführung

GaiaNet-AI/gaianet-node ist ein Open-Source-Projekt, das es Nutzern ermöglicht, den Standardknoten-Software-Stack mit einem einzigen Befehl auf Mac, Linux oder Windows WSL schnell zu installieren. Nutzer können den Knoten initialisieren, seine Konfiguration anpassen, Modelldateien und Vektordatenbankdateien herunterladen und dann den KI-Agenten-Knoten starten. Das Projekt zielt darauf ab, eine flexible und einfach zu bedienende Plattform bereitzustellen, die es den Nutzern ermöglicht, ihre eigenen KI-Agentendienste zu betreiben und zu verwalten.

Der Grund für die Erfassung dieses Elements ist, dass ollama nicht direkt in Cursor konfiguriert werden kann, es sei denn, der Agent wird über ollama hinzugefügt (Möglichkeiten zum Hinzufügen von Proxys), oder einen stärker lokalisierten Ansatz wählencurxyEs ist immer noch ein bisschen mühsam.

Hier verwende ich yi-coder, um es lokal mit nur 3 Befehlen auszuführen:

1.curl -sSfL 'https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh' | bash

2. gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/yi-coder-9b-chat/config.json

3. gaianet start

Sie erhalten dann eine HTTPS-URL wie diese https://NODE-ID.us.gaianet.network.

In der Zwischenzeit können Sie Ihren Browser für `http://localhost:8080` öffnen, um Fragen zur Programmierung zu stellen.

Funktionsliste

• Schnellinstallation Node Software Stack
• Initialisierung der Knoten und Herunterladen der erforderlichen Modelldateien und Vektordatenbankdateien
• Anpassen der Profile an unterschiedliche Nutzungsszenarien
• Starten und Stoppen von AI-Agenten-Knoten
• Mehrsprachige Unterstützung, einschließlich Chinesisch, Japanisch, Russisch usw.

Hilfe verwenden

Einbauverfahren

1. Laden Sie das Installationsskript herunter und führen Sie es aus: Geben Sie den folgenden Befehl in das Terminal ein, um das Installationsskript herunterzuladen und auszuführen:

   curl -sSfL https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh | bash
   

   Mit diesem Befehl wird die Installation standardmäßig auf dem$HOME/gaianetVerzeichnis. Sie können auch in andere Verzeichnisse installieren:

   curl -sSfL https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh | bash -s -- --base $HOME/gaianet.alt
   

2. Initialisierung von Knotenpunkten: Führen Sie den folgenden Befehl aus, um den Knoten zu initialisieren:

   gaianet init
   

   Dieser Befehl basiert auf dem$HOME/gaianet/config.jsonDatei, um den Knoten zu initialisieren. Sie können z. B. einige voreingestellte Konfigurationen verwenden:

   gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/llama-3-8b-instruct_london/config.json
   

   Um eine Liste der voreingestellten Konfigurationen zu sehen, können Sie diese ausführen:

   gaianet init --help
   

3. Boot-Knoten: Führen Sie den folgenden Befehl aus, um den Knoten zu starten:

   gaianet start
   

   Wenn das Skript gestartet wird, gibt es die offizielle Knotenadresse auf der Konsole aus. Sie können diese URL in einem Browser öffnen, um Knoteninformationen anzuzeigen und mit dem KI-Agenten auf dem Knoten zu interagieren.

4. Halteknoten: Führen Sie den folgenden Befehl aus, um den Knoten anzuhalten:

   gaianet stop
   

Leitlinien für die Verwendung

• Konfigurationsdatei: Sie können dies tun, indem Sie die Datei$HOME/gaianet/config.jsonDatei benutzerdefinierte Knotenkonfiguration. Diese Datei enthält Informationen wie die Pfade zu den Modelldateien und Vektordatenbankdateien.
• Unterstützung mehrerer SprachenDas Projekt bietet mehrsprachige Unterstützung, Sie finden sie in derREADMEAnleitungen in Chinesisch, Japanisch, Russisch und anderen Sprachen sind in dem Dokument zu finden.
• Verwaltung der KnotenpunkteMit den Befehlszeilentools können Sie das Starten und Stoppen von Knoten sowie Konfigurationsaktualisierungen einfach verwalten.