AI Personal Learning
und praktische Anleitung
CyberKnife-Zeichenspiegel

Ollama Installation und Konfiguration - Linux Systeme

kurz

In diesem Abschnitt erfahren Sie, wie Sie die Ollama Installation und Konfiguration sowie Updates von Ollama, Installation bestimmter Versionen, Anzeige von Protokollen und Deinstallation.

I. Schnelle Installation

Ollama Herunterladen: https://ollama.com/download

Die offizielle Homepage von Ollama: https://ollama.com


Ollama offizielles GitHub Quellcode-Repository: https://github.com/ollama/ollama/

Die offizielle Website bietet eine Befehlszeilen-Schnellinstallation.

Ollama Installation und Konfiguration - Linux System-1

curl -fsSL https://ollama.com/install.sh | sh

Ollama Installation und Konfiguration - Linux System-2

Dieser Befehl lädt automatisch die neueste Version von Ollama herunter und schließt die Installation ab. Die folgenden Befehle werden von Ollama häufig verwendet:

ollama servieren # ollama starten
ollama create # Modell aus Modelldatei erstellen
ollama show # zeigt Modellinformationen an
ollama run # führt das Modell aus
ollama pull # Modell aus der Registry ziehen
ollama push # Pusht das Modell in die Registry
ollama list # listet Modelle auf
ollama cp # kopiert das Modell
ollama rm # Modell löschen
ollama help 1TP5Hilfeinformationen zu einem beliebigen Befehl abrufen
  • Überprüfen Sie, ob die Installation abgeschlossen ist, im Exec Eingabe unter:
ollama-h

Die Ausgabe sieht wie folgt aus: Das bedeutet, dass die Installation erfolgreich ist🎉.

Ollama Installation und Konfiguration - Linux System-3

  • Ollama aktivieren und verwenden

Öffnen Sie zunächst Ollama im Terminal und hängen Sie es in den Hintergrund

ollama dienen

Ollama Installation und Konfiguration - Linux System-4

Bibliothek (ollama.com)Hier ist die Modellbibliothek von Ollama, suchen Sie das gewünschte Modell, öffnen Sie ein neues Terminal und starten Sie!

ollama run llama3

Die Download-Geschwindigkeit hängt von Ihrer Bandbreite ab und ist einsatzbereit ✌Denken Sie daran, die Kontrolle + D Chat beenden

Ollama Installation und Konfiguration - Linux System-5

II. manuelle Installation

Hinweis: Wenn eine ältere Version von ollama bereits installiert war, müssen Sie eine manuelle Deinstallation durchführen.sudo rm -rf /usr/lib/ollama Weitere Anforderungen 👉Referenzenoffizielle Website

2.1 Laden Sie das für Ihr Betriebssystem geeignete Installationspaket herunter und entpacken Sie es.

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

AMD-GPUHerunterladen:

curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz

ARM 64Herunterladen:

curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz
sudo tar -C /usr -xzf ollama-linux-arm64.tgz

2.2 Ollama starten und überprüfen

Geben Sie den folgenden Befehl ein, um Ollama zu starten:

ollama dienen

Überprüfen Sie, ob ollama erfolgreich läuft, indem Sie ein anderes Terminal öffnen und den folgenden Befehl eingeben

ollama-v

2.3 Hinzufügen von Ollama als selbststartender Dienst (empfohlen)

Erstellen Sie zunächst Benutzer und Gruppen für Ollama:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

Dann in dieser Position:/etc/systemd/system/ollama.service Erstellen einer Servicedatei

[Einheit]
Beschreibung=Ollama Service
Nach=network-online.target
[Dienst]
ExecStart=/usr/bin/ollama serve
Benutzer=ollama
Gruppe=ollama
Neustart=immer
NeustartSec=3
Umgebung="PATH=$PATH"
[Installieren]
WantedBy=default.target

Starten Sie schließlich den Dienst:

sudo systemctl daemon-reload
sudo systemctl enable ollama

III. Aktualisierungen

Führen Sie die vorherige Installationsanweisung erneut aus, um Ollama zu aktualisieren:

curl -fsSL https://ollama.com/install.sh | sh

Oder laden Sie das aktuelle Ollama-Paket erneut herunter:

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

IV. die Installation bestimmter Versionen

aufstellen OLLAMA_VERSIONFelder,, Sie können die entsprechende Version installieren

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

V. Einsicht in das Protokoll

Sehen Sie sich die Protokolle von Ollama an, das als Startdienst läuft:

journalctl -e -u ollama

VI. Deinstallation

  • Löschen Sie den Ollama-Dienst:
sudo systemctl ollama anhalten
sudo systemctl deaktivieren ollama
sudo rm /etc/systemd/system/ollama.service
  • Entfernen Sie die Ollama-Binärdateien aus dem bin-Verzeichnis: /usr/local/bin ,/usr/bin ,/bin
sudo rm $ (welches ollama)
  • Löschen Sie heruntergeladene Modelle sowie Benutzer und Gruppen von Ollama-Diensten:
sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama
  • Heruntergeladene Bibliotheksdateien löschen
sudo rm -rf /usr/local/lib/ollama
CDN1
Darf nicht ohne Genehmigung vervielfältigt werden:Chef-KI-Austauschkreis " Ollama Installation und Konfiguration - Linux Systeme

Chef-KI-Austauschkreis

Der Chief AI Sharing Circle konzentriert sich auf das KI-Lernen und bietet umfassende KI-Lerninhalte, KI-Tools und praktische Anleitungen. Unser Ziel ist es, den Nutzern dabei zu helfen, die KI-Technologie zu beherrschen und gemeinsam das unbegrenzte Potenzial der KI durch hochwertige Inhalte und den Austausch praktischer Erfahrungen zu erkunden. Egal, ob Sie ein KI-Anfänger oder ein erfahrener Experte sind, dies ist der ideale Ort für Sie, um Wissen zu erwerben, Ihre Fähigkeiten zu verbessern und Innovationen zu verwirklichen.

Kontaktieren Sie uns
de_DE_formalDeutsch (Sie)