Ollama Installation und Konfiguration - Linux Systeme

kurz

In diesem Abschnitt erfahren Sie, wie Sie die Ollama Installation und Konfiguration sowie Updates von Ollama, Installation bestimmter Versionen, Anzeige von Protokollen und Deinstallation.

I. Schnelle Installation

Ollama Herunterladen: https://ollama.com/download

Die offizielle Homepage von Ollama: https://ollama.com

Ollama offizielles GitHub Quellcode-Repository: https://github.com/ollama/ollama/

Die offizielle Website bietet eine Befehlszeilen-Schnellinstallation.

curl -fsSL https://ollama.com/install.sh | sh

Dieser Befehl lädt automatisch die neueste Version von Ollama herunter und schließt die Installation ab. Die folgenden Befehle werden von Ollama häufig verwendet:

ollama servieren # ollama starten
ollama create # Modell aus Modelldatei erstellen
ollama show # zeigt Modellinformationen an
ollama run # führt das Modell aus
ollama pull # Modell aus der Registry ziehen
ollama push # Pusht das Modell in die Registry
ollama list # listet Modelle auf
ollama cp # kopiert das Modell
ollama rm # Modell löschen
ollama help 1TP5Hilfeinformationen zu einem beliebigen Befehl abrufen

• Überprüfen Sie, ob die Installation abgeschlossen ist, im Exec Eingabe unter:

ollama-h

Die Ausgabe sieht wie folgt aus: Das bedeutet, dass die Installation erfolgreich ist🎉.

• Ollama aktivieren und verwenden

Öffnen Sie zunächst Ollama im Terminal und hängen Sie es in den Hintergrund

ollama dienen

Bibliothek (ollama.com)Hier ist die Modellbibliothek von Ollama, suchen Sie das gewünschte Modell, öffnen Sie ein neues Terminal und starten Sie!

ollama run llama3

Die Download-Geschwindigkeit hängt von Ihrer Bandbreite ab und ist einsatzbereit ✌Denken Sie daran, die Kontrolle + D Chat beenden

II. manuelle Installation

Hinweis: Wenn eine ältere Version von ollama bereits installiert war, müssen Sie eine manuelle Deinstallation durchführen.sudo rm -rf /usr/lib/ollama Weitere Anforderungen 👉Referenzenoffizielle Website

2.1 Laden Sie das für Ihr Betriebssystem geeignete Installationspaket herunter und entpacken Sie es.

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

AMD-GPUHerunterladen:

curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz

ARM 64Herunterladen:

curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz
sudo tar -C /usr -xzf ollama-linux-arm64.tgz

2.2 Ollama starten und überprüfen

Geben Sie den folgenden Befehl ein, um Ollama zu starten:

ollama dienen

Überprüfen Sie, ob ollama erfolgreich läuft, indem Sie ein anderes Terminal öffnen und den folgenden Befehl eingeben

ollama-v

2.3 Hinzufügen von Ollama als selbststartender Dienst (empfohlen)

Erstellen Sie zunächst Benutzer und Gruppen für Ollama:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

Dann in dieser Position:/etc/systemd/system/ollama.service Erstellen einer Servicedatei

[Einheit]
Beschreibung=Ollama Service
Nach=network-online.target
[Dienst]
ExecStart=/usr/bin/ollama serve
Benutzer=ollama
Gruppe=ollama
Neustart=immer
NeustartSec=3
Umgebung="PATH=$PATH"
[Installieren]
WantedBy=default.target

Starten Sie schließlich den Dienst:

sudo systemctl daemon-reload
sudo systemctl enable ollama

III. Aktualisierungen

Führen Sie die vorherige Installationsanweisung erneut aus, um Ollama zu aktualisieren:

curl -fsSL https://ollama.com/install.sh | sh

Oder laden Sie das aktuelle Ollama-Paket erneut herunter:

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

IV. die Installation bestimmter Versionen

aufstellen OLLAMA_VERSIONFelder,, Sie können die entsprechende Version installieren

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

V. Einsicht in das Protokoll

Sehen Sie sich die Protokolle von Ollama an, das als Startdienst läuft:

journalctl -e -u ollama

VI. Deinstallation

• Löschen Sie den Ollama-Dienst:

sudo systemctl ollama anhalten
sudo systemctl deaktivieren ollama
sudo rm /etc/systemd/system/ollama.service

• Entfernen Sie die Ollama-Binärdateien aus dem bin-Verzeichnis: /usr/local/bin ,/usr/bin ,/bin

sudo rm $ (welches ollama)

• Löschen Sie heruntergeladene Modelle sowie Benutzer und Gruppen von Ollama-Diensten:

sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama

• Heruntergeladene Bibliotheksdateien löschen

sudo rm -rf /usr/local/lib/ollama