kurz
In diesem Abschnitt erfahren Sie, wie Sie die Ollama Installation und Konfiguration sowie Updates von Ollama, Installation bestimmter Versionen, Anzeige von Protokollen und Deinstallation.
I. Schnelle Installation
Ollama Herunterladen: https://ollama.com/download
Die offizielle Homepage von Ollama: https://ollama.com
Ollama offizielles GitHub Quellcode-Repository: https://github.com/ollama/ollama/
Die offizielle Website bietet eine Befehlszeilen-Schnellinstallation.
curl -fsSL https://ollama.com/install.sh | sh
Dieser Befehl lädt automatisch die neueste Version von Ollama herunter und schließt die Installation ab. Die folgenden Befehle werden von Ollama häufig verwendet:
ollama servieren # ollama starten
ollama create # Modell aus Modelldatei erstellen
ollama show # zeigt Modellinformationen an
ollama run # führt das Modell aus
ollama pull # Modell aus der Registry ziehen
ollama push # Pusht das Modell in die Registry
ollama list # listet Modelle auf
ollama cp # kopiert das Modell
ollama rm # Modell löschen
ollama help 1TP5Hilfeinformationen zu einem beliebigen Befehl abrufen
- Überprüfen Sie, ob die Installation abgeschlossen ist, im
Exec
Eingabe unter:
ollama-h
Die Ausgabe sieht wie folgt aus: Das bedeutet, dass die Installation erfolgreich ist🎉.
- Ollama aktivieren und verwenden
Öffnen Sie zunächst Ollama im Terminal und hängen Sie es in den Hintergrund
ollama dienen
Bibliothek (ollama.com)Hier ist die Modellbibliothek von Ollama, suchen Sie das gewünschte Modell, öffnen Sie ein neues Terminal und starten Sie!
ollama run llama3
Die Download-Geschwindigkeit hängt von Ihrer Bandbreite ab und ist einsatzbereit ✌Denken Sie daran, die Kontrolle + D
Chat beenden
II. manuelle Installation
Hinweis: Wenn eine ältere Version von ollama bereits installiert war, müssen Sie eine manuelle Deinstallation durchführen.sudo rm -rf /usr/lib/ollama
Weitere Anforderungen 👉Referenzenoffizielle Website
2.1 Laden Sie das für Ihr Betriebssystem geeignete Installationspaket herunter und entpacken Sie es.
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
AMD-GPUHerunterladen:
curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz
ARM 64Herunterladen:
curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz
sudo tar -C /usr -xzf ollama-linux-arm64.tgz
2.2 Ollama starten und überprüfen
Geben Sie den folgenden Befehl ein, um Ollama zu starten:
ollama dienen
Überprüfen Sie, ob ollama erfolgreich läuft, indem Sie ein anderes Terminal öffnen und den folgenden Befehl eingeben
ollama-v
2.3 Hinzufügen von Ollama als selbststartender Dienst (empfohlen)
Erstellen Sie zunächst Benutzer und Gruppen für Ollama:
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
Dann in dieser Position:/etc/systemd/system/ollama.service
Erstellen einer Servicedatei
[Einheit]
Beschreibung=Ollama Service
Nach=network-online.target
[Dienst]
ExecStart=/usr/bin/ollama serve
Benutzer=ollama
Gruppe=ollama
Neustart=immer
NeustartSec=3
Umgebung="PATH=$PATH"
[Installieren]
WantedBy=default.target
Starten Sie schließlich den Dienst:
sudo systemctl daemon-reload
sudo systemctl enable ollama
III. Aktualisierungen
Führen Sie die vorherige Installationsanweisung erneut aus, um Ollama zu aktualisieren:
curl -fsSL https://ollama.com/install.sh | sh
Oder laden Sie das aktuelle Ollama-Paket erneut herunter:
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
IV. die Installation bestimmter Versionen
aufstellen OLLAMA_VERSION
Felder,, Sie können die entsprechende Version installieren
curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh
V. Einsicht in das Protokoll
Sehen Sie sich die Protokolle von Ollama an, das als Startdienst läuft:
journalctl -e -u ollama
VI. Deinstallation
- Löschen Sie den Ollama-Dienst:
sudo systemctl ollama anhalten
sudo systemctl deaktivieren ollama
sudo rm /etc/systemd/system/ollama.service
- Entfernen Sie die Ollama-Binärdateien aus dem bin-Verzeichnis:
/usr/local/bin
,/usr/bin
,/bin
sudo rm $ (welches ollama)
- Löschen Sie heruntergeladene Modelle sowie Benutzer und Gruppen von Ollama-Diensten:
sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama
- Heruntergeladene Bibliotheksdateien löschen
sudo rm -rf /usr/local/lib/ollama