Ollama 설치 및 구성 - Linux 시스템

개요

本节学习如何在 Linux 系统中完成 Ollama 的安装与配置，以及对 Ollama 更新，特定版本的安装，查看日志和卸载。

一、快速安装

올라마 다운로드: https://ollama.com/download

올라마 공식 홈페이지: https://ollama.com

올라마 공식 GitHub 소스 코드 리포지토리: https://github.com/ollama/ollama/

官网提供了一条命令行快速安装的方法。

curl -fsSL https://ollama.com/install.sh | sh

此命令将自动下载最新版本的 Ollama 并完成安装，以下是 Ollama 使用常见的指令：

ollama serve         #启动ollama
ollama create        #从模型文件创建模型
ollama show          #显示模型信息
ollama run           #运行模型
ollama pull          #从注册表中拉取模型
ollama push          #将模型推送到注册表
ollama list          #列出模型
ollama cp            #复制模型
ollama rm            #删除模型
ollama help          #获取有关任何命令的帮助信息

• 에서 설치가 완료되었는지 확인합니다. Exec 에 입력합니다:

ollama -h

출력은 다음과 같습니다: 설치가 성공했음을 의미합니다🎉.

• 开启并使用 Ollama

首先，在终端中开启 Ollama，并在后台挂起

ollama serve

라이브러리(ollama.com)这里是 Ollama 的模型库，搜索你想要的模型，开启新的终端，启动！

ollama run llama3

다운로드 속도는 대역폭에 따라 다르며 바로 사용할 수 있습니다. control + D 채팅 종료

二、手动安装

注意： 如果之前已经安装了旧版本的ollama，那么需要先完成手动卸载，sudo rm -rf /usr/lib/ollama 更多需求👉参考공식 웹사이트

2.1 下载并解压与操作系统匹配的安装包

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

AMD GPU다운로드:

curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz

ARM 64다운로드:

curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz
sudo tar -C /usr -xzf ollama-linux-arm64.tgz

2.2 启动 Ollama并验证

输入以下命令启动 Ollama：

ollama serve

另开启一个终端，输入以下命令，验证ollama是否运行成功

ollama -v

2.3 将 Ollama 添加为自启动服务（推荐）

首先，为 Ollama 创建用户和组：

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

然后在该位置：/etc/systemd/system/ollama.service 创建服务文件

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=default.target

마지막으로 서비스를 시작합니다:

sudo systemctl daemon-reload
sudo systemctl enable ollama

三、更新

再次运行之前的安装语句来更新 Ollama：

curl -fsSL https://ollama.com/install.sh | sh

或者重新下载最新的Ollama包：

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz

四、安装特定版本

설정 OLLAMA_VERSION字段，，可以安装对应的版本

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

五、查看日志

查看作为启动服务运行的 Ollama 的日志：

journalctl -e -u ollama

六、卸载

• 删除 Ollama 服务：

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

• 从 bin 目录中删除 Ollama 二进制文件： /usr/local/bin ,/usr/bin ,/bin

sudo rm $(which ollama)

• 删除下载的模型和 Ollama 服务用户和组：

sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama

• 删除下载的库文件

sudo rm -rf /usr/local/lib/ollama