Установка и настройка Ollama - статья о докерах

краткое содержание

В этом разделе рассказывается о том, как завершить работу с Docker Оллама Установка и настройка

Docker - это технология виртуализированных контейнеров, основанная на образах и позволяющая запускать различные контейнеры за считанные секунды. Каждый из этих контейнеров представляет собой полноценную среду выполнения, которая обеспечивает изоляцию между контейнерами.

Ollama Скачать: https://ollama.com/download

Официальная домашняя страница Ollama: https://ollama.com

Официальный репозиторий исходного кода Ollama на GitHub: https://github.com/ollama/ollama/

Официальное руководство по установке docker: https://hub.docker.com/r/ollama/ollama

I. Вытягивание зеркала Олламы

Автор предварительно загрузил docker под Windows 👉.Установка docker скачать официальный сайт

Способ 1: поиск и загрузка программного обеспечения Docker в интерфейсе визуализации

Способ 2: Официальный сайт рекомендует напрямую использовать следующую команду для извлечения загрузочного образа, этот проект может быть запущен только на центральном процессоре.

# CPU 或者 Nvidia GPU 
docker pull ollama/ollama

# AMD GPU
docker pull ollama/ollama:rocm

Примечание: Если читатель хочет использовать конкретную версию образа, в которой указана среда выполнения, можно использовать следующую команду.

# CPU 或 Nvidia GPU下载ollama 0.3.0
docker pull ollama/ollama:0.3.0
# AMD GPU下载ollama 0.3.0
docker pull ollama/ollama:0.3.0-rocm

II. Запуск образа ollama

Способ 1: Docker запускает образ в визуальном интерфейсе

• После завершения загрузки его можно найти в разделе Imagesпопал в точку Ollama Зеркало, нажмите run Обратите внимание, что перед запуском необходимо выбрать номер порта (например, 8089) во всплывающем окне дополнительных настроек.

• существовать Containers Найдите зеркало в OLLM Доступ к интерфейсу Ollama

• Убедитесь, что установка завершена, в окне Exec Войти по адресу:

ollama -h

Вывод следующий: это означает, что установка прошла успешно🎉.

Large language model runner
Usage:
ollama [flags]
ollama [command]
Available Commands:
serve       Start ollama
create      Create a model from a Modelfile
show        Show information for a model
run         Run a model
pull        Pull a model from a registry
push        Push a model to a registry
list        List models
ps          List running models
cp          Copy a model
rm          Remove a model
help        Help about any command
Flags:
-h, --help      help for ollama
-v, --version   Show version information

• Терминал "Оллама".

Ниже перечислены общие команды, используемые Ollama:

ollama serve         #启动ollama
ollama create        #从模型文件创建模型
ollama show          #显示模型信息
ollama run           #运行模型
ollama pull          #从注册表中拉取模型
ollama push          #将模型推送到注册表
ollama list          #列出模型
ollama cp            #复制模型
ollama rm            #删除模型
ollama help          #获取有关任何命令的帮助信息

Библиотека (ollama.com) Здесь находится библиотека моделей Ollama, найдите нужную вам модель и запустите ее!

ollama run llama3

Скорость загрузки зависит от пропускной способности вашего канала и готова к использованию ✌ Не забудьте использовать control + D Выход из чата

Способ 2: Запуск из командной строки

• Версия процессора:

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama