Индивидуальные места хранения моделей Ollama

Практические уроки по искусственному интеллектуОпубликовано 6 месяцев назад Круг обмена ИИ

10.1K 00

Возьмем для примера систему Windows, модели, извлеченные Ollama, по умолчанию хранятся на диске C, если вам нужно извлечь несколько моделей, диск C будет переполнен, что скажется на объеме памяти диска C.

Поэтому в этом разделе описано, как можно настроить Оллама Место хранения модели.

Windows (компьютер)

При загрузке Ollama, если не предпринимать никаких дополнительных действий, модель будет загружена по умолчанию в C:\Users\<用户名>\.ollama\models
Если мы не хотим размещать ее на диске C, то на этом этапе создаем папку, в которую будет загружена пользовательская модель, и копируем путь, например D:\Ollama\Models
Примечание: Пути должны быть созданы заранее и не содержать китайских символов и пробелов.
В разных ситуациях можно использовать следующие стратегии 👀.

Перед первой установкой Ollama вручную задайте путь загрузки модели.

II. Изменение переменных системного окружения (рекомендуется)

III. Миграция существующих типовых документов

I. При первой установке Ollama вручную задайте путь загрузки модели.

Настроенный путь установки (при первой установке)

.\OllamaSetup.exe /DIR="D:\Ollama\Models"

удар (по клавиатуре) InstallПосле этого вы увидите, что программа установлена в папку с пользовательским путем, и модель будет загружена в эту папку по умолчанию.

II. Изменение переменных системного окружения (рекомендуется)

Сценарий: Рекомендуется изменить место хранения модели непосредственно после завершения установки Ollama, или вы хотите, чтобы только что загруженная модель была сохранена непосредственно в новом месте.

Установка переменных окружения

Win + S → Введите "Переменные среды" → Выберите "Редактировать системные переменные среды" → Нажмите кнопку "Переменные среды".
системная переменная → недавно построенный → Вход:
имя переменной ::OLLAMA_MODELS
значение переменной : Пользовательские пути (например. D:\Ollama\Models)

снова открыть Оллама вступать в силу

Перезапустите службу Ollama (щелкните правой кнопкой мыши значок на панели задач → Quit Ollama(а затем перезагрузитесь)

III. Миграция существующих типовых документов

Загруженные модели необходимо переместить в новое место

отказ от курения Оллама курс
Поиск идентификатора процесса
```
tasklist | findstr ollama
```
Завершение процессов
```
taskkill /F /IM ollama.exe
```
Файлы миграционной модели

главнокомандующий (военный) C:\Users\<用户名>\.ollama\models папку в новое место (например. D:\Ollama\Models) и освободить место для хранения
❗ Резервное копирование данных : Перед миграцией рекомендуется создать резервную копию C:\Users\<用户名>\.ollama файл (бумажный)

Создание переменных окружения
- Установка по методу 2 OLLAMA_MODELS Указывает на новый путь (например. D:\Ollama\Models)
снова открыть Оллама вступать в силу
Проверьте список моделей, если в нем отображаются модели, которые были загружены, значит, миграция моделей прошла успешно 🎉.
```
ollama list
```

Linux

В системах Linux модели, извлекаемые Ollama, по умолчанию хранятся в папке .ollama/models в домашнем каталоге пользователя, обычно в ~/.ollama/models. Если вы хотите хранить модели в другом месте, вы можете сделать это несколькими способами.

I. Ручная установка пути загрузки модели

Сценарий: при первой установке

В системах Linux Ollama обычно устанавливается с помощью менеджера пакетов или скрипта. Если вам необходимо указать путь хранения модели во время установки, вы можете сделать это, задав переменную окружения.

Установка переменных окружения: Перед установкой Ollama установите переменные окружения OLLAMA_MODELS переменная окружения, указывающая путь хранения модели. Откройте терминал и введите следующую команду:

export OLLAMA_MODELS=/path/to/your/custom/models

главнокомандующий (военный) /path/to/your/custom/models Замените путь на тот, который вам нужен, например /home/username/Ollama/Models.

Установка Ollama: Следуйте обычной процедуре установки Ollama. После завершения установки модель будет автоматически загружена в указанный пользовательский путь.

II. Изменение переменных системного окружения (рекомендуется)

Сценарий: После завершения установки Ollama вы хотите изменить место хранения непосредственно модели или сохранить только что загруженную модель в новом месте.

Настройка переменных среды Редактировать ~/.bashrc возможно ~/.zshrc файл (в зависимости от используемой оболочки), добавьте следующее:

export OLLAMA_MODELS=/path/to/your/custom/models

Замените /path/to/your/custom/models на нужный вам путь, например, /home/username/Ollama/Models.

Сохраните файл и перезагрузите конфигурацию:

source ~/.bashrc

возможно

source ~/.zshrc

Перезапуск службы Ollama

Если служба Ollama уже запущена, ее можно перезапустить с помощью следующей команды:

ollama quit
ollama start

III. Миграция существующих типовых документов

Сценарий: Загруженные модели необходимо переместить в новое место.

Закрыть Оллама
Файлы моделирования миграции: предстоит ~/.ollama/models папку в новое место (например. /home/username/Ollama/Models) и освободить место для хранения:

mv ~/.ollama/models /path/to/your/custom/models

главнокомандующий (военный) /path/to/your/custom/models Замените его на путь к цели.

❗ Резервное копирование данных: Перед миграцией рекомендуется создать резервную копию папки ~/.ollama.

Установка переменных окружения: следуйте методу 2 OLLAMA_MODELS Указывает на новые пути.
Перезапустите службу Ollama: запустите Ollama и проверьте список моделей, чтобы убедиться, что миграция моделей прошла успешно:

ollama start
ollama list

Используя описанный выше метод, вы можете гибко настраивать место хранения моделей Ollama в системах Linux, чтобы не занимать слишком много места в хранилище по умолчанию.

MacOS

Стандартное местоположение модели загрузки для Ollama в системах Mac - это ~/.ollama/models/blobs (как показано ниже). Как и в случае с Windows и Linux, системы Mac также настраиваются путем установки параметра OLLAMA_MODELS переменной для управления путем загрузки модели, мы можем задать путь загрузки двумя способами.

I. Временное изменение пути загрузки

пользоваться launchctl setenv устанавливать OLLAMA_MODELS Эффект от этой команды временный, то есть он пропадает после перезагрузки компьютера или выхода из учетной записи.

launchctl setenv OLLAMA_MODELS "/Users/lta/Desktop/models"

После установки переменной окружения вы можете установить переменную окружения с помощьюlaunchctl getenv OLLAMA_MODELSПросмотр текущих переменных окружения.

Изменение переменных окружения

Тест после изменения переменных окружения

Если вы хотите отменить ранее заданную переменную, вы можете сделать это с помощью кнопки launchctl unsetenv OLLAMA_MODELS команда для сброса.

II. Постоянно изменяйте путь загрузки

пройти (законопроект, проверку и т.д.) nano ~/.zshrc Командный редактор ~/.zshrc газеты
Добавить в файл export OLLAMA_MODELS="/Users/lta/Desktop/models" .
После сохранения и выхода из редактора запустите source ~/.zshrc чтобы все получилось.