Развертывание модели DeepSeek-R1 с открытым исходным кодом в режиме онлайн с использованием бесплатных мощностей GPU

Спасибо Tencent Cloud Cloud Studio и DeepSeek DeepSeek-R1.

С быстрым развитием технологий ИИ и Больших моделей все больше разработчиков и исследователей хотят сами испытать и отладить Большие модели, чтобы лучше понять и применить эти передовые технологии. Однако высокая стоимость арифметики на GPU часто становится узким местом, мешающим всем желающим. К счастью, Tencent Cloud Studio предоставляет бесплатные ресурсы для арифметики на GPU, и в сочетании с большими моделями DeepSeek-R1, представленными DeepSeek, мы можем легко развернуть и запустить эти мощные модели в облаке, не потратив ни цента.

В этой статье мы подробно расскажем, как использовать Tencent Cloud Облачная студия бесплатных ресурсов GPU для развертывания и взаимодействия с макромоделью DeepSeek-R1. Мы начнем с использования Cloud Studio и шаг за шагом пройдем через установку и настройку Ollama, показывая, как развернуть DeepSeek-R1 и поговорите с ним, и в итоге вы получите полный и бесплатный DeepSeek-R1 + набор Код Ру Бесплатная программа-портфолио по программированию.

1. Облачная студия

1.1 Введение в Cloud Studio

Tencent Cloud Cloud Studio - это облачная интегрированная среда разработки (IDE), которая предоставляет множество инструментов и ресурсов для разработки, помогая разработчикам более эффективно кодировать, отлаживать и внедрять. Недавно Cloud Studio запустила бесплатные вычислительные ресурсы GPU, пользователи могут использовать 10 000 минут GPU-серверов бесплатно каждый месяц, в конфигурации с 16 Гб видеопамяти, 32 Гб оперативной памяти и 8-ядерный процессор. это, несомненно, большое благо для разработчиков, которым нужны высокопроизводительные вычислительные ресурсы. (Не забудьте указать, чтобы закрыть машину после использования, следующая тонкая настройка, а затем открыть его, среда автоматически сохраняется, 10 000 минут в месяц просто не может быть использован)

1.2 Регистрация и вход

Чтобы воспользоваться Cloud Studio, сначала нужно зарегистрировать учетную запись Tencent Cloud. После регистрации войдите в Cloud Studio, и вы увидите чистый пользовательский интерфейс, предлагающий на выбор множество шаблонов разработки. Эти шаблоны охватывают широкий спектр сценариев - от базовой разработки на Python до развертывания сложных крупных моделей. Не забудьте ввести версию Pro.

1.3 Выбор шаблона Ollama

Поскольку наша цель - развернуть DeepSeek-R1 большая модель, поэтому мы можем просто выбрать Оллама Шаблоны.Ollama - это инструмент для управления и запуска больших моделей, который упрощает процесс загрузки, установки и запуска моделей. После выбора шаблона Ollama Cloud Studio автоматически настраивает для нас среду Ollama, устраняя необходимость в ручной установке.

Дождитесь загрузки, нажмите enter (Ollama уже развернута в среде, просто запустите команду установки напрямую).

2. Оллама

2.1 Знакомство с Олламой

Ollama - это инструмент с открытым исходным кодом, специально разработанный для управления и запуска различных больших моделей. Он поддерживает различные форматы моделей и может автоматически обрабатывать зависимости моделей, что делает развертывание и запуск моделей очень простым. Официальный сайт Ollama предоставляет множество ресурсов моделей, пользователи могут выбрать подходящую модель в соответствии со своими потребностями, чтобы загрузить и запустить ее.

2.2 Параметры модели и выбор

На официальном сайте Ollama в нижней части каждой модели указано количество параметров, например 7B, 13B, 70B и т.д. Здесь "B" означает миллиард. Здесь "B" означает миллиард, что указывает на количество параметров модели. Чем больше число параметров, тем выше сложность и возможности модели, но при этом она потребляет больше вычислительных ресурсов.

Для бесплатных ресурсов GPU (16 Гб видеопамяти, 32 Гб ОЗУ, 8-ядерный процессор), предоставляемых Tencent Cloud Studio, мы можем выбрать модели 8B или 13B для развертывания. Если у вас более высокая аппаратная конфигурация, вы можете попробовать модели с большими параметрами для достижения лучших результатов.

2.3 Установка Ollama

После выбора шаблона Ollama в Cloud Studio система автоматически установит Ollama. Если вы используете Ollama в других средах, вы можете установить ее с помощью следующей команды:

curl -fsSL https://ollama.com/install.sh | sh

После завершения установки вы можете убедиться в том, что Ollama была успешно установлена, выполнив следующую команду:

ollama --version

Следующим шагом Ollama развернет DeepSeek-R1 ...

3. Бесплатное развертывание DeepSeek-R1

3.1 Введение в DeepSeek-R1

DeepSeek-R1 - это высокопроизводительная большая модель от DeepSeek, которая отлично справляется с рядом задач по обработке естественного языка, особенно в области генерации текстов, диалоговых систем и вопросов и ответов. Количество параметров DeepSeek-R1 варьируется от 8B до 70B, что позволяет пользователям выбрать подходящую модель для развертывания в соответствии с их аппаратной конфигурацией.

3.2 Загрузка и развертывание

Развертывание DeepSeek-R1 очень простое, поскольку Cloud Studio уже автоматически устанавливает Ollama. Нам просто нужно выполнить следующую команду:

ollama run deepseek-r1:8b

Все доступные модели для DeepSeek-R1 здесь: https://ollama.com/library/deepseek-r1 , рекомендуем! ollama run deepseek-r1:14b (Это дистиллированная модель Квен).

3.3 Модельные прогоны

Дождавшись окончания загрузки модели, Ollama автоматически запустит DeepSeek-R1 и перейдет в интерактивный режим. В этот момент вы можете вводить вопросы или команды прямо в терминал, чтобы поговорить с DeepSeek-R1.

4. начните общаться с DeepSeek-R1

4.1 Базовый диалог

Диалог с DeepSeek-R1 очень прост, достаточно ввести вопрос или инструкцию в терминал, и модель немедленно сгенерирует ответ.

4.2 Сложные задачи

• Например, генерация кода с помощью DeepSeek-R1

4.3 Тонкая настройка модели

Если вы не удовлетворены производительностью DeepSeek-R1 или хотите, чтобы модель работала лучше на некоторых конкретных задачах, вы можете попробовать произвести тонкую настройку модели. Процесс тонкой настройки обычно включает в себя подготовку наборов данных, специфичных для конкретной области, и переобучение модели на этих наборах. Ollama предоставляет простые интерфейсы для помощи пользователям в тонкой настройке модели.

4.4 Использование в инструментах программирования ИИ

Использование в терминале, конечно, не является основным сценарием, мы хотим использовать сервис в других чат-инструментах или инструментах программирования AI, чтобы быть практичными. Cloud Studio не предоставляет внешнего адреса доступа. В этом случае ngrok/Cpolar является хорошим решением.

Только предоставить идеи, а не подробное объяснение: первый шаг, чтобы запросить интранет Ollama порт, второй шаг, чтобы установить ngrok, третий шаг, чтобы отобразить Ollama порт на ngrok, запустить службу вы получите следующий адрес:

Примечание: Предполагается, что ваш ollama serve Служба уже работает 6399 порт для запуска, вы можете использовать следующую команду для запуска Ngrok и сопоставления порта с экстрасетью:ngrok http 6399

Убедитесь, что экстрасеть работает: (чтобы соединить полный адрес)

Мы рекомендуем использовать родной плагин для браузера, чтобы пользоваться функциями, связанными с Ollama. Помощник страницы : (заполните https://xxx.ngrok-free.app/, чтобы автоматически загрузить все модели Ollama)

существовать Код Ру (Ру Клайн) Настройте API в клиенте: (Roo Code - отличный плагин для программирования ИИ).

Обратите внимание на добавление v1 к исходному URL и API KEY.

Сохраните и проверьте диалог:

5. Резюме

Благодаря бесплатным ресурсам GPU в Tencent Cloud Cloud Studio в сочетании с Ollama и DeepSeek-R1 мы можем легко развертывать и запускать большие модели в облаке, не беспокоясь о высоких затратах на оборудование. Независимо от того, ведете ли вы простой разговор или работаете над сложной задачей, DeepSeek-R1 обеспечивает мощную поддержку. Мы надеемся, что эта статья поможет вам плавно развернуть DeepSeek-R1 и начать свое путешествие по исследованию больших моделей.