Вулкан Ковчег: обучение большим моделям и сервис облачных вычислений, подпишитесь на $150 эквивалентной арифметики

Общее введение

Volcano Ark - это платформа облачных вычислений, запущенная компанией Volcano Engine, которая фокусируется на услугах больших моделей и стремится предоставить предприятиям комплексное решение от выбора модели, обучения до применения. Опираясь на глубокие знания ByteDance в области ИИ, Volcano Ark объединяет ресурсы больших моделей нескольких ведущих ИИ-компаний, таких как Baichuan Intelligence, MiniMax и т. д., охватывая многосценарные приложения, такие как обработка естественного языка и генерация изображений. Независимо от того, нужны ли вам готовые модели с предварительным обучением или индивидуальная тонкая настройка модели, Volcano Ark может удовлетворить спрос благодаря своей мощной облачной инфраструктуре. Он широко используется в таких отраслях, как финансы, образование и электронная коммерция, помогая предприятиям быстро развертывать большие модели и повышать их интеллектуальность.

Список функций

• Модель Plaza: Доступен широкий спектр предварительно обученных макромоделей, которые могут быть выбраны и использованы непосредственно пользователем по требованию.
• моделирование и тонкая настройка: Поддержка загрузки данных для точной настройки большой модели в соответствии с конкретными бизнес-сценариями.
• служба выводов: Обработка данных в реальном времени с использованием больших моделей, например, генерация текстов, вопросы и ответы и т. д.
• Облачное обучение: Предоставление высокопроизводительных вычислительных ресурсов для больших моделей с целью поддержки масштабных задач обучения.
• Инструменты оценки: Встроенные функции оценки помогут пользователям проверить производительность больших моделей.
• Докинг API: Предоставление интерфейсов для встраивания возможностей больших моделей в корпоративные системы.
• безопасность: Обеспечение безопасности и соответствия большим модельным данным и вычислительным процессам.

Использование помощи

Регистрация и вход

1. Зайдите на официальный сайт: Тип "https://console.volcengine.com/ark/".
2. Зарегистрируйтесь для получения учетной записи::
   • Нажмите "Регистрация" в правом верхнем углу, введите номер мобильного телефона или адрес электронной почты и задайте пароль.
   • После завершения проверки капчи активируйте аккаунт.
3. Платформа для входа в систему::
   • Для входа в систему используйте зарегистрированную учетную запись, при первом входе может потребоваться привязка деловой информации для разблокировки дополнительных функций.

Основные функции

1. выбор большой модели (модель квадрата)

• **进入模型广场: После входа в систему нажмите на "Model Plaza" в левой навигационной панели.
• Просмотреть модели::
  • На странице отображается несколько больших моделей (например, языковые модели, модели изображений), каждая из которых помечена применимыми сценариями (например, интеллектуальное обслуживание клиентов, генерация текста).
  • Нажмите на название модели, чтобы просмотреть подробную информацию, включая размеры параметров, поддерживаемые языки и т. д.
• Использование модели::
  • Выберите большую модель и нажмите "Добавить в рабочую область", чтобы использовать ее для последующих операций.

2. Тонкая настройка модели

• Создание заданий::
  • Перейдите в раздел "Отделка модели" и нажмите "Новая задача отделки".
• Загрузка данных::
  • Подготовьте наборы данных, связанных с бизнесом (поддерживаются форматы TXT, CSV), и нажмите кнопку "Загрузить файлы".
  • Данные должны соответствовать формату входных данных целевой модели (например, обычный текст для языкового моделирования).
• Параметры настройки::
  • Выберите базовую большую модель и настройте параметры обучения (например, скорость обучения, размер партии).
  • Параметры по умолчанию подходят для первых попыток и могут быть настроены опытными пользователями.
• Начните тонкую настройку::
  • Нажмите кнопку "Начать обучение", и платформа вызовет облачные ресурсы GPU для запуска.
  • Проверьте свой прогресс в "Управлении задачами" и загрузите доработанную большую модель, когда закончите.

3. вывод данных

• Новые рассуждения::
  • Нажмите "Новое задание на обоснование" в разделе "Служба обоснования".
• исходные данные::
  • Введите данные вручную (например, вопрос) или загрузите массивные данные (например, CSV-файл).
• Запуск большой модели::
  • Выберите большую модель в рабочей области и нажмите "Запустить".
  • Система выдает результаты, такие как сгенерированный текст или выводы анализа, которые можно загрузить или просмотреть напрямую.
• сценарий применения: Составление ответов на вопросы клиентов, резюме статей и т.д.

4. Обучение на основе облачных технологий

• Конфигурация среды::
  • В разделе Cloud Training выберите вычислительные ресурсы (например, конфигурацию с несколькими GPU).
• Загрузка ресурсов::
  • Загружайте пользовательский код (например, скрипты PyTorch) и обучающие наборы данных.
• Обучение руководителей::
  • Нажмите кнопку "Начать обучение", и платформа выделит ресурсы для запуска обучения большой модели.
  • Журнал тренировок отображается в режиме реального времени, а параметры могут быть скорректированы в любой момент.

5. оценка модели

• Перейти к обзору::
  • Перейдите в раздел "Инструменты оценки" и выберите большую модель, которую вы хотите протестировать.
• Загрузка тестовых наборов::
  • Предоставьте маркированные данные (например, пары "вопрос-ответ") и нажмите "Начать оценку".
• Посмотреть результаты::
  • Система генерирует показатели (например, точность, оценки F1), которые отображаются в графическом виде.
  • Поддержка экспорта отчетов об оценке для оптимизации модели.

Основные функции

Докинг API большой модели

• Получить ключ::
  • Нажмите "Generate API Key" в "Developer Centre" и сохраните его должным образом.
• интегрированная система::
  • Загрузите Volcano Ark SDK и настройте среду в соответствии с документацией.
  • Пример кода (Python):

    from volcengine.ark import ArkClient
    client = ArkClient(api_key='你的密钥')
    result = client.inference(model_id='模型ID', input='你好')
    print(result)
    

• использовать: Встраивание возможностей больших моделей в корпоративные приложения, такие как интеллектуальные системы вопросов и ответов.

Управление безопасностью крупных моделей

• распределение привилегий::
  • Установите уровни доступа для своей команды в разделе Управление безопасностью.
• защита данных::
  • Зашифрованная передача по умолчанию, поддержка пользователей для включения шифрования хранилища.
• соответствие требованиям::
  • Встроенные инструменты проверяют данные на соответствие отраслевым нормам.

Советы и рекомендации

• Подготовка данных: Убедитесь в качестве данных перед точной настройкой, чтобы избежать влияния посторонних шумов на производительность крупной модели.
• Мониторинг ресурсов: Просмотр потребления вычислительных ресурсов в "Управлении биллингом" для рационального планирования задач.
• Каналы поддержкиЕсли у вас возникли вопросы, ознакомьтесь с документацией в Справочном центре или обратитесь в службу поддержки клиентов.

Благодаря вышеописанным шагам пользователи могут в полной мере использовать функции большой модели Volcano Ark и легко реализовать весь процесс от выбора, тонкой настройки до применения.