Volcano Ark выпускает лабораторию приложений Big Model: шаблоны отраслевых приложений с открытым исходным кодом для ускорения внедрения ИИ на предприятиях

Новости ИИОпубликовано 6 месяцев назад Круг обмена ИИ
6.8K 00

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

В настоящее время производительность отечественных и зарубежных больших моделей, таких как DeepSeek, становится все более и более мощной, и индустрия в целом считает, что приложения ИИ обеспечат взрывной рост в 2025 году. Однако предприятия, даже имея мощные большие модели, по-прежнему сталкиваются с проблемами неясных сценариев применения и неопределенных форм заявок. Как практически внедрить технологию больших моделей в промышленные приложения и разработать действительно ценные продукты ИИ, было в центре внимания отрасли в прошлом году, а также является проблемой, которую продолжают исследовать многие предприятия.

Основываясь на нашем многолетнем опыте использования услуги моделирования бобовых мешков, мы отмечаем, чтовулканический ковчегНедавно была запущена "Лаборатория приложений для больших моделей", основными характеристиками которой являются "простота интеграции, простота внедрения, большая открытость". Проще говоря, Volcano Ark предоставляет предприятиям ряд выбранных сценариев применения, а также разрабатывает высококачественные приложения ИИ в качестве отраслевых шаблонов, которые предоставляются в виде открытого исходного кода нуждающимся предприятиям.

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

 

Интерактивный двуязычный видеогенератор: новая парадигма для образовательной анимации с поддержкой ИИ

Как разработчики агентов, наша команда заинтересовалась приложением под названием "Интерактивный двуязычный генератор видео" в Volcano Ark и решила развернуть и протестировать его. Мы надеемся использовать эту возможность для изучения потенциала анимации ИИ в образовании.

Руководство по быстрому развертыванию

Ниже подробно описаны основные этапы для облегчения понимания и работы.

Сначала нужно клонировать конкретный репозиторий кода:

# 仓库下载
git clone https://github.com/volcengine/ai-app-lab.git
# 进入对应具体目录
cd demohouse/chat2cartoon

Затем откройте .env файл для настройки переменных окружения. Вам нужно настроить параметры, связанные с моделями для создания текстовых графиков, синтеза речи, создания видео и понимания видео.

# 大模型接入点ID,用于脚本创作、分镜、角色  https://console.volcengine.com/ark/region:ark+cn-beijing/openManagement?LLM=%7B%7D&OpenTokenDrawer=false
LLM_ENDPOINT_ID='ep-xxx'
# 视觉理解大模型接入点ID,用于最终视频影片交互
VLM_ENDPOINT_ID='ep-2025xxx'
# 火山引擎TOS储存桶名,用于存储模型产物 https://console.volcengine.com/tos/bucket/
TOS_BUCKET='chat2'
# 语音技术API Access Key https://console.volcengine.com/speech/service/
TTS_ACCESS_KEY='7naxxx'
# 语音技术API Resource ID https://console.volcengine.com/speech/service/
TTS_API_RESOURCE_ID='volc.service_type.10029'
# 语音技术App Key https://console.volcengine.com/speech/service/
TTS_APP_KEY='113xxx'
# 生视频大模型接入点ID(暂时只支持Doubao-视频生成模型)
CGT_ENDPOINT_ID='ep-20250306153842-pg2b4'
# 火山方舟API Key,用于方舟模型接入点推理时做鉴权 https://console.volcengine.com/ark/region:ark+cn-beijing/apiKey
ARK_API_KEY='99831b24-55xxxx'
# 火山引擎账号Access Key,用于访问TOS API,上传模型产物  https://console.volcengine.com/iam/keymanage/
VOLC_ACCESSKEY='AKLTYxxxx'
# 火山引擎账号Secret Key,用于访问TOS API,上传模型产物 https://console.volcengine.com/iam/keymanage/
VOLC_SECRETKEY='Tmprexxxx'

Открытие и настройка сервиса Volcano Ark

Прежде всего, вам необходимо открыть соответствующие сервисы Volcano Ark (на этой платформе предоставляются все виды моделей искусственного интеллекта). После входа в Volcano Ark найдите и нажмите кнопку "Открыть управление" в левом нижнем углу страницы и откройте сервис большой языковой модели и визуальной большой модели соответственно.

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地   火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

После открытия службы модели необходимо создать точку доступа, которая является фактической моделью для использования. Нажмите "Online Reasoning" в левой части, а затем нажмите "Custom Reasoning Access Point", чтобы создать точку доступа к умозаключениям.

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

Заполните информацию в соответствии с подсказками на странице, добавьте нужную модель и подтвердите доступ.

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

После успешного создания скопируйте идентификатор точки доступа.

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

Выбор конкретной модели может быть скорректирован в соответствии с реальными потребностями и предпочтениями. В данном тесте мы выбрали следующие модели:

  1. LLM_ENDPOINT_ID опция Doubao-1.5-pro-32k
  2. VLM_ENDPOINT_ID опция Doubao-vision-pro-32k
  3. CGT_ENDPOINT_ID опция Doubao-视频生成-Seaweed

Чтобы получить API-ключ для этих моделей (т. е. ARK_API_KEYЕсли вам нужно создать новый API-ключ, вы можете управлять им в левом нижнем углу страницы. Если вам нужно создать новый ключ API, вы можете управлять им в левом нижнем углу страницы.

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地   火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

Конфигурация ведра для хранения данных TOS

Перейдите в созданное ведро хранения TOS, чтобы настроить кросс-доменный доступ.

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

Пожалуйста, настраивайте конкретные параметры в соответствии с реальными сценариями применения. Конфигурации параметров, приведенные в этой статье, являются лишь справочными примерами (будьте внимательны при настройке в производственной среде).

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

Контроль доступа к двигателю вулкана

Затем перейдите на страницу управления доступом движка Volcano Engine:

https://console.volcengine.com/iam/keymanage/

Получает ключ доступа и секретный ключ движка Volcano для доступа к API TOS.

соответствующий .env в файле VOLC_ACCESSKEY ответить пением VOLC_SECRETKEY Параметры.

Конфигурация объектного хранилища

API TOS используется для загрузки файлов, сгенерированных моделью. Перейдите на страницу Хранилище объектов:

https://console.volcengine.com/tos

Нажмите "Bucket List", затем нажмите "Create Bucket", заполните соответствующую информацию для создания ведра хранения. В этом примере имя созданного ведра будет таким chat2В результате .env Бумаги TOS_BUCKET Параметр должен быть установлен на chat2.

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

Конфигурация голосовых технологий

Наконец, настраивается раздел речевых технологий. Посетите платформу речевых технологий Volcano Engine:

https://console.volcengine.com/speech/app

Создайте приложение и выберите службы "Большая модель синтеза речи" и "Большая модель потокового распознавания речи".

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

После создания нажмите на любое меню слева, чтобы найти APP ID и токен доступа.

Согласно официальной документации по движку Volcano Engine.

TTS_ACCESS_KEY соответствующий токену доступа.

TTS_APP_KEY Соответствует идентификатору APP.

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

https://www.volcengine.com/docs/6561/1329505

Пока что..env Настройка файлов завершена. Далее необходимо установить зависимости проекта и запустить программу.

внутренняя операция

# 进入后端
cd backend
# 安装 poetry
pip install poetry==1.6.1
# 用 poetry 安装依赖库
poetry install
# 后端启动!
poetry run python index.py

Если запуск прошел успешно, терминал выдаст сообщение, подобное следующему.

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

фронтальное управление

# 进入前端
cd frontend
# 安装 pnpm
npm install -g pnpm@8
# 利用 pnpm 安装依赖包
pnpm install
# 复制环境变量 .env 文件
cp ../.env ./
# 前端启动!
pnpm dev

Если запуск прошел успешно, терминал выдаст сообщение, подобное следующему.

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

После того как вы выполнили вышеуказанные действия, вы можете посетить в своем браузере http://localhost:8080/ Начните использовать интерактивный генератор двуязычных видео.

Архитектура проекта и результаты тестирования

Общая архитектура процесса проекта показана ниже:

火山方舟发布大模型应用实验室:开源行业应用模板,加速企业 AI 落地

Результаты тестирования показывают, что "Интерактивный двуязычный видеогенератор" позволяет пользователям генерировать минутные видеоролики одним щелчком мыши, что чрезвычайно просто и эффективно в работе. Пользователям не нужно выполнять сложные настройки параметров, достаточно ввести требования к видео, и они могут быстро генерировать длинные видеоработы, соответствующие требованиям, что значительно повышает эффективность создания.

Созданные видеоролики отличаются высоким качеством, четкой и плавной графикой, а также связным и естественным сюжетом. Кроме того, приложение поддерживает интерактивные вопросы и ответы пользователей по видеоконтенту.

 

Применение открытого исходного кода: ключевой шаг в создании больших моделей

через (щель) Коуз Шаблонное применение платформы для запуска лаборатории открытых приложений Volcano Ark AI Application Open Source Lab не только представляет собой расширение решения от low-code до high-code, но и знаменует собой эволюцию сценария приложения от общего к глубокой кастомизации.

На волне применения технологии больших моделей стратегическое значение открытого исходного кода приложений выходит за рамки самого открытого исходного кода моделей. Верно, что мощная модель - это двигатель приложения ИИ, но как эффективно интегрировать возможности модели в реальные бизнес-сценарии - это ключ к продвижению приложения ИИ и, в конечном счете, к улучшению возможностей бизнеса.

Volcano Engine Open Source AI Lab предоставляет SDK с открытым исходным кодом и прототипы приложений ИИ, которые точно заполняют "последний километр" для запуска приложений ИИ. Приложения ИИ с открытым исходным кодом обеспечивают быстрый запуск для предприятий.

Хотя многие предприятия признают огромный потенциал больших моделей и понимают, как применить их к своим бизнес-сценариям на теоретическом уровне, они по-прежнему сталкиваются со многими препятствиями в реальной работе. Появление прототипов ИИ с открытым исходным кодом позволяет разработчикам предприятий быстро учиться, создавать и расширять приложения ИИ, отвечающие их бизнес-потребностям, без необходимости начинать с нуля разбираться в сложных процессах стыковки моделей и разработки приложений, что значительно сокращает затраты на метод проб и ошибок, время и трудозатраты.

Для большинства энтузиастов и разработчиков технологий ИИ, когда они впервые попадают в сферу разработки приложений ИИ, они часто сталкиваются с высокоинкапсулированными фреймворками с высокой степенью абстракции, такими как LangChain. Фреймворк LangChain при умелом владении действительно может значительно повысить эффективность разработки, но его большое количество синтаксического сахара и абстрактных понятий, а также для новичков, приведет к более высокому порогу обучения. Напротив, Arkitect, Python SDK, предоставляемый Volcano Engine, гораздо проще в освоении, а его инструментарий и процесс разработки более интуитивно понятны. Кроме того, официальная демонстрация предоставляет подробную схему технической архитектуры и детали реализации, что удобно для глубокого понимания разработчиками.

Запуск Volcano Ark AI Application Lab, несомненно, предоставляет мощную платформу для разработки приложений ИИ для предприятий и разработчиков. Особенно похвально, что стратегия открытого исходного кода снизила порог разработки приложений ИИ и ускорила процесс внедрения технологии больших моделей в различные отрасли. С появлением новых приложений с открытым исходным кодом у нас есть основания полагать, что технология ИИ будет по-настоящему интегрирована в тысячи отраслей и раскроет свой потенциал.

© заявление об авторских правах

Похожие статьи

Нет комментариев

Вы должны войти в систему, чтобы участвовать в комментариях!
Войти сейчас
нет
Нет комментариев...