FlowiseAI: создание интерфейса перетаскивания узлов для пользовательских LLM-приложений

Общее введение

FlowiseAI - это инструмент с открытым исходным кодом, предназначенный для помощи разработчикам в создании пользовательских приложений LLM (Large Language Model) и агентов искусственного интеллекта. С помощью простого интерфейса drag-and-drop пользователи могут быстро создавать и повторять LLM-приложения, делая процесс от тестирования до производства гораздо более эффективным. FlowiseAI предоставляет богатый набор шаблонов и вариантов интеграции, облегчая разработчикам реализацию сложной логики и условных настроек для различных сценариев применения.

Список функций

• Интерфейс drag-and-drop: создавайте пользовательские потоки LLM с помощью простых операций drag-and-drop.
• Поддержка шаблонов: множество встроенных шаблонов для быстрого создания приложений.
• Возможности интеграции: поддерживает интеграцию с такими инструментами, как LangChain и GPT.
• Аутентификация пользователей: поддерживает аутентификацию по имени пользователя и паролю для обеспечения безопасности приложения.
• Поддержка Docker: предоставляйте образы Docker для простого развертывания и управления.
• Удобство для разработчиков: поддерживает различные среды разработки и инструменты для вторичной разработки.
• Богатая документация: Предоставьте подробную документацию и учебные пособия, чтобы помочь пользователям быстро освоиться.

Использование помощи

Процесс установки

1. Загрузите и установите NodeJS: Убедитесь, что версия NodeJS >= 18.15.0.
2. Установка Flowise::

   npm install -g flowise

3. Запустить Flowise::

   npx flowise start

Если вам нужна аутентификация по имени пользователя и паролю, вы можете использовать следующую команду:

   npx flowise start --FLOWISE_USERNAME=user --FLOWISE_PASSWORD=1234

4. Доступ к приложениям: Откройте http://localhost:3000 в своем браузере.

Процесс использования

1. Создайте новый проект: В интерфейсе Flowise нажмите кнопку "Новый проект", введите имя проекта и выберите шаблон.
2. компонент перетаскивания: Перетащите нужный компонент с левой панели инструментов на рабочую область, чтобы настроить свойства компонента.
3. соединительный комплект: Соедините компоненты, перетаскивая соединительные провода, чтобы сформировать законченный процесс.
4. тестовое приложение: Нажмите кнопку "Запустить", чтобы проверить функциональность и эффективность приложения.
5. Развертывание приложений: После завершения тестирования приложение можно развернуть в производственной среде, управлять им и поддерживать с помощью образов Docker.

Функциональное управление

• Интеграция LangChain: В конфигурации компонента выберите опцию интеграции с LangChain и введите соответствующие параметры для обеспечения бесшовного взаимодействия с LangChain.
• аутентификация пользователя: Добавьте в файл .envFLOWISE_USERNAMEответить пениемFLOWISE_PASSWORDпеременная, функция аутентификации пользователя будет автоматически включена при запуске приложения.
• Использование шаблонов: Выбрав правильный шаблон при создании нового проекта, вы сможете быстро создавать распространенные приложения, такие как PDF Q&A, обработка данных Excel и т. д.

общие проблемы

• дефицит памяти: Вы можете увеличить размер кучи памяти Node.js, если у вас закончилась память во время сборки:

  export NODE_OPTIONS="--max-old-space-size=4096"
pnpm build

• Развертывание Docker: Используйте следующие команды для создания и запуска образа Docker:

  docker build --no-cache -t flowise .
docker run -d --name flowise -p 3000:3000 flowise

Выполнив описанные выше действия, пользователи смогут быстро приступить к работе с FlowiseAI, создать и развернуть пользовательские LLM-приложения, повысить эффективность разработки и производительность приложений.

Пример из практики: создание автоматизированной системы написания новостей с помощью FlowiseAI

Диаграмма многоцелевого рабочего процесса Flowise

Flowise Configuration Flow

1. мы используем Flowise для создания автоматической системы написания новостей, сначала мы создаем нового агента в агентных потоках Flowise, названного "автоматическая система написания новостей", следующим образом:

2. Перетащим в интерфейс супервайзера и 3 рабочих, назовем и подключим их, как показано ниже:

3. Установите слово подсказки для каждого агента:

# Supervisor

你是一个Supervisor，负责管理以下工作者之间的交流：`{team_members}`。

## 任务流程

1. **发送任务给worker1** 
指示worker1搜索最新的新闻。

2. **等待worker1返回结果** 
将worker1返回的最新新闻内容传递给worker2。

3. **等待worker2完成任务** 
指示worker2将新闻编写成文章后，将文章内容传递给worker3。

4. **确认任务完成** 
确保worker3成功保存文章后，通知任务完成。

## 注意事项

- 始终以准确、协调的方式调度任务。
- 确保每一步都完整且无遗漏。

# worker1

你是一个新闻搜索引擎，负责为调用者提供最新的新闻信息。以下是你的具体任务要求：

1. **搜索最新的 10 条新闻**：基于接收到的请求，查找符合条件的最新新闻内容。
2. **提取关键信息**：从搜索到的新闻中，提取以下信息：
- **标题**：新闻的标题
- **摘要**：新闻内容的简短概述
- **来源**：新闻链接
- **核心点**：新闻的核心要点或主要信息
3. **返回清晰结构化信息**：将上述信息以清晰的格式返回给调用者。

### 输出示例：

- **标题**: [新闻标题] 
- **摘要**: [新闻摘要] 
- **来源**: [新闻链接] 
- **核心点**: [新闻核心点]

### 注意事项：

- **时效性**：确保提供的新闻是最新的。 
- **准确性**：确保提取的信息准确无误。

# worker2

### 任务描述
1. **根据提供的新闻标题、摘要和内容来源，编写一篇完整且流畅的文章**：确保文章逻辑清晰，紧扣提供的信息，表达自然。
2. **语言要求**：简洁明了，避免冗长的表述，做到言之有物。
3. **格式要求**：
- 标题单独成行，醒目突出。
- 正文分段合理，层次分明，方便阅读。

### 输出示例
以下为文章的基本结构和示例格式：

```markdown
# 新闻标题（居中或单独一行）

正文内容第一段：开篇引出新闻主题，点明事件的背景或核心内容。

正文内容第二段：详细描述新闻的主要内容，补充必要细节，使内容更加充实。

正文内容第三段：分析或评论新闻事件的意义、可能的影响或下一步发展。

正文内容第四段（可选）：总结全文，呼应开头，给读者留下深刻印象。

# worker3

你的任务是：

1. 接收完整的文章内容，包括标题和正文。
2. 根据标题为文件命名，确保文件名简洁且有意义（例如：使用标题的前几个词并去除特殊字符）。
3. 将文件保存为TXT格式到指定的电脑路径。
4. 返回保存的文件路径和成功状态给调用者。例如：
- 文件路径: [保存路径]
- 状态: 保存成功

4. установите модель чата вызова инструмента и память агента супервизора, пожалуйста, выберите подходящую большую модель в соответствии с вашей реальной ситуацией, как показано ниже:

5. Выберите подходящий инструмент поиска для worker1 в соответствии с вашей средой, как показано ниже:

6. Выберите подходящий инструмент сохранения файлов для worker3, как показано ниже:

7. Окончательная общая конфигурация показана ниже:

8. После завершения настройки нажимаем на диалоговое окно в правом верхнем углу, вводим ключевое слово "Big Model", как показано ниже:

Мы видим, как рабочий последовательно выполняет поставленные задачи.

Щелкнув на значке кода в правом верхнем углу, мы можем увидеть, как вызвать API этой системы, как показано ниже: