Tangent: интерактивный инструмент для создания диалоговых полотен ИИ, позволяющий создавать несколько ветвей диалога с поддержкой слияния, сравнения и удаления ветвей

Общее введение

Tangent - это инновационный инструмент для создания диалогов ИИ, который сочетает в себе визуальное взаимодействие Excalidraw и гибкость ComfyUI, фокусируясь на создании нового исследовательского опыта для LLM (Large Language Model) диалогов. В отличие от традиционных чат-интерфейсов, Tangent превращает диалоги ИИ в визуальные эксперименты, предоставляя пользователям свободу ветвления, слияния и сравнения различных путей диалога. Проект поддерживает модель локального развертывания offline-first, которая полностью полагается на локальные модели, и в настоящее время реализуется в основном через Ollama, но планируется расширить поддержку других бэкендов. Проект имеет открытый исходный код под лицензией Apache 2.0, поощряет вклад сообщества и предоставляет новую экспериментальную платформу для исследования диалогов ИИ.

Список функций

• Реанимация и продолжение диалога: преодоление контекстуальных ограничений и плавное возобновление предыдущего диалога
• Система исследования ветвей: создавайте ветви в любом узле диалога, чтобы проверить несколько направлений диалога
• Локальное развертывание в автономном режиме: работает полностью на локальной модели и защищает конфиденциальные данные.
• Динамическая кластеризация тем: автоматическое определение тем разговора и их распределение по категориям для оптимизации навигации.
• Совместимость с экспортом данных: поддерживаются форматы экспорта данных Claude и ChatGPT
• Визуальное дерево диалога: отображение ветвей диалога и экспериментальных процессов в виде древовидной структуры
• Поддержка API: для обработки и управления диалоговыми данными доступен полноценный REST API.
• Отслеживание статуса в режиме реального времени: мониторинг хода обработки диалогов и состояния задач

Использование помощи

1. Подготовка окружающей среды

1.1 Установите необходимые зависимости:

• Шепот.cpp: для обработки речи

  git clone https://github.com/ggerganov/whisper.cpp
  cd whisper.cpp
  sh ./models/download-ggml-model.sh base.en
  make

• Ollama: среда выполнения локальных моделей
  • Посетите сайт https://ollama.com/, чтобы загрузить соответствующую версию для вашей системы.
  • Проверьте установку:ollama --version
  • Загрузите необходимые модели:

    ollama pull all-minilm
    ollama pull qwen2.5-coder:7b
    

1.2 Запустите службу Ollama:

ollama serve

2. Внутренняя настройка

2.1 Инициализируйте среду Python:

cd tangent-api
source my_env/bin/activate
pip install -r requirements.txt

2.2 Настройте локальную модель:

cd src
python3 app.py --embedding-model "custom-embedding-model" --generation-model "custom-generation-model"

Внутренняя служба будет запущена по адресу http://localhost:5001/api.

3. Настройка фронтальной части

cd simplified-ui
npm i
npm start

Посетите сайт http://localhost:3000, чтобы воспользоваться интерфейсом.

4. Описание использования основных функций

4.1 Управление диалогом:

• Создайте новый диалог: нажмите кнопку "+" в правом верхнем углу экрана.
• Ветвление диалога: щелкните правой кнопкой мыши на любом узле диалога и выберите "Создать ветку".
• Слияние диалогов: перетащите диалоги из разных ветвей в целевой узел, чтобы объединить их.

4.2 Организация темы:

• Автоматическая кластеризация: система автоматически анализирует содержание диалога для создания тематических тегов
• Фильтрация тем: быстро находите нужные разговоры с помощью списка тем слева.
• Ручная маркировка: поддержка пользовательских меток тем и категорий

4.3 Импорт и экспорт данных:

• Поддержка импорта журналов диалогов из Claude и ChatGPT
• Журналы разговоров можно экспортировать в различные форматы
• Предоставьте API-интерфейс для автоматизации обработки

5. Руководство по использованию API

Основные конечные точки:

• ПОСТ /api/process: Обработка загруженных диалоговых данных
• ПОЛУЧИТЬ /api/process/status/<task_id>: Статус обработки запроса
• ПОСТ /api/chats/save: Сохранить данные диалога
• ПОЛУЧИТЬ /api/chats/load/<chat_id>: Загрузка определенных диалогов
• ПОЛУЧИТЬ /api/topics: Получить список сгенерированных тем