Cognita: фреймворк с открытым исходным кодом для создания модульных приложений RAG и быстрого тестирования различных стратегий RAG

Общее введение

Cognita - это фреймворк с открытым исходным кодом, разработанный компанией TrueFoundry для упрощения разработки приложений на основе RAG (Retrieval-Augmented Generation). Фреймворк представляет собой структурированное, модульное решение, которое позволяет легко включать RAG Cognita поддерживает множество источников данных, парсеров и встроенных моделей, а также предоставляет простой в использовании пользовательский интерфейс, позволяющий нетехническим пользователям экспериментировать с конфигурациями RAG. Она легко интегрируется с существующими системами, поддерживает инкрементное индексирование и несколько векторных баз данных, а также помогает разработчикам добиться быстрой итерации и развертывания при разработке приложений ИИ.

Реферирование различных стратегий RAG, основанных на модульности Langchain/LlamaIndex, и предоставление удобного интерфейса для быстрого тестирования и выпуска приложений производственного уровня.

Список функций

• Модульная конструкция: разделите приложение RAG на отдельные модули, такие как загрузчик данных, парсер, встраиватель и ретривер, чтобы улучшить повторное использование и сопровождаемость кода.
• Интуитивно понятный пользовательский интерфейс: предоставляет визуальный интерфейс, который позволяет пользователям легко загружать документы и выполнять операции Q&A.
• Драйвер API: Поддержка полного драйвера API, легкая интеграция с другими системами.
• Инкрементное индексирование: переиндексируйте только измененные документы, экономя вычислительные ресурсы.
• Поддержка нескольких источников данных: загрузка данных из нескольких источников данных, таких как локальные каталоги, S3, базы данных и т. д.
• Поддержка нескольких моделей: в том числе OpenAI, Cohere и другие встроенные модели, а также поддержка языковых моделей.
• Интеграция с векторными базами данных: бесшовная интеграция с векторными базами данных, такими как Qdrant, SingleStore и другими.

Использование помощи

Процесс установки

Поскольку Cognita - это проект с открытым исходным кодом на языке Python, процесс установки включает в себя следующие шаги:

1. склад клонов::

   git clone https://github.com/truefoundry/cognita.git
   cd cognita
   

2. Настройка виртуальной среды(Рекомендуемая практика):

   python -m venv .cognita_env
   source .cognita_env/bin/activate  # Unix
   .cognita_env\Scripts\activate  # Windows
   

3. Установка зависимостей::

   pip install -r requirements.txt
   

4. Настройка переменных среды::
   • Скопируйте .env.example в файл .env и настройте его в соответствии с вашими потребностями, такими как ключ API, подключение к базе данных и т. д.

Руководство по использованию

Загрузка данных:

• Выберите источник данных: Cognita поддерживает загрузку данных из локальных файлов, ведер хранения S3, баз данных или артефактов TrueFoundry. Выберите подходящий для вас тип источника данных.
• Загрузите или настройте данные: если вы выбрали локальные файлы, загрузите их напрямую. Если это другой источник данных, настройте права доступа и путь.

Разбор данных:

• Выберите парсер: в соответствии с типом документа (например, PDF, Markdown, текстовый файл) выберите соответствующий парсер. Cognita по умолчанию поддерживает парсинг нескольких форматов файлов.
• Выполнить синтаксический анализ: нажмите кнопку Синтаксический анализ, и система преобразует документ в единый формат.

Встраивание данных:

• Выберите встроенную модель: выберите встроенную модель (например, модель OpenAI или другие модели с открытым исходным кодом) в соответствии с вашими потребностями.
• Generate Embedding: выполняет операции встраивания для преобразования текста в векторное представление для последующего поиска.

Запрос и поиск:

• Введите запрос: введите запрос в пользовательском интерфейсе или через API.
• Получение релевантной информации: система получит наиболее релевантные фрагменты документов в базе данных в соответствии с вашим запросом.
• Генерировать ответы: используйте выбранную языковую модель для генерации ответов на основе полученных сегментов.

Инкрементное индексирование:

• Отслеживайте изменения данных: Cognita предоставляет возможность индексировать только новые или обновленные документы, повышая эффективность и экономя вычислительные ресурсы.

Управление пользовательским интерфейсом:

• Управление коллекциями: вы можете создавать, удалять или редактировать коллекции документов в пользовательском интерфейсе.
• Работа в режиме "вопрос-ответ": пользователи могут испытать действие системы RAG, задавая вопросы и получая ответы прямо из интерфейса.

Функциональное управление

• Многоязычная поддержка: если ваши данные содержат несколько языков, вы можете воспользоваться преимуществами многоязычной поддержки Cognita для многоязычных вопросов и ответов.
• Динамическое переключение моделей: Cognita позволяет переключаться между различными моделями встраивания или языковыми моделями по требованию, без необходимости переразвертывания всего приложения.

С помощью описанных выше шагов и функций пользователи могут быстро приступить к работе и использовать Cognita для создания и оптимизации собственных приложений RAG для улучшения поиска и генерации информации на основе искусственного интеллекта.