Zep: создание слоя долговременной памяти для приложений ИИ, извлечение и обновление пользовательской информации, бизнес-данных

Общее введение

Zep - это платформа, предназначенная для обеспечения долговременной памяти для приложений ИИ. Zep помогает ассистентам ИИ непрерывно изучать и запоминать взаимодействия с пользователем для построения графа знаний пользователя. Zep поддерживает различные языки программирования и фреймворки, включая Python, TypeScript и Go, и может интегрировать историю чатов пользователя и бизнес-данные, с такими функциями, как быстрое извлечение памяти, тонкий контроль памяти и т. д. Zep не только повышает точность ответов, но и значительно снижает разочарование и эксплуатационные расходы. Zep не только повышает точность ответов приложений искусственного интеллекта, но и значительно снижает уровень иллюзий, задержек и эксплуатационных расходов.

Zep - это слой долговременной памяти для приложений ИИ и интеллектуальных систем, которые постоянно учатся на основе взаимодействия с пользователем и изменяющихся бизнес-данных. Zep гарантирует, что ваши интеллектуальные системы будут иметь полное и исчерпывающее представление о пользователе, что позволит вам создавать более персонализированный и точный пользовательский опыт.

Используя историю чатов пользователей и данные о бизнесе, Zep может автоматически построить граф знаний для каждого из ваших пользователей. Граф знаний содержит сущности, отношения и факты, связанные с вашими пользователями. По мере изменения или замены фактов Zep обновляет граф, чтобы отразить их новое состояние. Используя Zep, вы можете создавать подсказки, обеспечивающие ваши интеллекты информацией, необходимой для персонализации их ответов и решения проблем. Гарантия того, что ваши подсказки содержат нужную информацию, уменьшает иллюзии, улучшает запоминание и снижает стоимость вызовов Большой языковой модели (LLM).

Рекомендуемый курс обучения: https://blog.getzep.com/

Список функций

• слияние памяти: Объединение пользовательских взаимодействий и бизнес-данных в граф знаний, который предоставляет точную контекстную информацию.
• Быстрое извлечение памяти: Получение релевантных результатов из памяти на уровне миллисекунд позволяет использовать их в больших объемах.
• Тонкое управление памятью: Настройте извлечение памяти и релевантность, настроив систему подсчета баллов и элементы управления.
• Соблюдение требований безопасности и конфиденциальности: Соответствует требованиям безопасности и конфиденциальности, таким как SOC 2 Type II, CCPA и GDPR.
• Поддержка нескольких языков и фреймворков: Поддержка множества языков программирования и фреймворков, таких как Python, TypeScript и Go.
• Масштабируемость на уровне производства: Для производственных сред, которые могут легко масштабироваться до миллионов пользователей.

Использование помощи

Процесс установки

1. Хранилище клонов Зеп::

   git clone https://github.com/getzep/zep.git

2. Настройка сервера Zep: Редакторыzep.yamlфайл для установки уровней протоколирования, адресов и портов привязки HTTP, информации о подключении к базе данных Postgres и так далее.

   log:
level: info
format: console
http:
host: 0.0.0.0
port: 8000
postgres:
user: postgres
password: postgres
host: localhost
port: 5432
database: postgres

3. Запуск сервера Zep::

   ./zep up

Руководство по использованию

1. Добавление сообщений чата в Граф знаний::

   await zep_client.memory.add(session_id, messages=[Message(role="user", content="我无法登录！")])

2. Добавление бизнес-данных в Граф знаний::

   await zep_client.graph.add(user_id=user_id, type="json", data={"account_status": "suspended"})

3. Получить память текущей сессии::

   memory = zep_client.memory.get(session_id="session_id")
print(memory.context)

Основные функции

1. слияние памяти: Zep предоставляет точную контекстную информацию, объединяя пользовательские взаимодействия и бизнес-данные в граф знаний. Пользователи могут добавлять сообщения чата и бизнес-данные в граф знаний с помощью вызовов API, а Zep интеллектуально интегрирует новую информацию в существующий контекст.
2. Быстрое извлечение памятиСпособность Zep извлекать релевантные результаты из памяти за миллисекунды позволяет приложениям искусственного интеллекта быстро реагировать на запросы пользователей. Пользователи могут получить соответствующую память для текущей сессии через вызов API, и Zep вернет наиболее релевантную контекстную информацию.
3. Тонкое управление памятьюZep предлагает гибкие возможности контроля памяти, которые позволяют пользователям настраивать способ извлечения воспоминаний и релевантность результатов в соответствии с их конкретными потребностями.
4. Соблюдение требований безопасности и конфиденциальностиZep соответствует требованиям безопасности и конфиденциальности, таким как SOC 2 Type II, CCPA и GDPR, чтобы обеспечить безопасность и конфиденциальность пользовательских данных. Пользователи могут смело добавлять в Zep бизнес-данные и пользовательские взаимодействия, а Zep обеспечит безопасное хранение и обработку этих данных.