Zep：构建AI应用的长期记忆层，抽取并更新用户信息、业务数据

综合介绍

Zep 是一款专为AI应用提供长效记忆解决方案的平台。Zep 帮助AI助手持续学习和记忆用户交互内容，建立用户的知识图谱。Zep 支持多种编程语言和框架，包括Python、TypeScript和Go，能够整合用户聊天历史和业务数据，具备快速记忆提取、细粒度记忆控制等功能。Zep 不仅提升了AI应用的响应准确性，还显著减少了幻觉、延迟和运作成本。

Zep 是一个为 AI应用和智能体设计的长期记忆层，它可以从用户交互和不断变化的业务数据中持续学习。Zep 确保您的智能体能够全面和完整地了解用户，从而使您能够构建更加个性化和准确的用户体验。

通过使用用户聊天历史记录和业务数据，Zep 能够自动为您的每个用户构建一个知识图谱。该知识图谱包含与您的用户相关的实体、关系和事实。随着事实的改变或被取代，Zep 会更新图谱以反映其新状态。通过使用 Zep，您可以构建为您的智能体提供个性化响应和解决问题所需信息的提示。确保您的提示拥有正确的信息可以减少幻觉，提高召回率，并降低大语言模型（LLM）调用的成本。

推荐学习：https://blog.getzep.com/

功能列表

• 记忆融合：将用户交互和业务数据融合到知识图谱中，提供准确的上下文信息。
• 快速记忆提取：在毫秒级别内从记忆中获取相关结果，支持大规模用户使用。
• 细粒度记忆控制：通过自定义评分框架和控制，调整记忆提取和相关性。
• 安全和隐私合规：符合SOC 2 Type II、CCPA和GDPR等安全和隐私合规要求。
• 多语言和框架支持：支持Python、TypeScript和Go等多种编程语言和框架。
• 生产级别的扩展性：适用于生产环境，能够轻松扩展到数百万用户。

使用帮助

安装流程

1. 克隆Zep仓库：

   git clone https://github.com/getzep/zep.git

2. 配置Zep服务器： 编辑zep.yaml文件，设置日志级别、HTTP绑定地址和端口、Postgres数据库连接信息等。

   log:
level: info
format: console
http:
host: 0.0.0.0
port: 8000
postgres:
user: postgres
password: postgres
host: localhost
port: 5432
database: postgres

3. 启动Zep服务器：

   ./zep up

使用指南

1. 添加聊天消息到知识图谱：

   await zep_client.memory.add(session_id, messages=[Message(role="user", content="我无法登录！")])

2. 添加业务数据到知识图谱：

   await zep_client.graph.add(user_id=user_id, type="json", data={"account_status": "suspended"})

3. 获取当前会话的相关记忆：

   memory = zep_client.memory.get(session_id="session_id")
print(memory.context)

主要功能操作流程

1. 记忆融合： Zep通过将用户交互和业务数据融合到知识图谱中，提供准确的上下文信息。用户可以通过API调用将聊天消息和业务数据添加到知识图谱中，Zep会智能地将新信息整合到现有上下文中。
2. 快速记忆提取： Zep能够在毫秒级别内从记忆中获取相关结果，确保AI应用能够快速响应用户请求。用户可以通过API调用获取当前会话的相关记忆，Zep会返回最相关的上下文信息。
3. 细粒度记忆控制： 用户可以通过自定义评分框架和控制，调整记忆提取和相关性。Zep提供了灵活的记忆控制选项，用户可以根据具体需求调整记忆提取的方式和结果的相关性。
4. 安全和隐私合规： Zep符合SOC 2 Type II、CCPA和GDPR等安全和隐私合规要求，确保用户数据的安全和隐私。用户可以放心地将业务数据和用户交互信息添加到Zep中，Zep会确保数据的安全存储和处理。