Zep: AI 애플리케이션을 위한 장기 메모리 계층 구축, 사용자 정보, 비즈니스 데이터 추출 및 업데이트

2.9K 00

일반 소개

Zep은 AI 애플리케이션에 오래 지속되는 메모리 솔루션을 제공하도록 설계된 플랫폼으로, AI 비서가 사용자 상호작용을 지속적으로 학습하고 기억하여 사용자의 지식 그래프를 구축할 수 있도록 지원합니다.Zep은 Python, TypeScript, Go 등 다양한 프로그래밍 언어와 프레임워크를 지원하며 빠른 메모리 추출, 세분화된 메모리 제어 등의 기능으로 사용자 채팅 기록과 비즈니스 데이터를 통합할 수 있습니다. Zep은 응답 정확도를 향상시킬 뿐만 아니라 환멸과 운영 비용도 대폭 절감할 수 있습니다. Zep은 AI 애플리케이션의 응답 정확도를 향상시킬 뿐만 아니라 착각, 지연 시간, 운영 비용도 크게 줄여줍니다.

Zep은 사용자 상호작용과 변화하는 비즈니스 데이터로부터 지속적으로 학습하는 AI 애플리케이션과 인텔리전스를 위한 장기 메모리 계층으로, 인텔리전스가 사용자를 완전하고 완벽하게 이해하여 보다 개인화되고 정확한 사용자 경험을 구축할 수 있도록 지원합니다.
Zep은 사용자 채팅 기록과 비즈니스 데이터를 사용하여 각 사용자에 대한 지식 그래프를 자동으로 구축할 수 있습니다. 지식 그래프에는 사용자와 관련된 엔티티, 관계 및 사실이 포함됩니다. 사실이 변경되거나 교체되면 Zep는 새로운 상태를 반영하도록 그래프를 업데이트합니다. Zep을 사용하면 인공지능이 개인화된 응답을 하고 문제를 해결하는 데 필요한 정보를 제공하는 프롬프트를 만들 수 있습니다. 단서에 올바른 정보가 포함되도록 하면 착각을 줄이고, 기억력을 향상시키며, LLM(대규모 언어 모델) 호출 비용을 절감할 수 있습니다.
추천 학습: https://blog.getzep.com/

기능 목록

메모리 퓨전사용자 상호작용과 비즈니스 데이터를 지식 그래프에 융합하여 정확한 맥락 정보를 제공합니다.
빠른 메모리 추출밀리초 단위로 메모리에서 관련 결과를 가져와 대규모 사용자 사용을 지원합니다.
세분화된 메모리 제어채점 프레임워크 및 컨트롤을 사용자 지정하여 메모리 추출 및 관련성을 조정합니다.
보안 및 개인정보 보호 규정 준수SOC 2 유형 II, CCPA 및 GDPR과 같은 보안 및 개인정보 보호 규정 준수 요건을 충족합니다.
다국어 및 프레임워크 지원파이썬, 타입스크립트, Go 등 여러 프로그래밍 언어와 프레임워크를 지원합니다.
프로덕션 수준의 확장성수백만 명의 사용자로 쉽게 확장할 수 있는 프로덕션 환경용입니다.

도움말 사용

설치 프로세스

클론 젭 창고::

   git clone https://github.com/getzep/zep.git

Zep 서버 구성: 편집자zep.yaml파일을 사용하여 로깅 수준, HTTP 바인딩 주소 및 포트, Postgres 데이터베이스 연결 정보 등을 설정할 수 있습니다.

   log:
level: info
format: console
http:
host: 0.0.0.0
port: 8000
postgres:
user: postgres
password: postgres
host: localhost
port: 5432
database: postgres

Zep 서버 시작::

   ./zep up

사용 가이드라인

지식창고에 채팅 메시지 추가하기::

   await zep_client.memory.add(session_id, messages=[Message(role="user", content="我无法登录！")])

지식창고에 비즈니스 데이터 추가하기::

   await zep_client.graph.add(user_id=user_id, type="json", data={"account_status": "suspended"})

현재 세션의 메모리 가져오기::

   memory = zep_client.memory.get(session_id="session_id")
print(memory.context)

주요 기능

메모리 퓨전Zep은 사용자 상호작용과 비즈니스 데이터를 지식 그래프에 융합하여 정확한 문맥 정보를 제공합니다. 사용자는 API 호출을 통해 채팅 메시지와 비즈니스 데이터를 지식 그래프에 추가할 수 있으며, Zep는 새로운 정보를 기존 컨텍스트에 지능적으로 통합합니다.
빠른 메모리 추출밀리초 단위로 메모리에서 관련 결과를 가져오는 Zep의 기능 덕분에 AI 애플리케이션은 사용자 요청에 신속하게 응답할 수 있습니다. 사용자는 API 호출을 통해 현재 세션과 관련된 메모리를 가져올 수 있으며, Zep은 가장 관련성이 높은 컨텍스트 정보를 반환합니다.
세분화된 메모리 제어사용자는 채점 프레임워크와 컨트롤을 사용자 지정하여 메모리 추출 및 관련성을 조정할 수 있으며, Zep는 유연한 메모리 제어 옵션을 제공하여 사용자가 특정 요구 사항에 맞게 메모리 추출 방식과 결과의 관련성을 조정할 수 있도록 합니다.
보안 및 개인정보 보호 규정 준수Zep는 SOC 2 유형 II, CCPA 및 GDPR과 같은 보안 및 개인정보 보호 규정 준수 요건을 충족하여 사용자 데이터의 보안과 개인정보 보호를 보장합니다. 사용자는 비즈니스 데이터와 사용자 상호 작용을 Zep에 안심하고 추가할 수 있으며, Zep는 데이터가 안전하게 저장 및 처리되도록 보장합니다.