Zep: Aufbau einer Langzeitspeicherschicht für KI-Anwendungen, Extrahieren und Aktualisieren von Benutzerinformationen, Geschäftsdaten

Allgemeine Einführung

Zep ist eine Plattform, die entwickelt wurde, um langlebige Speicherlösungen für KI-Anwendungen bereitzustellen.Zep hilft KI-Assistenten, kontinuierlich zu lernen und sich an Benutzerinteraktionen zu erinnern, um den Wissensgraphen eines Benutzers aufzubauen.Zep unterstützt eine Vielzahl von Programmiersprachen und Frameworks, einschließlich Python, TypeScript und Go, und ist in der Lage, den Chatverlauf des Benutzers und Geschäftsdaten zu integrieren, mit Funktionen wie schneller Speicherextraktion, feinkörniger Speicherkontrolle usw. Zep verbessert nicht nur die Antwortgenauigkeit, sondern reduziert auch die Illusion und die Betriebskosten erheblich. Zep verbessert nicht nur die Antwortgenauigkeit von KI-Anwendungen, sondern verringert auch die Illusion, die Latenzzeit und die Betriebskosten erheblich.

Zep ist eine Langzeitgedächtnisschicht für KI-Anwendungen und Intelligenzen, die kontinuierlich aus Nutzerinteraktionen und sich ändernden Geschäftsdaten lernt. Zep stellt sicher, dass Ihre Intelligenzen ein vollständiges und umfassendes Verständnis des Nutzers haben, so dass Sie personalisiertere und präzisere Nutzererlebnisse schaffen können.

Anhand des Chatverlaufs der Benutzer und der Geschäftsdaten ist Zep in der Lage, automatisch einen Wissensgraphen für jeden Ihrer Benutzer zu erstellen. Der Wissensgraph enthält Entitäten, Beziehungen und Fakten in Bezug auf Ihre Benutzer. Wenn sich Fakten ändern oder ersetzt werden, aktualisiert Zep den Graphen, um den neuen Zustand wiederzugeben. Mithilfe von Zep können Sie Prompts erstellen, die Ihren Intelligenzen die Informationen liefern, die sie benötigen, um ihre Antworten zu personalisieren und Probleme zu lösen. Wenn Sie sicherstellen, dass Ihre Hinweise die richtigen Informationen enthalten, werden Täuschungen reduziert, das Erinnerungsvermögen verbessert und die Kosten für Aufrufe des Large Language Model (LLM) gesenkt.

Empfohlenes Lernen: https://blog.getzep.com/

Funktionsliste

• SpeicherfusionVerschmelzung von Benutzerinteraktionen und Geschäftsdaten zu einem Wissensgraphen, der genaue kontextbezogene Informationen liefert.
• Schnelle SpeicherextraktionDie Abfrage relevanter Ergebnisse aus dem Speicher auf Millisekunden-Ebene unterstützt den Einsatz in großem Umfang.
• Feinkörnige SpeichersteuerungAnpassung der Gedächtnisextraktion und Relevanz durch Anpassung des Bewertungsrahmens und der Kontrollen.
• Einhaltung von Sicherheit und DatenschutzErfüllt die Anforderungen an Sicherheit und Datenschutz wie SOC 2 Typ II, CCPA und GDPR.
• Unterstützung von mehreren Sprachen und FrameworksUnterstützung für mehrere Programmiersprachen und Frameworks wie Python, TypeScript und Go.
• Skalierbarkeit auf ProduktionsebeneFür Produktionsumgebungen, die problemlos auf Millionen von Benutzern skaliert werden können.

Hilfe verwenden

Einbauverfahren

1. Klon Zep Lagerhaus::

   git clone https://github.com/getzep/zep.git

2. Zep Server konfigurieren: Redakteurezep.yamlDatei, um Protokollierungsstufen, HTTP-Bindungsadressen und -ports, Postgres-Datenbankverbindungsinformationen usw. festzulegen.

   log:
level: info
format: console
http:
host: 0.0.0.0
port: 8000
postgres:
user: postgres
password: postgres
host: localhost
port: 5432
database: postgres

3. Zep Server starten::

   ./zep up

Leitlinien für die Verwendung

1. Hinzufügen von Chat-Nachrichten zum Knowledge Graph::

   await zep_client.memory.add(session_id, messages=[Message(role="user", content="我无法登录！")])

2. Hinzufügen von Geschäftsdaten zum Knowledge Graph::

   await zep_client.graph.add(user_id=user_id, type="json", data={"account_status": "suspended"})

3. Abrufen des Speichers der aktuellen Sitzung::

   memory = zep_client.memory.get(session_id="session_id")
print(memory.context)

Hauptfunktionen

1. SpeicherfusionZep liefert genaue Kontextinformationen, indem es Benutzerinteraktionen und Geschäftsdaten in einem Wissensgraphen zusammenführt. Benutzer können Chat-Nachrichten und Geschäftsdaten über API-Aufrufe zum Knowledge Graph hinzufügen, und Zep integriert die neuen Informationen intelligent in den bestehenden Kontext.
2. Schnelle SpeicherextraktionDie Fähigkeit von Zep, relevante Ergebnisse innerhalb von Millisekunden aus dem Speicher abzurufen, stellt sicher, dass KI-Anwendungen schnell auf Benutzeranfragen reagieren können. Benutzer können den relevanten Speicher für die aktuelle Sitzung über einen API-Aufruf abrufen und Zep gibt die relevantesten Kontextinformationen zurück.
3. Feinkörnige SpeichersteuerungZep bietet flexible Optionen zur Gedächtniskontrolle, die es dem Benutzer ermöglichen, die Art und Weise, wie Erinnerungen extrahiert werden, und die Relevanz der Ergebnisse an seine spezifischen Bedürfnisse anzupassen.
4. Einhaltung von Sicherheit und DatenschutzZep erfüllt Sicherheits- und Datenschutzanforderungen wie SOC 2 Typ II, CCPA und GDPR, um die Sicherheit und den Schutz der Nutzerdaten zu gewährleisten. Benutzer können Zep vertrauensvoll Geschäftsdaten und Benutzerinteraktionen hinzufügen, und Zep stellt sicher, dass die Daten sicher gespeichert und verarbeitet werden.