AI Engineering Institute: 2.9 Sentence Window Retrieval Augmented Generation (RAG)

Einführung

Die auf Satzfenstern basierende Retrieval-Augmented Generation (RAG)-Methode ist RAG Eine High-Level-Implementierung eines Rahmens zur Verbesserung der Kontextwahrnehmung und Kohärenz von KI-generierten Antworten. Der Ansatz kombiniert die Leistungsfähigkeit großer Sprachmodelle mit effizienten Techniken zur Informationsgewinnung, um eine zuverlässige Lösung für die Generierung hochwertiger und kontextreicher Antworten zu bieten.

https://github.com/adithya-s-k/AI-Engineering.academy/tree/main/RAG/04_Sentence_Window_RAG

Lokomotive

Herkömmliche RAG-Systeme haben oft Schwierigkeiten, die Kohärenz über größere Kontexte hinweg aufrechtzuerhalten, oder sind unzureichend, wenn sie mit Informationen umgehen, die sich über mehrere Textblöcke erstrecken. Auf Satzfenstern basierende Retrieval-gestützte Generierungsansätze beheben diese Einschränkung, indem sie die kontextuellen Beziehungen zwischen Textblöcken während des Indizierungsprozesses bewahren und diese Informationen im Retrieval- und Generierungsprozess nutzen.

Methodische Einzelheiten

Vorverarbeitung von Dokumenten und Erstellung von Vektorspeichern

1. Aufteilung von Dokumenten: Zerlegt das Eingabedokument in Sätze.
2. Erstellung von TextblöckenSätze in überschaubare Textabschnitte gliedern.
3. eingebettete DarstellungJeder Textblock wird durch ein Einbettungsmodell verarbeitet, um eine Vektordarstellung zu erzeugen.
4. Index der VektordatenbankSpeichern der IDs von Textblöcken, Textinhalten und Einbettungsvektoren in einer Vektordatenbank für eine effiziente Ähnlichkeitssuche.
5. Dokumentstruktur-IndexIn einer separaten Datenbank werden die Beziehungen zwischen den Textblöcken gespeichert, einschließlich der Verweise der einzelnen Blöcke auf die k vorangehenden und nachfolgenden Blöcke.

Retrieval Enhancement Generation Workflow

1. AnfragebearbeitungEinbettung von Benutzeranfragen unter Verwendung des gleichen Einbettungsmodells wie für Textblöcke.
2. ÄhnlichkeitssucheAbfrageeinbettungsvektoren verwenden, um die relevantesten Textblöcke in der Vektordatenbank zu finden.
3. Kontexterweiterung (Datenverarbeitung)Für jeden abgerufenen Textblock werden zur Kontexterweiterung k vorherige und nachfolgende Textblöcke aus der Dokumentstrukturdatenbank ermittelt.
4. inhaltliche VerknüpfungKombinieren Sie den abgerufenen Textblock und seinen erweiterten Kontext mit der ursprünglichen Abfrage.
5. Generierung einer AntwortÜbergeben Sie den erweiterten Kontext und die Anfrage an das große Sprachmodell, um die endgültige Antwort zu generieren.

Hauptmerkmale der RAG

• Effizienter AbrufSchnelles und genaues Auffinden von Informationen durch vektorielle Ähnlichkeitssuche.
• Inhaltliche VorbehalteIndexierung: Bewahrt die Beziehung zwischen der Dokumentstruktur und den Textblöcken während der Indexierungsphase.
• Flexibles KontextfensterErmöglicht die Größenänderung des Kontextfensters während der Abrufphase.
• SkalierbarkeitKann große Dokumentensammlungen und verschiedene Abfragetypen verarbeiten.

Vorteile der Methode

1. Verbesserung der KohärenzKontextuelle Informationen werden durch die Einführung von umliegenden Textblöcken verbessert, was zu kohärenteren und kontextuell korrekten Antworten führt.
2. Verringerung von HalluzinationenDurch den Zugriff auf den erweiterten Kontext ist das Modell in der Lage, Antworten auf der Grundlage der abgerufenen Informationen zu generieren, wodurch die Wahrscheinlichkeit, dass falsche oder irrelevante Inhalte generiert werden, verringert wird.
3. Effiziente LagerungOptimieren Sie den Speicherplatz, indem Sie nur die notwendigen Informationen in der Vektordatenbank speichern.
4. Einstellbares KontextfensterDynamische Größenanpassung des Kontextfensters entsprechend den Anforderungen verschiedener Abfragen oder Anwendungen.
5. Beibehaltung der DokumentenstrukturDie Beibehaltung der Struktur und des Flusses des Originaldokuments ermöglicht es der KI, das Dokument differenzierter zu verstehen und zu generieren.

Zusammenfassungen

Der Satzfenster-basierte Retrieval Augmented Generation (RAG)-Ansatz bietet eine leistungsstarke Lösung zur Verbesserung der Qualität und kontextuellen Relevanz von KI-generierten Antworten. Durch die Beibehaltung der Dokumentstruktur und die Unterstützung flexibler Kontexterweiterungen beseitigt der Ansatz effektiv einige der wichtigsten Einschränkungen herkömmlicher RAG-Systeme. Er bietet einen zuverlässigen Rahmen für den Aufbau fortschrittlicher Q&A-Systeme, Dokumentenanalyse- und Inhaltsgenerierungsanwendungen.

Der Leitfaden für Laien zum Einstieg in die KI

Hilft Ihnen, die Nutzung von KI-Tools kostengünstig und von Null an zu erlernen.KI ist, wie Bürosoftware, eine wesentliche Fähigkeit für jeden. Die Beherrschung von KI verschafft Ihnen einen Vorteil bei der Stellensuche und die Hälfte des Aufwands bei Ihrer zukünftigen Arbeit und Ihrem Studium.

Details ansehen>