Suche o1: Ermächtigung von Inferenzmodellen zur aktiven Suche, so dass große Modelle während des Denkens nach externem Wissen suchen können

Allgemeine Einführung

Search-o1 ist ein Open-Source-Projekt, das darauf abzielt, die Leistung von Large-Scale-Reasoning-Modellen (LRMs) durch die Integration fortgeschrittener Suchmechanismen zu verbessern. Die Kernidee besteht darin, das Problem des Wissensdefizits, das im Schlussfolgerungsprozess auftritt, durch dynamische Suche und Wissensintegration zu lösen. Das Projekt wird vom sunnynexus-Team entwickelt, bietet einen Batch-Generierungsmechanismus und alternative Suchmethoden, kann in den Argumentationsprozess in Echtzeit relevante Dokumente eingefügt werden, um die Genauigkeit und Zuverlässigkeit des Inferenzprozesses zu verbessern. search-o1 eignet sich für komplexe wissenschaftliche, mathematische und programmiertechnische Fragen, unterstützt eine Vielzahl von Sprachumgebungen und verwendet hauptsächlich Python für die Entwicklung und den Einsatz.

Funktionsliste

• Mechanismus zur StapelgenerierungGenerierung mehrerer Inferenzsequenzen zur gleichen Zeit, um die Effizienz zu erhöhen.
• AlternativsucheDynamische Suche nach relevanten Informationen, wenn während des Argumentationsprozesses Wissensdefizite festgestellt werden.
• Integration von DokumentenVerfeinerung und nahtlose Integration der gesuchten Dokumente in die Argumentationskette.
• Multidisziplinäre UnterstützungGilt für die Beantwortung von Fragen in komplexen Bereichen wie Wissenschaft, Mathematik und Codierung.
• Wissensaktualisierung in EchtzeitDie Daten werden im Modell gespeichert: Es wird sichergestellt, dass das Modell während des Argumentationsprozesses Zugang zu aktuellem Wissen hat.

Hilfe verwenden

Ablauf der Installation

Das Search-o1-Projekt wird hauptsächlich über GitHub gehostet und verbreitet. Der Installationsprozess ist wie folgt:

1.Klon-Lager::

git clone https://github.com/sunnynexus/Search-o1.git

2. Erstellen einer virtuellen Umgebung::

   conda create -n search_o1 python=3.9
   conda activate search_o1
   

3. Installation von Abhängigkeiten::

   cd Suche-o1
   pip install -r anforderungen.txt
   

4. Vorverarbeitung der Daten::
   • Verwenden Sie den Code in data/data_pre_process.ipynb, um den Datensatz in das Standard-JSON-Format vorzuverarbeiten.

Verwendung

Initialisierung der Inferenzsequenz

Search-o1 initialisiert die Schlussfolgerungssequenz durch Kombination von Aufgabenanweisungen und Eingabefragen. Zum Beispiel:

from search_o1 import initialize_reasoning
init_sequence = initialize_reasoning("Bitte zählen Sie die Anzahl der Primzahlen", "zwischen 1 und 100")

Stapelverarbeitung und Suche

Die Suchfunktion wird ausgelöst, wenn das Modell auf einen Bedarf an externem Wissen stößt:

from search_o1 import batch_generate_and_search
results = batch_generate_and_search(init_sequence, max_tokens=500)

• Stapelverarbeitung: durch batch_generate_and_search Die Funktion generiert mehrere Inferenzpfade gleichzeitig und erkennt den Bedarf an weiteren Wissensabfragen in jedem Pfad.
• Integration der SucheSobald der Bedarf für eine Suche erkannt wird, verwendet das System eine vordefinierte Suchmaschine (z. B. Google oder eine benutzerdefinierte Datenbank), um relevante Dokumente zu erhalten, die anschließend verfeinert und in die Inferenzkette integriert werden.

iterative Inferenz

Das Reasoning ist ein iterativer Prozess, der nach jeder Generation eine neue Suche und die Integration von Dokumenten erfordern kann:

from search_o1 import iterate_reasoning
final_answer = iterate_reasoning(results, iterations=5)

• Anzahl der IterationenAbhängig von der Komplexität der Aufgabe kann die Anzahl der Iterationen angepasst werden, um die Genauigkeit der Schlussfolgerungen zu gewährleisten.

Anwendung auf praktische Probleme

Search-o1 eignet sich besonders für die Lösung von Problemen, die viel Hintergrundwissen erfordern, wie z.B. komplexe Berechnungen in der wissenschaftlichen Forschung oder Algorithmenoptimierung in der Programmierung. Ein Beispiel:

• mathematisches ProblemProbleme wie "Lösen von Differentialgleichungen mit der Euler-Methode" können mit Search-o1 gelöst werden, wobei das Modell automatisch nach Informationen über die Euler-Methode sucht und diese auf die Argumentation anwendet.
• Fragen zur ProgrammierungBei Programmierproblemen wie z.B. "Wie kann der schnelle Sortieralgorithmus optimiert werden?" kann Search-o1 mit den gesuchten algorithmischen Verbesserungsvorschlägen argumentieren.

Mit der oben beschriebenen Methode kann der Benutzer die Search-o1 Sie führen komplexe, wissensintensive Aufgaben aus und stellen sicher, dass jeder Schritt der Argumentation auf dem aktuellsten und relevantesten Wissen basiert.