Allgemeine Einführung
Orchestra ist ein innovatives, leichtgewichtiges Python-Framework, das sich auf den Aufbau kollaborativer Systeme mit mehreren Intelligenzen auf der Grundlage des Large Language Model (LLM) konzentriert. Es verwendet eine einzigartige Methode zur Anordnung von Intelligenzen, so dass mehrere KI-Intelligenzen wie ein Symphonieorchester harmonisch zusammenarbeiten können. Durch die modulare Architektur können Entwickler leicht verschiedene Arten von Intelligenzen erstellen, erweitern und integrieren, um die Zerlegung und Zusammenarbeit komplexer Aufgaben zu erreichen. Orchestra unterstützt GPT-4, Claude 3 und andere große Mainstream-Modelle und bietet ein reichhaltiges Set an integrierten Tools, einschließlich Web-Crawling, Dateiverarbeitung, GitHub-Interaktion und andere Funktionen. Seine herausragenden Eigenschaften sind die einfache Werkzeugdefinition, die Echtzeit-Streaming-Ausgabe, der elegante Mechanismus zur Fehlerbehandlung und der auf dem strukturierten Denkmodus basierende Task-Ausführungsprozess. Als erweiterte Version von TaskflowAI bietet Orchestra Entwicklern ein leistungsfähiges und flexibles Framework für die Entwicklung von KI-Anwendungen.
Funktionsliste
- Intelligentes Karosserieanordnungssystem:: Unterstützung von Intelligenzen, die gleichzeitig als Ausführende und Befehlshaber agieren können, indem sie eine dynamische Aufgabenzerlegung und interintelligente Koordination realisieren.
- Modulare Architektur:: Bietet ein erweiterbares, komponentenbasiertes Design für die einfache Erstellung und Integration kundenspezifischer Funktionen
- Unterstützung mehrerer ModelleIntegration mit OpenAI, Anthropic, Openrouter, Ollama, Groq und vielen anderen LLM-Anbietern
- integriertes ToolsetWeb-Tools, Datei-Tools, GitHub-Tools, Berechnungs-Tools und viele andere Dienstprogramme
- Echtzeit-Stromverarbeitung:: Unterstützung für synchrones und asynchrones Streaming von Echtzeitausgaben
- Mechanismus zur FehlerbehandlungEingebaute intelligente Fehlerbehandlung und konfigurierbare Degradationsketten
- Strukturierte Aufgabenstellung:: Verringerung des kognitiven Aufwands für LLM durch schrittweise Einführung
- Definition des Simplicity ToolsEine einfache Werkzeugdefinition auf der Grundlage von Dokument-Strings, ohne die Notwendigkeit komplexer JSON-Muster.
Hilfe verwenden
1. die Konfiguration der Installation
Die Installation des Orchestra-Frameworks ist sehr einfach: Verwenden Sie pip, um den folgenden Befehl auszuführen.
pip install mainframe-orchestra
2. grundlegender Nutzungsprozess
2.1 Erstellen einer einzelnen Intelligenz
from mainframe_orchestra import Agent, Task, OpenaiModels, WebTools
# 创建研究助手智能体
research_agent = Agent(
role="研究助手",
goal="回答用户查询",
llm=OpenaiModels.gpt_4o,
tools={WebTools.exa_search}
)
# 定义研究任务
def research_task(topic):
return Task.create(
agent=research_agent,
instruction=f"使用搜索工具研究{topic}并进行通俗易懂的解释"
)
2.2 Aufbau von Multi-Intelligence-Teams
Orchestra unterstützt die Schaffung mehrerer spezialisierter Intelligenzen, die zusammenarbeiten, z. B. beim Aufbau von Finanzanalyseteams.
- Marktanalyst - zuständig für die Analyse der Marktmikrostruktur
- Fundamental Analyst - Verantwortlich für die Finanzanalyse von Unternehmen
- Technischer Analyst - zuständig für die Analyse von Kurscharts
- Sentiment Analyst - zuständig für die Analyse der Marktstimmung
- Commander Intelligence - zuständig für die Koordinierung der anderen Geheimdienste
3. die Nutzung der erweiterten Funktionen
3.1 Integration von Werkzeugen
Orchestra bietet eine Vielzahl integrierter Werkzeuge.
- WebTools: Web-Crawling, Suche, Wetter-API, usw.
- FileTools: CSV, JSON, XML und andere Dateioperationen
- GitHubTools: Tools zur Interaktion mit dem Code-Repository
- CalculatorTools: Rechner für Datum und Uhrzeit
- WikipediaTools: Wikipedia Informationsbeschaffung
- AmadeusTools: Fluginformationssuche
3.2 Entwicklung kundenspezifischer Werkzeuge
Sie können Ihre eigenen Werkzeuge mit Hilfe von einfachen Dokumentenketten definieren.
def custom_tool(param1: str, param2: int) -> str:
"""工具描述
Args:
param1: 参数1说明
param2: 参数2说明
Returns:
返回值说明
"""
# 工具实现代码
3.3 Fehlerbehandlung und Prozesskontrolle
Orchestra bietet ausgefeilte Mechanismen zur Fehlerbehandlung.
- Konfiguration der Degradationskette zur Behandlung von LLM-Aufruffehlern
- Echtzeit-Überwachung des Smart Body Status
- Kontrolle der Zeitüberschreitung bei der Aufgabenausführung
- Ergebnisvalidierung und Wiederholungsmechanismus
4) Empfehlungen für bewährte Praktiken
- Rationalisierung der Aufteilung der Zuständigkeiten auf die einzelnen Intelligenzen, um Überschneidungen zu vermeiden
- Verwenden Sie einen strukturierten Ansatz zur Aufteilung der Aufgaben
- Nutzen Sie die integrierten Tools zur Verbesserung der Effizienz
- Implementierung der erforderlichen Fehlerbehandlungsmechanismen
- Code modular und wartbar halten