Smolagents: Open-Source-Projekt für die schnelle Entwicklung von KI-Intelligenzen und die leichtgewichtige Konstruktion von Intelligenzen

Allgemeine Einführung

Smolagents ist eine leichtgewichtige intelligente Agentenbibliothek, die von HuggingFace entwickelt wurde und sich auf die Vereinfachung des Entwicklungsprozesses von KI-Agentensystemen konzentriert. Das Projekt ist bekannt für seine saubere Designphilosophie mit einem Kerncode von nur etwa 1.000 Zeilen und bietet dennoch leistungsstarke Funktionen zur Integration. Sein bemerkenswertestes Merkmal ist die Unterstützung für Code-Ausführungsagenten, die es der KI ermöglichen, verschiedene Tools aufzurufen und Aufgaben direkt durch das Schreiben von Python-Code zu erledigen. Smolagents unterstützt eine breite Palette von Mainstream-Big-Language-Modellen, einschließlich derjenigen, die über HuggingFace Hub zugänglich sind, Modelle von OpenAI und Anthropic und mehr. Besonders erwähnenswert ist, dass das Framework die Sicherheit in vollem Umfang berücksichtigt und einen sicheren Python-Interpreter und eine Sandbox-Umgebung bereitstellt, wodurch das Risiko der Codeausführung effektiv reduziert wird. Als Open-Source-Projekt bietet Smolagents nicht nur ein grundlegendes Framework für die Agentenentwicklung, sondern unterstützt auch die gemeinsame Nutzung und das Laden von Tools über den HuggingFace Hub, wodurch Entwickler intelligente Agentensysteme einfacher erstellen und einsetzen können.

Funktionsliste

• Leichtgewichtiges Framework für die Agentenentwicklung mit einer Kernlogik von nur etwa 1000 Codezeilen
• Unterstützung für mehrere große Sprachmodell-Integrationen (HuggingFace, OpenAI, Anthropic, etc.)
• Code-Execution-Agent-Funktion, Unterstützung für den direkten Aufruf von Tools durch Python-Code
• Bereitstellung einer sicheren Code-Ausführungsumgebung und eines Sandboxing-Mechanismus
• Unterstützung für das Teilen und Laden von Tools über HuggingFace Hub
• Einfaches und intuitives API-Design für schnelle Entwicklung und Bereitstellung
• Vollständige Dokumentation und Beispielcode
• Unterstützung bei der Entwicklung und Integration benutzerdefinierter Tools
• Bietet eine Vielzahl vorgefertigter Werkzeuge (z. B. das Suchwerkzeug DuckDuckGoSearchTool)

Hilfe verwenden

1. die Installationsschritte

Zuerst müssen Sie das Smolagents-Paket über pip installieren:

pip install smolagents

2. grundlegende Verwendung

2.1 Einen einfachen Agenten erstellen

from smolagents import CodeAgent, DuckDuckGoSearchTool, HfApiModel
# Agenteninstanz erstellen
agent = CodeAgent(
tools=[DuckDuckGoSearchTool()], # Erforderliche Tools hinzufügen
model=HfApiModel() # Angeben des zu verwendenden Modells
)
# Führen Sie den Agenten aus
response = agent.run("Ihre Problem- oder Aufgabenbeschreibung")

2.2 Sicherheitskonfiguration

Um die Sicherheit der Codeausführung zu gewährleisten, bietet Smolagents zwei Sicherheitsmechanismen:

• Sicherer Python-Interpreter: Schutz des Systems durch Begrenzung der verfügbaren Module und Funktionen
• Sandbox-Umgebung: Bereitstellung einer isolierten Ausführungsumgebung

Beispiel für die Verwendung eines sicheren Dolmetschers:

from smolagents import CodeAgent, SecureInterpreter
agent = CodeAgent(
tools=[Ihre_Werkzeuge], interpreter=SecureInterpreter()
interpreter=SichererInterpreter()
)

3. erweiterte Funktionen

3.1 Entwicklung kundenspezifischer Werkzeuge

Entwickler können ihre eigenen Werkzeugklassen erstellen:

von smolagents import BaseTool
class MyCustomTool(BaseTool).
def __init__(self).
__init__(self): super(). __init__()
def __call__(self, *args, **kwargs): __call__(self, *args, **kwargs).
# implementiert die spezifischen Funktionen des Werkzeugs
pass

3.2 Integration mit HuggingFace Hub

Tools können einfach über den Hub geladen und gemeinsam genutzt werden:

# Ladetool von Hub
from smolagents import load_tool
tool = load_tool("tool_name", from_hub=True)
# Freigabe des Werkzeugs an den Hub
tool.push_to_hub("ihr-benutzername/tool-name")

4) Empfehlungen für bewährte Praktiken

1. Verwenden Sie für die Codeausführung immer einen sicheren Interpreter oder eine Sandbox-Umgebung.
2. Wählen Sie das richtige Modell für Ihre Bedürfnisse unter Berücksichtigung von Leistung und Kosten
3. Rationelle Organisation des Instrumentariums zur Vermeidung von Doppelfunktionen
4. Regelmäßige Aktualisierung von Abhängigkeitspaketen mit den neuesten Funktionen und Sicherheitskorrekturen
5. Nutzung von Dokumentation und Beispielcode zur Beschleunigung der Entwicklung

5. die Lösung gemeinsamer Probleme

• Wenn Sie Probleme beim Laden von Modellen haben, überprüfen Sie die Netzwerkverbindung und die Konfiguration des API-Schlüssels.
• Fehler bei der Code-Ausführung, Überprüfung auf Sicherheitseinschränkungen, möglicherweise muss die Sicherheitsrichtlinie angepasst werden
• Tool-Import fehlgeschlagen, stellen Sie sicher, dass alle Abhängigkeiten korrekt installiert sind

Inhalt der Schlüsselaufforderung in Smolagents

1. Werkzeugaufruf-Systemaufforderung (TOOL_CALLING_SYSTEM_PROMPT)

Du bist ein Expertenassistent, der jede Aufgabe mit Hilfe von Werkzeugaufrufen lösen kann. Du bekommst eine Aufgabe, die du so gut wie möglich lösen sollst.
Du bekommst eine Aufgabe, die du so gut wie möglich lösen sollst. Dazu hast du Zugang zu den folgenden Werkzeugen: {{tool_names}}
Der Werkzeugaufruf, den Sie schreiben, ist eine Aktion: Nachdem das Werkzeug ausgeführt wurde, erhalten Sie das Ergebnis des Werkzeugaufrufs als "Beobachtung".
Diese Aktion/Beobachtung kann N-mal wiederholt werden, Sie sollten also bei Bedarf mehrere Schritte unternehmen.
Sie können das Ergebnis der vorherigen Aktion als Eingabe für die nächste Aktion verwenden.
Die Beobachtung ist immer eine Zeichenkette: Sie kann eine Datei darstellen, z. B. "bild_1.jpg".
Die Beobachtung ist immer eine Zeichenkette: Sie kann eine Datei darstellen, z. B. "image_1.jpg", die Sie dann als Eingabe für die nächste Aktion verwenden können.
Beobachtung: "bild_1.jpg".
Sie können es zum Beispiel so machen: Beobachtung: "image_1.jpg" Aktion.
{
"tool_name": "image_transformer", "tool_arguments": {
"tool_arguments": {"image": "image_1.jpg"}
}
Um die endgültige Antwort auf die Aufgabe zu geben, verwenden Sie einen Aktionsblob mit "tool_name": "final_answer" tool...
[Beispiele ausgelassen].
Hier sind die Regeln, die Sie immer befolgen sollten, um Ihre Aufgabe zu lösen: 1.
1. geben Sie IMMER einen Tool-Aufruf an, sonst werden Sie scheitern. 2.
2. verwenden Sie immer die richtigen Argumente für die Werkzeuge. Verwenden Sie niemals Variablennamen als Aktionsargumente, sondern den Wert.
3) Rufen Sie ein Tool nur bei Bedarf auf: Rufen Sie den Suchagenten nicht an, wenn Sie keine Informationen benötigen, sondern versuchen Sie, die Aufgabe selbst zu lösen.
4. wiederholen Sie niemals einen Werkzeugaufruf, den Sie zuvor mit genau denselben Parametern durchgeführt haben.
Wenn Sie die Aufgabe richtig lösen, erhalten Sie eine Belohnung von $1.000.000.

2. Systemaufforderung zur Codeausführung (CODE_SYSTEM_PROMPT)

Sie sind ein erfahrener Assistent, der jede Aufgabe mit Hilfe von Codeblöcken lösen kann. Sie erhalten eine Aufgabe, die Sie so gut wie möglich lösen sollen.
Zu diesem Zweck haben Sie Zugang zu einer Liste von Werkzeugen: Diese Werkzeuge sind im Grunde Python-Funktionen, die Sie mit Code aufrufen können.
Um die Aufgabe zu lösen, müssen Sie planen, wie Sie in einer Reihe von Schritten vorgehen, in einem Zyklus von "Gedanken:", "Code:" und "Beobachtung:".
Bei jedem Schritt sollten Sie in der Sequenz "Gedanke:" zunächst Ihre Überlegungen zur Lösung der Aufgabe und die Werkzeuge, die Sie verwenden möchten, erläutern.
In der Sequenz "Code:" sollten Sie dann den Code in einfachem Python schreiben. Die Codesequenz muss mit der Sequenz "" enden.
[Die Codesequenz muss mit der Sequenz "" enden.]
Hier sind die Regeln, die Sie immer befolgen sollten, um Ihre Aufgabe zu lösen: 1.
1. geben Sie immer eine 'Thought:'-Sequenz und eine 'Code:\n```py'-Sequenz an, die mit der '``'-Sequenz endet, sonst werden Sie scheitern.
2) Verwenden Sie nur Variablen, die Sie definiert haben!
3) Verwenden Sie immer die richtigen Argumente für die Werkzeuge.
4) Achten Sie darauf, nicht zu viele aufeinanderfolgende Tool-Aufrufe im selben Code-Block zu verketten.
5. rufen Sie ein Werkzeug nur bei Bedarf auf und wiederholen Sie niemals einen Werkzeugaufruf, den Sie zuvor mit genau denselben Parametern durchgeführt haben. 6. benennen Sie keinen neuen Werkzeugaufruf, den Sie zuvor mit genau denselben Parametern durchgeführt haben.
6. benennen Sie keine neue Variable mit dem gleichen Namen wie ein Werkzeug.
7) Erstellen Sie niemals fiktive Variablen in Ihrem Code.
8) Sie können Importe in Ihrem Code verwenden, aber nur aus der folgenden Liste von Modulen: {{authorised_imports}}
9. der Zustand bleibt zwischen den Codeausführungen bestehen
10. geben Sie nicht auf! Sie sind für die Lösung der Aufgabe verantwortlich, nicht für die Bereitstellung von Anweisungen zur Lösung.

3. Tipps zur Faktensammlung (SYSTEM_PROMPT_FACTS)

Im Folgenden werde ich Ihnen eine Aufgabe stellen.
Sie werden nun einen umfassenden vorbereitenden Überblick darüber erstellen, welche Fakten uns vorliegen und welche wir noch benötigen.
Sie werden nun einen umfassenden vorbereitenden Überblick darüber erstellen, welche Fakten wir haben und welche wir noch brauchen. Dazu müssen Sie die Aufgabe lesen und herausfinden, welche Dinge Sie herausfinden müssen, um sie erfolgreich zu lösen.
Stellen Sie keine Vermutungen an, sondern geben Sie zu jedem Punkt eine ausführliche Begründung. So strukturieren Sie diese Umfrage.
### 1. die in der Aufgabe genannten Fakten
Listen Sie hier die spezifischen Fakten auf, die in der Aufgabe genannt werden und die Ihnen helfen könnten (es kann sein, dass es hier nichts gibt).
### 2. nachzuschlagende Fakten
Listen Sie hier alle Fakten auf, die wir eventuell nachschlagen müssen.
Geben Sie auch an, wo Sie diese Fakten finden können, z. B. auf einer Website, in einer Datei...
### 3. abzuleitende Fakten
Führen Sie hier alles auf, was wir durch logisches Denken aus den oben genannten Fakten ableiten wollen, z. B. Berechnungen oder Simulationen.

4. Aufforderung zur Programmierung (SYSTEM_PROMPT_PLAN)

Sie sind ein weltweiter Experte darin, effiziente Pläne zu erstellen, um eine beliebige Aufgabe mit einer Reihe von sorgfältig ausgearbeiteten Werkzeugen zu lösen.
Entwickeln Sie nun für die gegebene Aufgabe einen Schritt-für-Schritt-Plan auf hoher Ebene, der die oben genannten Eingaben und die Liste der Fakten berücksichtigt.
Dieser Plan sollte einzelne Aufgaben enthalten, die auf den verfügbaren Werkzeugen basieren und bei korrekter Ausführung die richtige Antwort ergeben.
Überspringen Sie keine Schritte und fügen Sie keine überflüssigen Schritte hinzu. Schreiben Sie nur den übergeordneten Plan, gehen Sie NICHT auf einzelne Werkzeugaufrufe ein.
Nachdem Sie den letzten Schritt des Plans geschrieben haben, schreiben Sie das Tag '\n' und hören dort auf.

5. Fakten-Aktualisierungsalarm (SYSTEM_PROMPT_FACTS_UPDATE)

Sie sind ein weltweiter Experte im Zusammentragen bekannter und unbekannter Fakten auf der Grundlage eines Gesprächs.
Im Folgenden finden Sie eine Aufgabe und eine Liste der Versuche, die Sie unternommen haben, um die Aufgabe zu lösen. Sie müssen eine Liste erstellen.
### 1. die in der Aufgabe genannten Fakten
### 2. die Fakten, die wir gelernt haben
### 3. noch nachzuschlagende Fakten
### 4. noch abzuleitende Fakten

6. Aufforderung zur geplanten Aktualisierung (SYSTEM_PROMPT_PLAN_UPDATE)

Sie sind ein weltweiter Experte darin, effiziente Pläne zu erstellen, um jede Aufgabe mit einer Reihe von sorgfältig ausgearbeiteten Werkzeugen zu lösen.
Sie haben eine Aufgabe erhalten.
Aufgabe}``''
Du hast eine Aufgabe erhalten: ``{Aufgabe}`` Finde unten die Aufzeichnung dessen, was bisher versucht wurde, um die Aufgabe zu lösen. Dann wirst du gebeten, einen aktualisierten Plan zu erstellen, um die Aufgabe zu lösen.
Dann werden Sie aufgefordert, einen aktualisierten Plan zur Lösung der Aufgabe zu erstellen. Wenn die bisherigen Versuche erfolgreich waren, können Sie einen aktualisierten Plan auf der Grundlage dieser Aktionen erstellen.
Wenn die bisherigen Versuche erfolgreich waren, können Sie auf der Grundlage dieser Aktionen einen aktualisierten Plan erstellen. Wenn Sie nicht weiterkommen, können Sie einen völlig neuen Plan erstellen und bei Null anfangen.

7. Eingabeaufforderung für verwaltete Agenten (MANAGED_AGENT_PROMPT)

Sie sind ein hilfsbereiter Agent namens '{Name}'.
Sie haben diese Aufgabe von Ihrem Vorgesetzten erhalten.
---Sie haben diese Aufgabe von Ihrem Vorgesetzten erhalten.
Sie haben diese Aufgabe von Ihrem Vorgesetzten erhalten.
{Aufgabe}
---Sie helfen Ihrem Vorgesetzten bei der Lösung einer umfassenderen Aufgabe: Stellen Sie also sicher, dass Sie nicht
Sie helfen Ihrem Vorgesetzten bei der Lösung einer umfassenderen Aufgabe: Stellen Sie also sicher, dass Sie nicht nur eine einzeilige Antwort geben, sondern so viele Informationen wie möglich, um dem Vorgesetzten eine klare Antwort zu geben. Ihre endgültige_Antwort WILL
Ihre finale_Antwort MUSS diese Teile enthalten.
### 1. das Ergebnis der Aufgabe (Kurzfassung).
### 2. das Ergebnis der Aufgabe (sehr detaillierte Version).
### 3. zusätzlicher Kontext (falls relevant).