Julep AI: Eine KI-Cloud-Plattform zur Erstellung mehrstufiger intelligenter Körper-Workflows mit DSLs

Allgemeine Einführung

Julep AI ist eine Plattform für die Erstellung und Verwaltung von KI-Intelligenzen, die sich an vergangene Interaktionen erinnern und komplexe mehrstufige Aufgaben ausführen. Julep AI bietet ein Langzeitgedächtnis und Funktionen zur Verwaltung von mehrstufigen Prozessen und unterstützt die Integration mit externen Tools und APIs, so dass komplexe Szenarien bewältigt werden können. Benutzer können einfache YAML-Dateien schreiben, um einzelne Schritte einer Aufgabe, Entscheidungspunkte, Schleifen, Parallelverarbeitung usw. zu definieren und die Ausführung dieser Aufgaben in der Cloud zu automatisieren.

Julep AI führt eine neue Domain Specific Language (DSL) und einen Server für die Verwaltung von KI-Intelligenzen und mehrstufigen Aufgaben ein. Diese DSL ermöglicht es Nutzern, komplexe Workflows intuitiver zu beschreiben und zu verwalten, ohne große Mengen an herkömmlichem Code schreiben zu müssen. Die Cloud-Plattform von Julep AI kümmert sich um die Ausführung dieser Aufgaben und stellt sicher, dass sie zuverlässig und effizient sind.

Funktionsliste

• Persistenter AI-AgentIntelligentsia sind in der Lage, sich an Zusammenhänge und Informationen zu erinnern, um eine langfristige Interaktion zu unterstützen.
• staatenlose Sitzung: Verfolgen Sie frühere Interaktionen, um eine personalisierte Antwort zu geben.
• mehrstufige AufgabeAufbau komplexer mehrstufiger Prozesse durch Schleifen und Entscheidungen.
• Verwaltung der AufgabenErledigt Aufgaben, die über längere Zeiträume laufen können, und stellt sicher, dass die Aufgaben erfolgreich abgeschlossen werden.
• Integrierte Tools und API-IntegrationIntelligenz: Unterstützt die Verwendung integrierter Tools und externer APIs zur Erweiterung der Funktionalität von Intelligenzen.
• SelbstheilungAutomatische Wiederholung fehlgeschlagener Schritte und erneutes Senden der Nachricht, um einen reibungslosen Ablauf der Aufgabe zu gewährleisten.
• RAG (Retrieval Augmentation Generation)Dokumentenspeicher: Verwenden Sie einen Dokumentenspeicher, um ein System zum Abrufen und Verwenden Ihrer eigenen Daten aufzubauen.

Hilfe verwenden

Einbauverfahren

1. Registrieren Sie sich für ein KontoBesuchen Sie die Website von Julep AI, klicken Sie auf die Schaltfläche "Registrieren" und geben Sie die erforderlichen Informationen ein, um Ihre Registrierung abzuschließen.
2. API-Schlüssel abrufenNach der Anmeldung finden Sie im Benutzerbereich die Option API-Schlüsselgenerierung, um den API-Schlüssel zu generieren und zu speichern.
3. SDK herunterladenLaden Sie das entsprechende SDK (z.B. Python, Node.js, etc.) entsprechend den Plattformanforderungen herunter und installieren Sie es gemäß der Dokumentation.

Leitlinien für die Verwendung

Intelligentsia schaffen

1. Definition von IntelligenzIn der Systemsteuerung klicken Sie auf "Intelligenz erstellen" und geben den Namen und die Beschreibung der Intelligenz ein.
2. KonfigurationsmodellWählen Sie ein geeignetes KI-Modell (z.B. GPT-4) und stellen Sie die Standardparameter ein (z.B. Temperatur, maximale Anzahl von Token, etc.).
3. Tools hinzufügenFügen Sie die erforderlichen Werkzeuge für die Intelligenz hinzu, z. B. Websuche, API-Aufrufe usw.

Definition von mehrstufigen Prozessen

1. Schreiben von YAML-DateienSchreiben Sie im Control Panel einen mehrstufigen Prozess mit YAML, um Entscheidungsbäume, Schleifen und parallele Ausführung zu definieren.
2. Hochladen von DateienHochladen der geschriebenen YAML-Datei auf die Plattform und Testen der Datei.
3. Prozess der BereitstellungSobald der Test bestanden ist, klicken Sie auf die Schaltfläche "Bereitstellen", um den Prozess online zu stellen.

Schnelles Prototyping

1. Ein neues Projekt erstellenKlicken Sie in der Systemsteuerung auf "Neues Projekt" und geben Sie den Projektnamen und die Beschreibung ein.
2. Funktionsmodul hinzufügenAuswahl und Hinzufügung der benötigten Funktionsmodule (z.B. RAG, Statusverwaltung, etc.) nach Bedarf.
3. Prüfung und IterationTesten auf der Plattform, Anpassen und Optimieren der Funktionsmodule in Echtzeit.

Vorbereitung der Produktionsebene

1. Konfiguration der InfrastrukturIn der Systemsteuerung konfigurieren Sie Infrastrukturoptionen wie automatische Skalierung, Lastausgleich usw.
2. Einrichten der FehlerbehandlungFehlerbehandlung: Definieren Sie Fehlerbehandlungsmechanismen, um sicherzustellen, dass Aufgaben im Falle eines Fehlers automatisch erneut ausgeführt werden.
3. Online-ProjekteNachdem Sie die Konfiguration abgeschlossen haben, klicken Sie auf die Schaltfläche "Go Live", um das Projekt in Produktion zu bringen.

Modularer Aufbau

1. Modul auswählen: Wählen Sie im Bedienfeld das gewünschte Modul aus (z. B. externe API-Verbindung, LLM-Umschaltung usw.).
2. Drag-and-Drop-IntegrationIntegration von Modulen in Projekte über eine Drag-and-Drop-Schnittstelle.
3. Prüfung und OptimierungEchtzeit-Tests der Modulfunktionen zur Optimierung und Abstimmung.

Unbegrenzte Expansion

1. Konfigurieren der erweiterten OptionenIn der Systemsteuerung konfigurieren Sie die Optionen Auto Scaling und Load Balancing.
2. Überwachung der LeistungÜberwachung der Systemleistung und der Gleichzeitigkeit der Benutzer in Echtzeit mit den von der Plattform bereitgestellten Überwachungstools.
3. Anpassen der KonfigurationAnpassung der Erweiterungs- und Lastausgleichskonfigurationen anhand der Überwachungsdaten, um einen stabilen Systembetrieb zu gewährleisten.

Zukunftssicher

1. Neues Modell hinzufügenIn der Systemsteuerung klicken Sie auf "Neues Modell hinzufügen", um ein neues AI-Modell auszuwählen und zu konfigurieren.
2. Integration neuer InstrumenteStöbern Sie in den neuen Tools, die die Plattform bietet, wählen Sie sie aus und integrieren Sie sie in bestehende Projekte.
3. Prüfung und EinsatzTesten Sie neue Modelle und Tools, um Kompatibilität und Stabilität zu gewährleisten, und setzen Sie sie dann live ein.

Musteraufgabe

Julep eignet sich gut für Anwendungen, die KI-Anwendungsfälle erfordern, die über einfache Cue-Response-Modelle hinausgehen.

Schnelles Beispiel

Stellen Sie sich einen KI-Forschungsagenten vor, der die folgenden Aktionen durchführen kann:

• Wählen Sie ein Thema
• 30 Suchanfragen zu diesem Thema
• Gleichzeitige Websuche
• Zusammenfassende Ergebnisse
• Zusammenfassung an Discord senden

In Julep wird dies eine separate Aufgabe sein, 80 Zeilen Code und dann vollständig gehostet laufen, alles unabhängig voneinander. Alle Schritte werden auf den eigenen Servern von Julep durchgeführt, sodass Sie nichts tun müssen.

Dies ist ein gutes Beispiel:

name: Research Agent
# Optional: Define the input schema for the task
input_schema:
type: object
properties:
topic:
type: string
description: The main topic to research
num_questions:
type: integer
description: The number of search queries to generate
# Define the tools that the agent can use
tools:
- name: web_search
type: integration
integration:
provider: brave
setup:
api_key: <your-brave-api-key>
- name: discord_webhook
type: api_call
api_call:
url: https://discord.com/api/webhooks/<your-webhook-id>/<your-webhook-token>
method: POST
headers:
Content-Type: application/json
# Special variables:
# - inputs: for accessing the input to the task
# - outputs: for accessing the output of previous steps
# - _: for accessing the output of the previous step
# Define the main workflow
main:
- prompt:
- role: system
content: >-
You are a research assistant.
Generate {{inputs[0].num_questions|default(30, true)}} diverse search queries related to the topic:
{{inputs[0].topic}}

Write one query per line.
unwrap: true
# Evaluate the search queries using a simple python expression
- evaluate:
search_queries: "_.split(NEWLINE)"
# Run the web search in parallel for each query
- over: "_.search_queries"
map:
tool: web_search
arguments:
query: "_"
parallelism: 5
# Collect the results from the web search
- evaluate:
search_results: _
# Summarize the results
- prompt:
- role: system
content: >
You are a research summarizer. Create a comprehensive summary of the following research results on the topic {{inputs[0].topic}}.
The summary should be well-structured, informative, and highlight key findings and insights. Keep the summary concise and to the point.
The length of the summary should be less than 150 words.
Here are the search results:
{{_.search_results}}
  unwrap: true
settings:
model: gpt-4o-mini
- evaluate:
discord_message: |-
f'''
**Research Summary for {inputs[0].topic}**
{_}
'''

# Send the summary to Discord
- tool: discord_webhook
arguments:
json_: 
content: _.discord_message[:2000] # Discord has a 2000 character limit

In diesem Beispiel verwaltet Julep automatisch die parallele Ausführung, wiederholt fehlgeschlagene Schritte, sendet API-Anfragen erneut und hält die Aufgabe bis zur Fertigstellung zuverlässig am Laufen.

Beispielhafte Ausgabeergebnisse

Dieser Vorgang dauert 30 Sekunden und liefert die folgende Ausgabe:

Zusammenfassung der Forschung zur Künstlichen Intelligenz

Zusammenfassung der Forschungsergebnisse zur Künstlichen Intelligenz (KI)

kurz
In den letzten Jahren gab es erhebliche Fortschritte im Bereich der künstlichen Intelligenz (KI), die durch die Entwicklung von Methoden und Techniken gekennzeichnet sind, die es Maschinen ermöglichen, ihre Umgebung wahrzunehmen, aus Daten zu lernen und Entscheidungen zu treffen. Diese Zusammenfassung konzentriert sich auf Erkenntnisse, die aus verschiedenen KI-bezogenen Forschungsergebnissen gewonnen wurden.

Wichtigste Ergebnisse

• Definition und Umfang der künstlichen Intelligenz ::
  Künstliche Intelligenz ist ein Teilgebiet der Informatik, das sich mit der Entwicklung von Systemen befasst, die in der Lage sind, Aufgaben auszuführen, die eine menschenähnliche Intelligenz erfordern, einschließlich Lernen, logisches Denken und Problemlösung (Wikipedia). Sie umfasst eine Vielzahl von Teilgebieten, darunter maschinelles Lernen, Verarbeitung natürlicher Sprache, Robotik und Computer Vision.
• Auswirkungen und Anwendung ::
  Die KI-Technologie wird in zahlreiche Bereiche integriert, um die Effizienz und Produktivität zu verbessern. Die Anwendungen reichen von selbstfahrenden Autos und medizinischen Diagnosen bis hin zur Automatisierung des Kundendienstes und Finanzprognosen (OpenAI). Googles Engagement, KI für jedermann nutzbar zu machen, unterstreicht ihr Potenzial, den Alltag durch die Verbesserung der Nutzererfahrung auf allen Plattformen erheblich zu verbessern (Google AI).
• ethische Betrachtung ::
  Es gibt eine anhaltende Diskussion über die ethischen Auswirkungen der KI, einschließlich der Bedenken hinsichtlich der Privatsphäre, der Voreingenommenheit und der Verantwortung bei Entscheidungsprozessen. Die Notwendigkeit eines Rahmens für die sichere und verantwortungsvolle Nutzung von KI-Technologien (OpenAI) wurde hervorgehoben.
• Lernmechanismen ::
  KI-Systeme nutzen verschiedene Lernmechanismen wie überwachtes Lernen, unüberwachtes Lernen und Verstärkungslernen. Diese Methoden ermöglichen es der KI, ihre Leistung zu verbessern, indem sie aus früheren Erfahrungen und Daten lernen (Wikipedia). Der Unterschied zwischen überwachtem und unüberwachtem Lernen ist entscheidend. Überwachtes Lernen basiert auf gekennzeichneten Daten, während unüberwachtes Lernen Muster ohne vordefinierte Kennzeichnungen (unüberwacht) erkennt.
• zukünftige Richtung ::
  Künftige Entwicklungen im Bereich der KI werden sich voraussichtlich darauf konzentrieren, die Interpretierbarkeit und Transparenz von KI-Systemen zu verbessern, um sicherzustellen, dass sie in der Lage sind, fundierte Entscheidungen und Maßnahmen zu treffen (OpenAI). Es werden auch Anstrengungen unternommen, um KI-Systeme zugänglicher und benutzerfreundlicher zu machen und so eine breitere Akzeptanz durch verschiedene Menschen und Branchen zu fördern (Google AI).

zu einem Urteil gelangen
Künstliche Intelligenz stellt eine transformative Kraft in vielen Bereichen dar und verspricht, die Industrie umzugestalten und die Lebensqualität zu verbessern. In dem Maße, in dem sich ihre Möglichkeiten erweitern, ist es jedoch von entscheidender Bedeutung, sich mit den damit verbundenen ethischen und gesellschaftlichen Implikationen auseinanderzusetzen. Kontinuierliche Forschung und die Zusammenarbeit zwischen Technologen, Ethikern und politischen Entscheidungsträgern werden entscheidend sein, um die zukünftige Landschaft der KI zu navigieren.

Prozess der Python-Bereitstellung

Um Julep zu verwenden, installieren Sie es mit pip:

pip install julep

Holen Sie sich Ihren API-Schlüssel von hier.

### Step 0: Setup

import time
import yaml
from julep import Julep # or AsyncJulep

client = Julep(api_key="your_julep_api_key")

### Step 1: Create an Agent

agent = client.agents.create(
name="Storytelling Agent",
model="claude-3.5-sonnet",
about="You are a creative storyteller that crafts engaging stories on a myriad of topics.",
)

### Step 2: Create a Task that generates a story and comic strip

task_yaml = """
name: Storyteller
description: Create a story based on an idea.

tools:
- name: research_wikipedia
type: integration
integration:
provider: wikipedia
method: search

main:
# Step 1: Generate plot idea
- prompt:
- role: system
content: You are {{agent.name}}. {{agent.about}}
- role: user
content: >
Based on the idea '{{_.idea}}', generate a list of 5 plot ideas. Go crazy and be as creative as possible. Return your output as a list of long strings inside ```yaml 标签位于您的回复末尾。
展开：true

- 评价：
情节想法：load_yaml（_.split（'```yaml')[1].split('```')[0].strip())

# 第二步：从情节思路中提取研究领域
- 迅速的：
- 角色：系统
内容：您是 {{agent.name}}。{{agent.about}}
- 角色：用户
内容: >
以下是一些故事情节的想法：
{% 表示 _.plot_ideas 中的想法 %}
- {{主意}}
{% 结束 %}

为了发展故事情节，我们需要研究情节思路。
我们应该研究什么？写下你认为有趣的情节想法的维基百科搜索查询。
将输出作为 yaml 列表返回```yaml tags at the end of your response.
unwrap: true
settings:
model: gpt-4o-mini
temperature: 0.7

- evaluate:
research_queries: load_yaml(_.split('```yaml')[1].split('```')[0].strip())

# Step 3: Research each plot idea
- foreach:
in: _.research_queries
do:
tool: research_wikipedia
arguments:
query: _

- evaluate:
wikipedia_results: 'NEWLINE.join([f"- {doc.metadata.title}: {doc.metadata.summary}" for item in _ for doc in item.documents])'

# Step 4: Think and deliberate
- prompt:
- role: system
content: You are {{agent.name}}. {{agent.about}}
- role: user
content: |-
Before we write the story, let's think and deliberate. Here are some plot ideas:
{% for idea in outputs[1].plot_ideas %}
- {{idea}}
{% endfor %}

Here are the results from researching the plot ideas on Wikipedia:
{{_.wikipedia_results}}

Think about the plot ideas critically. Combine the plot ideas with the results from Wikipedia to create a detailed plot for a story.
Write down all your notes and thoughts.
Then finally write the plot as a yaml object inside ```yaml 标签位于响应末尾。yaml 对象应具有以下结构：

```yaml
title: "<string>"
characters:
- name: "<string>"
about: "<string>"
synopsis: "<string>"
scenes:
- title: "<string>"
description: "<string>"
characters:
- name: "<string>"
role: "<string>"
plotlines:
- "<string>"```

确保 yaml 有效，且角色和场景不为空。还要注意分号和编写 yaml 的其他问题。
展开：true

- 评价：
情节：“load_yaml（_.split（'```yaml')[1].split('```')[0].strip())”
"""

任务 = 客户端.任务.创建（
agent_id=代理.id，
**yaml.safe_load（任务_yaml）
)

### 步骤 3：执行任务

执行 = 客户端.执行.创建（
任务ID=任务ID，
输入={“idea”：“一只学飞的猫”}
)

# 🎉 观看故事和漫画面板的生成
while (result := client.executions.get(execution.id)).status 不在 ['成功', '失败'] 中：
打印（结果.状态，结果.输出）
时间.睡眠(1)

# 📦执行完成后，检索结果
如果 result.status ==“成功”：
打印（结果.输出）
别的：
引发异常（结果.错误）