Julep AI: una plataforma de IA en la nube para crear flujos de trabajo corporales inteligentes de varios pasos mediante DSL

Introducción general

Julep AI es una plataforma para crear y gestionar inteligencias de IA que recuerdan interacciones pasadas y realizan tareas complejas de varios pasos.Julep AI proporciona memoria a largo plazo y capacidades de gestión de procesos de varios pasos y admite la integración con herramientas y API externas, lo que le permite manejar escenarios complejos. Los usuarios pueden escribir sencillos archivos YAML para definir los pasos individuales de una tarea, puntos de decisión, bucles, procesamiento paralelo, etc., y automatizar la ejecución de estas tareas en la nube.

Julep AI introduce un nuevo Lenguaje de Dominio Específico (DSL) y un servidor para gestionar inteligencias de IA y tareas de múltiples pasos. Este DSL permite a los usuarios describir y gestionar de forma más intuitiva flujos de trabajo complejos sin tener que escribir grandes cantidades de código tradicional.La plataforma en la nube de Julep AI se encarga de ejecutar estas tareas, garantizando que sean fiables y eficientes.

Lista de funciones

• Agente de IA persistente: Las inteligencias son capaces de recordar el contexto y la información para favorecer la interacción a largo plazo.
• sesión completaSeguimiento de interacciones anteriores para ofrecer una respuesta personalizada.
• tarea de varios pasos: Construye procesos complejos de varios pasos mediante bucles y decisiones.
• Gestión de tareasGestión de tareas: Gestiona tareas que pueden ejecutarse durante largos periodos de tiempo y garantiza que las tareas se completen con éxito.
• Herramientas integradas e integración de API: Admite el uso de herramientas integradas y API externas para ampliar la funcionalidad de las inteligencias.
• autocuración: Reintenta automáticamente los pasos fallidos y reenvía el mensaje para garantizar que la tarea se ejecuta sin problemas.
• RAG (Generación de Aumento de la Recuperación): Utiliza un almacén de documentos para construir un sistema de recuperación y utilización de tus propios datos.

Utilizar la ayuda

Proceso de instalación

1. Registrar una cuentaVisita la página web de Julep AI, haz clic en el botón "Registrarse" y rellena la información necesaria para completar tu inscripción.
2. Obtener clave APIDespués de iniciar sesión, busque la opción de generación de clave API en el panel de usuario para generar y guardar la clave API.
3. Descargar SDKDescargue el SDK adecuado (por ejemplo, Python, Node.js, etc.) según los requisitos de la plataforma e instálelo de acuerdo con la documentación.

Normas de uso

Crear inteligencia

1. Definir la inteligenciaEn el panel de control, haga clic en "Crear inteligencia" y rellene el nombre y la descripción de la inteligencia.
2. modelo de configuraciónElección de un modelo de IA adecuado (por ejemplo, GPT-4) y configuración de los parámetros por defecto (por ejemplo, temperatura, número máximo de fichas, etc.).
3. Añadir herramientas: Añade las herramientas necesarias para las inteligencias, como la búsqueda web, las llamadas API, etc.

Definición de procesos de varios pasos

1. Escribir archivos YAMLEn el panel de control, escriba un proceso de varios pasos utilizando YAML para definir árboles de decisión, bucles y ejecución paralela.
2. Cargar archivosSube el archivo YAML escrito a la plataforma y pruébalo.
3. Proceso de implantaciónUna vez superada la prueba, haga clic en el botón "Desplegar" para poner el proceso en línea.

Creación rápida de prototipos

1. Crear un nuevo proyectoEn el panel de control, haga clic en "Nuevo proyecto" y escriba el nombre y la descripción del proyecto.
2. Añadir módulo de funcionesSeleccione y añada los módulos funcionales necesarios (por ejemplo, GAR, gestión de estado, etc.) según sus necesidades.
3. Pruebas e iteraciónPruebas en la plataforma, ajuste y optimización de los módulos funcionales en tiempo real.

Preparación del nivel de producción

1. Infraestructura de configuraciónEn el panel de control, configure las opciones de infraestructura, como el autoescalado, el equilibrio de carga, etc.
2. Configuración del tratamiento de erroresDefinir mecanismos de gestión de errores para garantizar que las tareas se reintentan automáticamente en caso de fallo.
3. Proyectos en líneaUna vez completada la configuración, haga clic en el botón "Go Live" para poner el proyecto en producción.

Diseño modular

1. Seleccionar móduloEn el panel de control, busque y seleccione el módulo deseado (por ejemplo, conexión API externa, conmutación LLM, etc.).
2. integración de arrastrar y soltar: Integre módulos en proyectos mediante una interfaz de arrastrar y soltar.
3. Pruebas y optimizaciónPruebas en tiempo real de la funcionalidad de los módulos para su optimización y ajuste.

Expansión ilimitada

1. Configuración de opciones ampliadasEn el Panel de control, configure las opciones Auto Scaling y Load Balancing.
2. Control del rendimientoMonitoriza el rendimiento del sistema y la concurrencia de usuarios en tiempo real utilizando las herramientas de monitorización proporcionadas por la plataforma.
3. Ajuste de la configuraciónAjuste las configuraciones de expansión y equilibrio de carga basándose en los datos de monitorización para garantizar un funcionamiento estable del sistema.

prepararse para el futuro

1. Añadir nuevo modeloEn el Panel de control, haga clic en "Añadir nuevo modelo" para seleccionar y configurar un nuevo modelo de IA.
2. Integración de nuevas herramientas: Explore las nuevas herramientas que ofrece la plataforma, selecciónelas e intégrelas en los proyectos existentes.
3. Pruebas y desplieguePruebe los nuevos modelos y herramientas para garantizar la compatibilidad y la estabilidad y, a continuación, impleméntelos.

ejemplo de tarea

Julep es muy adecuado para aplicaciones que requieren casos de uso de IA que van más allá de los simples modelos de respuesta a las señales.

Ejemplo rápido

Imagina un agente de IA de investigación que pueda realizar las siguientes acciones:

• Seleccione un tema
• 30 búsquedas sobre este tema
• Búsqueda simultánea en Internet
• Resumen de resultados
• Enviar resumen a Discordia

En Julep, esto será una tarea separada, 80 líneas de código y luego ejecutar totalmente alojado todo hecho de forma independiente. Todos los pasos se realizan en los propios servidores de Julep, por lo que no tienes que hacer nada.

Este es un ejemplo válido:

name: Research Agent
# Optional: Define the input schema for the task
input_schema:
type: object
properties:
topic:
type: string
description: The main topic to research
num_questions:
type: integer
description: The number of search queries to generate
# Define the tools that the agent can use
tools:
- name: web_search
type: integration
integration:
provider: brave
setup:
api_key: <your-brave-api-key>
- name: discord_webhook
type: api_call
api_call:
url: https://discord.com/api/webhooks/<your-webhook-id>/<your-webhook-token>
method: POST
headers:
Content-Type: application/json
# Special variables:
# - inputs: for accessing the input to the task
# - outputs: for accessing the output of previous steps
# - _: for accessing the output of the previous step
# Define the main workflow
main:
- prompt:
- role: system
content: >-
You are a research assistant.
Generate {{inputs[0].num_questions|default(30, true)}} diverse search queries related to the topic:
{{inputs[0].topic}}

Write one query per line.
unwrap: true
# Evaluate the search queries using a simple python expression
- evaluate:
search_queries: "_.split(NEWLINE)"
# Run the web search in parallel for each query
- over: "_.search_queries"
map:
tool: web_search
arguments:
query: "_"
parallelism: 5
# Collect the results from the web search
- evaluate:
search_results: _
# Summarize the results
- prompt:
- role: system
content: >
You are a research summarizer. Create a comprehensive summary of the following research results on the topic {{inputs[0].topic}}.
The summary should be well-structured, informative, and highlight key findings and insights. Keep the summary concise and to the point.
The length of the summary should be less than 150 words.
Here are the search results:
{{_.search_results}}
  unwrap: true
settings:
model: gpt-4o-mini
- evaluate:
discord_message: |-
f'''
**Research Summary for {inputs[0].topic}**
{_}
'''

# Send the summary to Discord
- tool: discord_webhook
arguments:
json_: 
content: _.discord_message[:2000] # Discord has a 2000 character limit

En este ejemplo, Julep gestionará automáticamente la ejecución en paralelo, reintentará los pasos fallidos, reenviará las peticiones a la API y mantendrá la tarea ejecutándose de forma fiable hasta su finalización.

Ejemplos de resultados

Esto se ejecuta en 30 segundos y devuelve la siguiente salida:

Resumen de la investigación sobre inteligencia artificial

Resumen de los resultados de la investigación sobre Inteligencia Artificial (IA)

breve
En los últimos años se han producido avances significativos en el campo de la Inteligencia Artificial (IA), caracterizados por el desarrollo de métodos y técnicas que permiten a las máquinas percibir su entorno, aprender de los datos y tomar decisiones. Este resumen se centra en los resultados de diversas investigaciones relacionadas con la IA.

Principales resultados

• Definición y alcance de la inteligencia artificial ::
  La inteligencia artificial se define como una rama de la informática que se centra en la creación de sistemas capaces de realizar tareas que requieren una inteligencia similar a la humana, como el aprendizaje, el razonamiento y la resolución de problemas (Wikipedia). Abarca diversos subcampos, como el aprendizaje automático, el procesamiento del lenguaje natural, la robótica y la visión por ordenador.
• Impacto y aplicación ::
  La tecnología de IA se está integrando en numerosos campos para mejorar la eficiencia y la productividad. Las aplicaciones van desde los coches autoconducidos y el diagnóstico médico hasta la automatización del servicio de atención al cliente y la previsión financiera (OpenAI). El compromiso de Google de hacer que la IA funcione para todos pone de relieve su potencial para mejorar significativamente la vida cotidiana mejorando la experiencia del usuario en todas las plataformas (Google AI).
• consideraciones éticas ::
  Hay un debate en curso sobre las implicaciones éticas de la IA, incluidas las preocupaciones sobre la privacidad, la parcialidad y la responsabilidad en los procesos de toma de decisiones. Se hizo hincapié en la necesidad de un marco que garantice el uso seguro y responsable de las tecnologías de IA (OpenAI).
• Mecanismos de aprendizaje ::
  Los sistemas de IA utilizan distintos mecanismos de aprendizaje, como el aprendizaje supervisado, el aprendizaje no supervisado y el aprendizaje por refuerzo. Estos métodos permiten a la IA mejorar su rendimiento aprendiendo de experiencias y datos anteriores (Wikipedia). La diferencia entre aprendizaje supervisado y no supervisado es crucial: el primero se basa en datos etiquetados, mientras que el segundo reconoce patrones sin etiquetas predefinidas (no supervisado).
• dirección futura ::
  Se espera que los futuros avances en IA se centren en mejorar la interpretabilidad y transparencia de los sistemas de IA para garantizar que sean capaces de proporcionar decisiones y acciones acertadas (OpenAI). También se están haciendo esfuerzos para que los sistemas de IA sean más accesibles y fáciles de usar, fomentando una mayor adopción de los mismos por parte de diferentes personas e industrias (Google AI).

llegar a un veredicto
La inteligencia artificial representa una fuerza transformadora en múltiples ámbitos y promete remodelar las industrias y mejorar la calidad de vida. Sin embargo, a medida que aumentan sus capacidades, es fundamental abordar las implicaciones éticas y sociales que conlleva. La investigación y la colaboración continuas entre tecnólogos, especialistas en ética y responsables políticos serán fundamentales para navegar por el futuro panorama de la IA.

Proceso de implantación de Python

Para empezar a usar Julep, instálalo usando pip:

pip install julep

Obtenga su clave API aquí.

### Step 0: Setup

import time
import yaml
from julep import Julep # or AsyncJulep

client = Julep(api_key="your_julep_api_key")

### Step 1: Create an Agent

agent = client.agents.create(
name="Storytelling Agent",
model="claude-3.5-sonnet",
about="You are a creative storyteller that crafts engaging stories on a myriad of topics.",
)

### Step 2: Create a Task that generates a story and comic strip

task_yaml = """
name: Storyteller
description: Create a story based on an idea.

tools:
- name: research_wikipedia
type: integration
integration:
provider: wikipedia
method: search

main:
# Step 1: Generate plot idea
- prompt:
- role: system
content: You are {{agent.name}}. {{agent.about}}
- role: user
content: >
Based on the idea '{{_.idea}}', generate a list of 5 plot ideas. Go crazy and be as creative as possible. Return your output as a list of long strings inside ```yaml 标签位于您的回复末尾。
展开：true

- 评价：
情节想法：load_yaml（_.split（'```yaml')[1].split('```')[0].strip())

# 第二步：从情节思路中提取研究领域
- 迅速的：
- 角色：系统
内容：您是 {{agent.name}}。{{agent.about}}
- 角色：用户
内容: >
以下是一些故事情节的想法：
{% 表示 _.plot_ideas 中的想法 %}
- {{主意}}
{% 结束 %}

为了发展故事情节，我们需要研究情节思路。
我们应该研究什么？写下你认为有趣的情节想法的维基百科搜索查询。
将输出作为 yaml 列表返回```yaml tags at the end of your response.
unwrap: true
settings:
model: gpt-4o-mini
temperature: 0.7

- evaluate:
research_queries: load_yaml(_.split('```yaml')[1].split('```')[0].strip())

# Step 3: Research each plot idea
- foreach:
in: _.research_queries
do:
tool: research_wikipedia
arguments:
query: _

- evaluate:
wikipedia_results: 'NEWLINE.join([f"- {doc.metadata.title}: {doc.metadata.summary}" for item in _ for doc in item.documents])'

# Step 4: Think and deliberate
- prompt:
- role: system
content: You are {{agent.name}}. {{agent.about}}
- role: user
content: |-
Before we write the story, let's think and deliberate. Here are some plot ideas:
{% for idea in outputs[1].plot_ideas %}
- {{idea}}
{% endfor %}

Here are the results from researching the plot ideas on Wikipedia:
{{_.wikipedia_results}}

Think about the plot ideas critically. Combine the plot ideas with the results from Wikipedia to create a detailed plot for a story.
Write down all your notes and thoughts.
Then finally write the plot as a yaml object inside ```yaml 标签位于响应末尾。yaml 对象应具有以下结构：

```yaml
title: "<string>"
characters:
- name: "<string>"
about: "<string>"
synopsis: "<string>"
scenes:
- title: "<string>"
description: "<string>"
characters:
- name: "<string>"
role: "<string>"
plotlines:
- "<string>"```

确保 yaml 有效，且角色和场景不为空。还要注意分号和编写 yaml 的其他问题。
展开：true

- 评价：
情节：“load_yaml（_.split（'```yaml')[1].split('```')[0].strip())”
"""

任务 = 客户端.任务.创建（
agent_id=代理.id，
**yaml.safe_load（任务_yaml）
)

### 步骤 3：执行任务

执行 = 客户端.执行.创建（
任务ID=任务ID，
输入={“idea”：“一只学飞的猫”}
)

# 🎉 观看故事和漫画面板的生成
while (result := client.executions.get(execution.id)).status 不在 ['成功', '失败'] 中：
打印（结果.状态，结果.输出）
时间.睡眠(1)

# 📦执行完成后，检索结果
如果 result.status ==“成功”：
打印（结果.输出）
别的：
引发异常（结果.错误）