¿Cuáles son las ventajas del despliegue privado de DIfy?

Dify es un motor y una plataforma de desarrollo para aplicaciones de IA.

Si necesita desarrollar una aplicación de IA a nivel empresarial, o una aplicación de cuerpo inteligente, generalmente existen varias opciones:

- Escriba a mano todo el código y conéctese con todo tipo de interfaces API de grandes proveedores de modelos.

- Utiliza algunos de los SDK que tienen una capa de encapsulación, como el AI SDK de Vercel.

- Utiliza una plataforma de desarrollo de aplicaciones de IA como Dify.

Los productos más similares a Dify tienen "hebilla". Pero Button es un SaaS en la nube puro, no muy adecuado para tomar y entregar a los clientes como parte de una solución. Por lo tanto, Dify, con su código fuente abierto y fácil despliegue privado, es una mejor opción.

La licencia de Dify está disponible comercialmente

Aunque Dify utiliza el protocolo Apache de código abierto, existen algunas restricciones adicionales para su uso comercial:

1. Los servicios multi-tenancy no están permitidos;

2. Los cambios en el logotipo y la información de derechos de autor de la interfaz de la Consola Web de Dify no están permitidos.

En general, este protocolo de código abierto es todavía muy flojo. Siempre y cuando despliegue un conjunto separado dedicado a cada cliente empresarial y no les permita usar la Consola Web de Dify, no lo estará violando.

En otras palabras, usted puede construir la aplicación smartbody sin escribir una sola línea de código, utilizando las herramientas de visualización de la Consola Web de Dify, y luego integrar las APIs auto-generadas en su propia solución.

¿Necesito utilizar Dify para mi proyecto?

No tienes que usar Dify para desarrollar una aplicación de cuerpo inteligente; esencialmente, puedes integrar las APIs de OpenAI con un viejo backend de Java 8 y Spring Boot igual de bien.

Sin embargo, hay algunas características de las aplicaciones corporales inteligentes que pasan por la depuración constante de las palabras clave y el procesamiento de los datos de la base de conocimientos. El uso de Dify puede mejorar enormemente la experiencia y la eficacia del desarrollo. No basta con cambiar las indicaciones y lanzar una nueva versión.

El backend de Dify está desarrollado en Python, ya que la mayor parte del ecosistema de componentes relacionados con la IA tiene paquetes Python directamente disponibles. A diferencia de los backends Java, habituales en las aplicaciones empresariales, se recomienda que se desplieguen de forma autónoma, separados de los clústeres empresariales.

Visión general de los componentes de Dify

Dify utiliza una arquitectura común de separación de front-end y back-end, con un gran número de componentes y métodos de despliegue bastante flexibles.

La solución de despliegue Docker Compose recomendada por el sitio web oficial de Dify sólo se puede utilizar para el desarrollo local y la experiencia. En un entorno de producción, debe utilizar K8s u otras soluciones de despliegue de alta disponibilidad de acuerdo a sus necesidades.

Tomando como ejemplo la versión 0.15.3 de Dify, un despliegue en un entorno de producción requiere los siguientes componentes:

componente esencial

- API

- trabajador

- web

componente básico

- postgres

- redis

- caja de arena

- ssrf_proxy

- certbot

- nginx

- weaviate

A continuación se muestra la relación entre los componentes

Descripción detallada de la estratificación arquitectónica

parte trasera

El backend de Dify incluye

- "api", el servicio de frascos Python iniciado con gunicorn;

- "worker", iniciado con celery, consume tareas asíncronas de la cola de redis. Estas tareas son cosas como importaciones de archivos de conjuntos de datos y actualizaciones de documentos de conjuntos de datos.

adelantar parte de algo

El frontend "web" está desarrollado con Next.js. Se construye y arranca con pm2 (node).

capa de acceso

Nginx se utiliza para reenviar las peticiones web a la api o web, y certbot se utiliza para gestionar automáticamente los certificados HTTPS.

capa de almacenamiento

La capa de almacenamiento de Dify utiliza

- Base de datos relacional PostgreSQL

- Base de datos NoSQL/Cache Redis

- base de datos vectorialPor defecto es Weaviate.

seguridad

Dify, como plataforma de desarrollo de aplicaciones, está disponible como una herramienta visual para orquestar nodos de flujo de trabajo para manejar la lógica de negocio.

El nodo de flujo de trabajo permite al usuario ejecutar código Python/NodeJS, por lo que se necesita un mecanismo Sandbox para restringir al usuario la realización de operaciones de alto riesgo.

Se trata de los dos módulos siguientes

- "sandbox" fue desarrollado en Go.

- "ssrf_proxy" es una salida de red configurada con squid.

Comparación con LangChain

LangChain es el marco de desarrollo de aplicaciones LLM más antiguo. Como se puede ver en la siguiente figura, Dify supera a LangChain en todos los aspectos.

Despliegue privado de Dify en entornos de producción

Si necesita personalizar aplicaciones de AI Intelligent Body para sus clientes y proporcionar soluciones de AI para industrias verticales, considere implementar Dify de forma privada en un entorno de producción.

Por las dos razones siguientes, también puede ser necesario modificar y personalizar en profundidad el código de Dify:

1. Abrir los datos internos de la empresa, en particular para cotejar los datos internos estructurados de forma que puedan utilizarse para RAG de la base de conocimientos.

2. Abrir la autenticación de inicio de sesión para que las inteligencias comprendan su propia identidad y puedan ofrecer servicios personalizados.