Quels sont les avantages du déploiement privé de DIfy ?

Dify est un moteur et une plateforme de développement pour les applications d'IA.

Si vous devez développer une application d'IA au niveau de l'entreprise, ou une application de corps intelligent, plusieurs options s'offrent généralement à vous :

- Rédiger à la main tout le code et s'interfacer avec toutes sortes d'interfaces API des grands fournisseurs de modèles.

- Utilisez certains des SDK qui ont une couche d'encapsulation, comme le SDK AI de Vercel.

- Utilisez une plateforme de développement d'applications d'IA comme Dify.

Les produits les plus similaires à Dify ont "boucle". Mais Button est un SaaS purement dans le nuage, qui n'est pas tout à fait adapté à la prise en charge et à la livraison aux clients dans le cadre d'une solution. Par conséquent, Dify, avec son code source ouvert et son déploiement privé facile, est un meilleur choix.

La licence de Dify est disponible dans le commerce

Bien que Dify utilise le protocole open source Apache, il existe des restrictions supplémentaires concernant l'utilisation commerciale :

1. les services multi-tenants ne sont pas autorisés ;

2) Il est interdit de modifier le logo et les informations relatives aux droits d'auteur de l'interface de la console Web de Dify.

Dans l'ensemble, cet accord sur les logiciels libres est encore très souple. Tant que vous déployez un ensemble distinct dédié à chaque entreprise cliente et que vous ne les laissez pas utiliser la console Web de Dify, vous ne l'enfreignez pas.

En d'autres termes, vous pouvez développer l'application smartbody sans écrire une seule ligne de code, en utilisant les outils de visualisation de la Dify Web Console, puis intégrer les API générées automatiquement dans votre propre solution.

Dois-je utiliser Dify pour mon projet ?

Il n'est pas nécessaire d'utiliser Dify pour développer une application de corps intelligent ; en fait, vous pouvez tout aussi bien intégrer les API d'OpenAI avec un vieux Java 8 et un backend Spring Boot.

Cependant, certaines caractéristiques des applications pour corps intelligents vont jusqu'au débogage constant des mots-clés et au traitement des données de la base de connaissances. L'utilisation de Dify peut grandement améliorer l'expérience et l'efficacité du développement. Il ne suffit pas de modifier les messages-guides et de publier une nouvelle version.

Le backend de Dify est développé en Python, car la plupart des composants de l'écosystème liés à l'IA ont des paquets Python directement disponibles. Contrairement aux backends Java, qui sont courants dans les applications d'entreprise, il est recommandé de les déployer de manière autonome, séparément des clusters d'entreprise.

Vue d'ensemble des composants Dify

Dify utilise une architecture commune de séparation du front-end et du back-end, avec un très grand nombre de composants et des méthodes de déploiement assez souples.

La solution de déploiement Docker Compose recommandée par le site officiel de Dify ne peut être utilisée que pour le développement local et l'expérience. Dans un environnement de production, vous devez utiliser K8s ou d'autres solutions de déploiement hautement disponibles en fonction de vos besoins.

Si l'on prend l'exemple de la version 0.15.3 de Dify, le déploiement d'un environnement de production nécessite les composants suivants :

composante essentielle

- api

- travailleur

- web

composante de base

- postgres

- redis

- bac à sable

- ssrf_proxy

- certbot

- nginx

- weaviate

La relation entre les composants est illustrée ci-dessous

Description détaillée de l'architecture en couches

extrémité arrière

Le backend de Dify comprend

- api", le service Python flask démarré avec gunicorn ;

- worker", démarré avec celery, consomme des tâches asynchrones de la file d'attente redis. Ces tâches sont par exemple des importations de fichiers de données et des mises à jour de documents de données.

avancer une partie de qqch.

Le frontend "web" est développé avec Next.js. Il est construit et démarré avec pm2 (node).

couche d'accès

Nginx est utilisé pour transmettre les requêtes web à l'api ou au web, et certbot est utilisé pour gérer automatiquement les certificats HTTPS.

couche de stockage

La couche de stockage de Dify utilise

- Base de données relationnelle PostgreSQL

- Base de données NoSQL/Cache Redis

- base de données vectoriellesLa valeur par défaut est Weaviate.

la sécurité

Dify, en tant que plateforme de développement d'applications, est disponible en tant qu'outil visuel pour orchestrer les nœuds de flux de travail afin de gérer la logique d'entreprise.

Le nœud de flux de travail permet à l'utilisateur d'exécuter du code Python/NodeJS, de sorte qu'un mécanisme de bac à sable est nécessaire pour empêcher l'utilisateur d'effectuer des opérations à haut risque.

Les deux modules suivants sont concernés

- Le "bac à sable" a été développé en Go.

- ssrf_proxy" est une prise réseau configurée avec Squid.

Comparaison avec LangChain

LangChain est le plus ancien cadre de développement d'applications LLM. Comme le montre la figure ci-dessous, Dify surpasse LangChain dans tous les domaines.

Déploiement privé de Dify dans des environnements de production

Si vous avez besoin de personnaliser des applications AI Intelligent Body pour vos clients et de fournir des solutions AI pour des industries verticales, envisagez de déployer Dify en privé dans un environnement de production.

Pour les deux raisons suivantes, il peut également être nécessaire de modifier et d'adapter en profondeur le code de Dify :

1. ouvrir les données internes de l'entreprise, en particulier rassembler les données internes structurées sous une forme qui peut être utilisée pour RAG de la base de connaissances.

2. ouvrir l'authentification de la connexion afin que les intelligences comprennent leur propre identité et puissent fournir des services personnalisés.