LocalGPT : garantir la confidentialité des données en s'adressant à plusieurs documents sur des appareils locaux

Introduction générale

LocalGPT est un projet open source conçu pour permettre aux utilisateurs de dialoguer avec des documents sur des appareils locaux, tout en garantissant la confidentialité des données. En utilisant une variété de modèles open source, LocalGPT peut traiter et comprendre le contenu des documents sans télécharger les données vers le nuage. Le projet prend en charge plusieurs plateformes, y compris GPU, CPU, HPU et MPS, et fournit des fonctionnalités riches telles que l'historique des sessions, les interfaces API et les interfaces graphiques. L'objectif de LocalGPT est de fournir aux utilisateurs un environnement d'interaction sécurisé et privé avec les documents pour les scénarios qui nécessitent une protection élevée de la vie privée.

Liste des fonctions

• confidentialité des donnéesLe traitement des données est effectué sur l'appareil local, ce qui garantit la sécurité des données de 100%.
• Prise en charge de plusieurs modèlesLes modèles d'évaluation de la qualité de l'air : Une large gamme de modèles open source est prise en charge, y compris HF, GPTQ, GGML et GGUF.
• Intégration multipleLes options d'encastrement à source ouverte sont nombreuses.
• Réutilisation du modèleLe LLM peut être réutilisé après avoir été téléchargé, il n'est donc pas nécessaire de le télécharger encore et encore.
• histoire de la conversationLes informations relatives à l'historique du dialogue au cours d'une session sont conservées.
• Interface APIRAG : fournit une interface API pour faciliter la création d'applications RAG.
• interface utilisateur graphique (GUI)Le logiciel est basé sur l'API et fournit une interface graphique autonome (basée sur la lumière du jour).
• Support multiplateformeLa solution est compatible avec de nombreuses plateformes telles que CUDA, CPU, HPU (Intel® Gaudi®) et MPS.

Utiliser l'aide

Processus d'installation

1. entrepôt de clonesPour cloner le référentiel LocalGPT, exécutez la commande suivante dans un terminal :

   git clone https://github.com/PromtEngineer/localGPT.git

2. Installation des dépendancesLe projet doit être installé dans le répertoire du projet et les dépendances nécessaires doivent être installées :

   cd localGPT
pip install -r requirements.txt

3. Environnement de configurationLes variables d'environnement et les chemins d'accès aux modèles peuvent être configurés si nécessaire.

Utilisation

1. Démarrage des servicesPour démarrer le service LocalGPT, exécutez la commande suivante :

   python run_localGPT.py

2. interface d'accèsL'interface utilisateur graphique (GUI) : Ouvrez un navigateur et visitez l'adresse locale fournie pour accéder à l'interface utilisateur graphique (GUI).
3. Télécharger un documentLes documents à traiter peuvent être téléchargés dans l'interface.
4. Entamer un dialogueLocalGPT : Saisissez une question dans la boîte de dialogue et LocalGPT générera une réponse basée sur le contenu du document.

Fonctionnement détaillé

• confidentialité des donnéesLes utilisateurs n'ont pas à s'inquiéter des fuites de données. Les utilisateurs n'ont pas à s'inquiéter des fuites de données.
• Prise en charge de plusieurs modèlesLocalGPT supporte une variété de modèles open source, les utilisateurs peuvent choisir le modèle approprié pour le traitement des documents en fonction de leurs besoins.
• histoire de la conversationLocalGPT enregistre l'historique des conversations dans une session, ce qui permet aux utilisateurs de visualiser et de gérer facilement le contenu des conversations précédentes.
• Interface APILocalGPT fournit des interfaces API que les développeurs peuvent utiliser pour créer leurs propres applications RAG afin de les personnaliser davantage.
• interface utilisateur graphique (GUI)LocalGPT fournit une interface graphique basée sur la lumière du jour qui permet aux utilisateurs de télécharger des documents et d'effectuer des opérations de dialogue par le biais d'une interface intuitive.

Exemple de procédure opérationnelle

1. Télécharger un documentCliquez sur le bouton "Upload Document" et sélectionnez le fichier du document à traiter.
2. Problèmes de saisie: Saisissez une question dans la boîte de dialogue, par exemple "Quel est le contenu principal de ce document ? .
3. Voir la réponseLocalGPT génère des réponses basées sur le contenu du document et les affiche dans une boîte de dialogue.
4. Gérer les sessionsLes utilisateurs peuvent consulter et gérer l'historique de leur session afin de pouvoir s'y référer et l'utiliser plus facilement par la suite.