AkashChat : Chat avec plusieurs modèles d'inférence sans connexion et demande d'API gratuites !

Introduction générale

AkashChat est une plateforme de chat décentralisée basée sur l'IA dans le nuage et alimentée par le système de gestion de l'information de l'entreprise. Réseau Akash développé et soutenu. Il tire parti de la puissance de calcul de haute performance fournie par les GPU NVIDIA pour faire tourner plusieurs modèles de langage ouverts (par exemple, QwQ-32B, Llama 3.3 70B, Llama 3.1 405B, DeepSeek R1 671B, etc.) afin d'offrir aux utilisateurs une expérience de conversation rapide, gratuite et respectueuse de la vie privée. AkashChat s'appuie sur l'architecture décentralisée d'Akash Supercloud pour s'affranchir des limites des services en nuage centralisés traditionnels. Il offre non seulement un temps de réponse rapide, mais il permet également de basculer entre plusieurs modèles d'IA, ce qui le rend adapté aux utilisateurs qui ont besoin d'un outil de conversation efficace.

La deuxième recommandation est AkashChat, qui fournit un accès sans connexion à une variété de modèles d'inférence de grande taille pour le chat, et offre une clé API gratuite, ce qui est très convivial pour ceux qui veulent accéder à de grands modèles du côté client mais ne veulent pas payer pour une API (et fournit même le modèle intégré BAAI-bge-large-en-v1-5 gratuitement). Page Assist + AkashChat Page Assist + AkashChat est très léger pour une utilisation quotidienne !

Interface API de l'application Akash : https://chatapi.akash.network/

existent Page Assist Configurer la clé dans le

Liste des fonctions

• Sélection multi-modèlePrise en charge de QwQ-32B, Llama 3.3 70B, DeepSeek R1 671B, Llama 3.1 405B, AkashGen (modèle de génération d'images) et d'autres modèles d'IA open-source, les utilisateurs peuvent changer en fonction de leurs besoins.
• Un dialogue performantTaux de réponse jusqu'à 27 jetons/seconde avec les GPU NVIDIA H100 et A100.
• Vie privéeLes journaux de conversation sont stockés localement, sans avoir besoin d'être téléchargés dans le nuage, ce qui garantit la sécurité des données de l'utilisateur.
• Aucune inscription n'est requiseVous pouvez l'utiliser en ouvrant la page web, aucune connexion à un compte n'est requise, l'opération est simple et pratique.
• Soutien à l'Open SourceLe code est entièrement ouvert, et les utilisateurs peuvent déployer ou apporter des fonctionnalités de leur propre chef.
• interface convivialeLe système d'information sur la vie privée : Il offre une interface de chat moderne, intuitive et adaptée aux utilisateurs novices comme aux professionnels.

Utiliser l'aide

Comment démarrer avec AkashChat

AkashChat ne nécessite l'installation d'aucun logiciel, il suffit de visiter https://chat.akash.network/即可使用 via votre navigateur. Vous trouverez ci-dessous des instructions détaillées pour aider les utilisateurs à démarrer rapidement et à tirer le meilleur parti de ses fonctionnalités.

Accès au site web

1. Ouvrez un navigateur moderne (Chrome, Firefox, Edge).
2. Tapez dans la barre d'adressehttps://chat.akash.network/et appuyez sur la touche Entrée.
3. Une fois la page chargée, vous serez confronté à une interface de chat simple et claire qui ne nécessite aucune connexion ou inscription pour pouvoir être utilisée directement.

Sélection des modèles d'IA

AkashChat prend en charge une variété de modèles d'IA open source, et les utilisateurs peuvent choisir le modèle approprié en fonction de leurs besoins. Les étapes de l'opération sont les suivantes :

• En haut de l'interface de chat ou dans la barre latérale (la position exacte peut changer en fonction de la dernière conception de l'interface), vous trouverez le menu déroulant "Sélection du modèle".
• En cliquant sur le menu déroulant, une liste des modèles actuellement pris en charge s'affiche, par exemple :
  • Llama 3.1 405BLe système de gestion de l'information de la Commission européenne est le suivant : il est adapté à la réponse à des questions complexes et à des performances puissantes.
  • Mistral-7BLe modèle : Un modèle léger, réactif et adapté à la conversation de tous les jours.
  • QwQ-32BLes modèles les plus récents et les plus performants, qui surpassent certains des plus grands modèles.
• Cliquez sur le nom du modèle que vous souhaitez et le système basculera automatiquement, le processus de basculement ne prenant généralement que quelques secondes.

Posez une question et obtenez une réponse

1. Dans la zone de saisie de texte de l'écran de chat, saisissez la question ou le contenu que vous souhaitez poser, par exemple "Quel temps fait-il aujourd'hui ?" ou "Écrivez-moi un petit texte". ou "Écrivez-moi un petit texte".
2. Appuyez sur Entrée ou cliquez sur le bouton Envoyer (généralement une icône en forme de flèche).
3. L'IA génère la réponse en quelques secondes et l'affiche dans une boîte de dialogue. La vitesse de réponse varie en fonction du modèle et des conditions du réseau et se situe généralement dans les 27 jetons/seconde.

Gérer les journaux de discussion

La conception de la confidentialité d'AkashChat est l'un de ses points forts, les journaux de chat ne sont pas téléchargés sur le serveur, mais stockés localement dans votre navigateur. Voici comment gérer vos logs :

• Voir l'historiqueLe dialogue précédent est automatiquement chargé à chaque fois que la page est ouverte (à condition que le même navigateur soit utilisé et que le cache ne soit pas vidé).
• Effacement des dossiersSi vous devez effacer l'historique de votre chat, vous pouvez vider le cache dans les paramètres de votre navigateur ou simplement utiliser le "mode sans trace" de votre navigateur pour éviter de conserver des traces.
• mise en gardeLes chats précédents ne peuvent pas être synchronisés après un changement d'appareil ou de navigateur, car les données ne sont pas stockées dans le nuage.

Déploiement d'un logiciel libre (utilisateurs avancés)

Pour les utilisateurs ayant un bagage technique, AkashChat fournit un code source ouvert qui peut être déployé localement ou sur le réseau Akash lui-même. Les étapes sont les suivantes :

1. Obtenir le code: Visitez le dépôt GitHub (https://github.com/akash-network/akash-chat) et cliquez sur "Clone" ou "Download ZIP" pour télécharger le code source. code source.
2. Installation des dépendances: :
   • Assurez-vous que Node.js et npm sont installés localement.
   • Allez dans le dossier du projet dans le terminal et exécuteznpm iInstaller les dépendances nécessaires.
3. Environnement de configuration: :
   • Dans le répertoire racine du projet, créez le fichier.env.localDocumentation.
   • Entrez dans la configuration suivante (adaptée à vos besoins réels) :

     DEFAULT_MODEL=mistral
     DEFAULT_SYSTEM_PROMPT=你是一个有帮助的助手，提供准确信息。
     API_KEY=你的密钥
     API_HOST=你的API端点（如Ollama部署地址）
     

4. Projets en cours: :
   • Dans le terminal, tapeznpm run devle serveur de développement local démarre.
   • Ouvrez votre navigateur et visitezhttp://localhost:3000Vous pouvez utiliser la version à déploiement automatique.
5. Déploiement vers Akash: :
   • Déployer le projet sur Akash Supercloud à l'aide de l'Akash Provider Console, se référer à la documentation du site web officiel d'Akash (https://akash.network/) pour les étapes détaillées.

Fonction en vedette Fonctionnement

• Changez de modèle pour découvrir différents stylesLlama 3.1 est idéal pour une analyse approfondie, tandis que Mistral-7B est plus concis et direct.
• Test de réponse rapideLes questions complexes (par exemple, "Expliquer la mécanique quantique") sont posées et la vitesse de réponse et la qualité des réponses sont observées.
• Utilisation du mode confidentialitéSi vous craignez une fuite de données, vous pouvez utiliser la fenêtre "Aucune trace" de votre navigateur pour vous assurer qu'aucune trace n'est laissée.

mise en garde

• exigences en matière de réseauStabilité du réseau : AkashChat s'appuie sur des calculs en temps réel et une latence élevée peut affecter l'expérience des utilisateurs.
• Contraintes du modèleCertains modèles peuvent ne pas être efficaces pour traiter des problèmes spécifiques à un domaine, et il est recommandé de changer de modèle plus souvent.
• Suggestions de retour d'informationSi vous rencontrez des problèmes ou si vous avez des suggestions de fonctionnalités, vous pouvez soumettre vos commentaires via GitHub et participer à la communauté open source pour l'améliorer.

Liste de modèles gratuits (pas exactement équivalents aux modèles proposés dans l'interface de chat)

Chat + Achèvements

DeepSeek-R1

DeepSeek-R1-Distill-Llama-70B

DeepSeek-R1-Distill-Qwen-14B

DeepSeek-R1-Distill-Qwen-32B

Meta-Llama-3-1-8B-Instruct-FP8

Meta-Llama-3-1-405B-Instruct-FP8

Meta-Llama-3-2-3B-Instruct

Meta-Llama-3-3-70B-Instruct

Intégration

BAAI-bge-large-en-v1-5