PocketPal AI : un petit outil de modélisation du langage pour une utilisation hors ligne sur les appareils iOS et Android

Introduction générale

PocketPal AI est une application mobile open source conçue pour apporter les petits modèles linguistiques (SLM) directement sur votre téléphone portable pour les utilisateurs d'iOS et d'Android. Elle offre une expérience de chat IA indépendante du web qui garantit la confidentialité de l'utilisateur et prend en charge la gestion automatique de la mémoire ainsi qu'une riche sélection de modèles. Développée par Asghar Ghorbani, cette application s'intègre à la bibliothèque de modèles Hugging Face, ce qui permet aux utilisateurs de télécharger et d'utiliser une large gamme de modèles directement via l'application pour différents besoins de chat et de résolution de problèmes.

Liste des fonctions

• Chat IA hors ligneL'IA peut être utilisée pour le dialogue sans connexion internet.
• Diversité des modèlesLe système d'information sur les langues : il prend en charge une variété de petits modèles linguistiques, tels que Danube, Phi, Gemma 2, etc., que les utilisateurs peuvent choisir et changer en fonction de leurs besoins.
• Gestion automatique de la mémoireL'application désinstalle automatiquement les modèles en arrière-plan, ce qui permet d'économiser les ressources de l'appareil.
• Intégration du modèle du visage étreintLes modèles : Recherchez, téléchargez et utilisez des modèles directement à partir de la bibliothèque de modèles de Hugging Face.
• utilisateurLe système de gestion des modèles et du dialogue : Il fournit une interface simple et intuitive pour la gestion des modèles et du dialogue par l'utilisateur.
• Vie privéeLes dialogues sont traités localement, ce qui garantit que les données ne sont pas transférées vers des serveurs externes.

Utiliser l'aide

Processus d'installation

PocketPal AI est très facile à installer :

Utilisateurs iOS.

1. Ouvrez l'App Store.
2. Tapez "PocketPal AI" dans la barre de recherche.
3. Cliquez pour télécharger et installer l'application.

Utilisateurs d'Android.

1. Ouvrez le Google Play Store.
2. Recherchez "PocketPal AI".
3. Cliquez sur Installer.

Lignes directrices pour l'utilisation

Lancer l'application.

• Lorsque vous ouvrez l'application PocketPal AI, vous verrez une page d'accueil simple, généralement avec un bouton de menu (qui peut se présenter sous la forme de trois lignes ou de quatre points).

Sélectionner et télécharger des modèles.

• Cliquez sur le menu pour accéder à la page "Modèles". Cette page répertorie tous les modèles préinstallés et ceux qui peuvent être téléchargés à partir de Hugging Face.
• Sélectionnez le modèle qui vous intéresse et cliquez sur le bouton "Télécharger" pour lancer le téléchargement. Après le téléchargement, cliquez sur le bouton "Charger" pour charger le modèle dans la mémoire.

Entamer un dialogue.

• Sélectionnez "Chat" dans le menu pour accéder à l'écran de chat.
• Saisissez votre question ou votre dialogue dans la zone de saisie de texte et cliquez sur Envoyer. Le modèle donnera une réponse basée sur le modèle actuellement chargé.

Modèle Paramètres avancés.

• Sur la page "Modèles", cliquez sur l'icône en forme de flèche (v) à côté du modèle et vous aurez accès à une série de paramètres avancés tels que l'ajustement de la température, le jeton BOS, etc. qui peuvent optimiser la sortie du modèle.

Gestion de la mémoire.

• PocketPal AI gère automatiquement l'utilisation de la mémoire des modèles. Si vous activez la fonction "Auto Offload/Load", l'application déchargera intelligemment les modèles en arrière-plan pour économiser les ressources.

Reproduire le dialogue.

• Un appui long sur n'importe quelle partie d'un dialogue permet de copier un paragraphe spécifique, tandis qu'un clic sur l'icône de copie au bas de la bulle de dialogue permet de copier l'intégralité de la réponse.

Questions fréquemment posées et solutions.

• Chargement lent du modèle ou plantage de l'applicationLes problèmes liés à l'API Metal : Vérifiez d'abord si l'API Metal est activée (iOS uniquement), et essayez de la désactiver si cela pose un problème. Si le problème persiste, signalez-le sur GitHub.
• Impossible de trouver le modèle requisVous pouvez rechercher d'autres modèles en utilisant la fonction de recherche intégrée dans Hugging Face. Si vous ne trouvez toujours pas de modèle, vous pouvez essayer de le télécharger manuellement au format GGUF et l'importer à l'aide de l'option "Ajouter un modèle local".

L'expérience d'utilisation de PocketPal AI est hautement personnalisée, vous pouvez ajuster et utiliser différents modèles en fonction de vos besoins et profiter des services de conversation instantanée et privée de l'IA. Au cours de l'utilisation de l'appareil, vous pouvez rencontrer quelques problèmes mineurs, mais ils peuvent être résolus efficacement grâce au soutien de la communauté et aux mises à jour continues des développeurs. Que vous ayez besoin d'un assistant de dialogue privé ou que vous souhaitiez utiliser l'IA sans Internet, PocketPal AI est un outil open source qui mérite d'être essayé.

PocketPal AI Android Installer et télécharger le modèle

Quarks : https://pan.quark.cn/s/06f5cf4ece85 Code d'extrait : D8m2