PocketPal AI：iOS和Android设备离线使用的小型语言模型聊天工具-首席AI分享圈

🚀邀请体验：中国首家 AI IDE 智能编程软件 Trae 中文版下载，不限量使用 DeepSeek-R1 和 Doubao-pro!

综合介绍

PocketPal AI 是一款开源的移动应用，旨在将小型语言模型（Small Language Models, SLMs）直接引入到你的手机中，无论是iOS还是Android用户都可以使用。它提供了一种不依赖网络的AI聊天体验，确保用户隐私，并且支持自动内存管理和丰富的模型选择。这个程序由Asghar Ghorbani开发，集成了Hugging Face模型库，用户可以通过应用直接下载和使用各种模型，满足不同需求的聊天和问题解决。

PocketPal AI：iOS和Android设备离线使用的小型语言模型聊天工具-1

功能列表

离线AI聊天：无需互联网连接即可使用AI进行对话。
模型多样性：支持多种小型语言模型，如Danube、Phi、Gemma 2等，用户可以根据需求选择和切换。
自动内存管理：应用会在后台自动卸载模型，节省设备资源。
Hugging Face模型集成：直接从Hugging Face模型库中搜索、下载和使用模型。
用户界面：提供了简洁直观的操作界面，方便用户管理模型和进行对话。
隐私保护：所有对话都在本地处理，确保数据不被传输到外部服务器。

使用帮助

安装流程

PocketPal AI的安装非常简单：

iOS用户:

打开App Store。
在搜索栏中输入"PocketPal AI"。
点击下载并安装应用。

Android用户:

打开Google Play Store。
搜索"PocketPal AI"。
点击安装。

使用指南

启动应用:

打开PocketPal AI应用，你会看到一个简单的首页，通常会有一个菜单按钮（可能显示为三条线或四个点）。

选择和下载模型:

点击菜单进入"Models"页面。这里列出了所有预装的模型和可从Hugging Face下载的模型。
选择你感兴趣的模型，点击"Download"按钮开始下载。下载后，点击"Load"按钮将模型加载到内存中。

开始对话:

从菜单中选择"Chat"，进入聊天界面。
在文本输入框中输入你的问题或对话内容，点击发送。模型会根据当前加载的模型给出回答。

模型高级设置:

在"Models"页面，点击模型旁边的箭头图标（v），你将看到一系列高级设置选项，如调整温度、BOS token等，这些可以优化模型的输出效果。

管理内存:

PocketPal AI会自动管理模型的内存使用。如果你开启了"Auto Offload/Load"功能，应用会智能地在后台卸载模型，节省资源。

复制对话内容:

长按对话中的任何部分可以复制特定段落，而点击对话气泡底部的复制图标则会复制整个响应。

常见问题和解决方法:

模型加载慢或应用崩溃：首先检查是否开启了Metal API（仅iOS），如果有问题，可以尝试关闭。如果问题依然存在，请在GitHub上报告问题。
找不到所需模型：通过Hugging Face集成的搜索功能，你可以搜索更多的模型。如果依然找不到，你可以尝试手动下载GGUF格式的模型并通过"Add Local Model"选项导入。

PocketPal AI的使用体验是高度个性化的，你可以根据自己的需求调整和使用不同的模型，享受即时、私密的AI对话服务。在使用过程中，可能会遇到一些小问题，但通过社区的支持和开发者的持续更新，这些问题都能得到有效解决。无论你是需要一个私密的对话助手，还是想在没有网络的情况下使用AI，PocketPal AI都是一个值得尝试的开源工具。