PocketPal AI: iOS 및 Android 기기에서 오프라인으로 사용할 수 있는 소규모 언어 모델링 채팅 도구

일반 소개

PocketPal AI 是一款开源的移动应用，旨在将小型语言模型（Small Language Models, SLMs）直接引入到你的手机中，无论是iOS还是Android用户都可以使用。它提供了一种不依赖网络的AI聊天体验，确保用户隐私，并且支持自动内存管理和丰富的模型选择。这个程序由Asghar Ghorbani开发，集成了Hugging Face模型库，用户可以通过应用直接下载和使用各种模型，满足不同需求的聊天和问题解决。

기능 목록

• 离线AI聊天：无需互联网连接即可使用AI进行对话。
• 모델 다양성：支持多种小型语言模型，如Danube、Phi、Gemma 2等，用户可以根据需求选择和切换。
• 自动内存管理：应用会在后台自动卸载模型，节省设备资源。
• Hugging Face模型集成：直接从Hugging Face模型库中搜索、下载和使用模型。
• 사용자：提供了简洁直观的操作界面，方便用户管理模型和进行对话。
• 개인정보 보호：所有对话都在本地处理，确保数据不被传输到外部服务器。

도움말 사용

설치 프로세스

PocketPal AI的安装非常简单：

iOS用户:

1. 打开App Store。
2. 在搜索栏中输入"PocketPal AI"。
3. 点击下载并安装应用。

Android用户:

1. 打开Google Play Store。
2. 搜索"PocketPal AI"。
3. 설치를 클릭합니다.

사용 가이드라인

启动应用:

• 打开PocketPal AI应用，你会看到一个简单的首页，通常会有一个菜单按钮（可能显示为三条线或四个点）。

选择和下载模型:

• 点击菜单进入"Models"页面。这里列出了所有预装的模型和可从Hugging Face下载的模型。
• 选择你感兴趣的模型，点击"Download"按钮开始下载。下载后，点击"Load"按钮将模型加载到内存中。

开始对话:

• 从菜单中选择"Chat"，进入聊天界面。
• 在文本输入框中输入你的问题或对话内容，点击发送。模型会根据当前加载的模型给出回答。

模型高级设置:

• 在"Models"页面，点击模型旁边的箭头图标（v），你将看到一系列高级设置选项，如调整温度、BOS token等，这些可以优化模型的输出效果。

管理内存:

• PocketPal AI会自动管理模型的内存使用。如果你开启了"Auto Offload/Load"功能，应用会智能地在后台卸载模型，节省资源。

复制对话内容:

• 长按对话中的任何部分可以复制特定段落，而点击对话气泡底部的复制图标则会复制整个响应。

常见问题和解决方法:

• 模型加载慢或应用崩溃：首先检查是否开启了Metal API（仅iOS），如果有问题，可以尝试关闭。如果问题依然存在，请在GitHub上报告问题。
• 找不到所需模型：通过Hugging Face集成的搜索功能，你可以搜索更多的模型。如果依然找不到，你可以尝试手动下载GGUF格式的模型并通过"Add Local Model"选项导入。

PocketPal AI的使用体验是高度个性化的，你可以根据自己的需求调整和使用不同的模型，享受即时、私密的AI对话服务。在使用过程中，可能会遇到一些小问题，但通过社区的支持和开发者的持续更新，这些问题都能得到有效解决。无论你是需要一个私密的对话助手，还是想在没有网络的情况下使用AI，PocketPal AI都是一个值得尝试的开源工具。

PocketPal AI 安卓安装包和模型下载

夸克：https://pan.quark.cn/s/06f5cf4ece85 提取码：D8m2