PocketPal AI: небольшой инструмент для моделирования языка в чате для автономного использования на устройствах iOS и Android

Общее введение

PocketPal AI - это мобильное приложение с открытым исходным кодом, предназначенное для создания малых языковых моделей (МЯМ) непосредственно на вашем мобильном телефоне для пользователей iOS и Android. Оно обеспечивает веб-независимый чат ИИ, гарантирует конфиденциальность пользователя, поддерживает автоматическое управление памятью и богатый выбор моделей. Разработанное Асгаром Горбани, это приложение интегрируется с библиотекой моделей Hugging Face, позволяя пользователям загружать и использовать широкий спектр моделей непосредственно через приложение для различных целей общения и решения проблем.

Список функций

• Автономный чат с искусственным интеллектом: AI можно использовать для диалога без подключения к Интернету.
• Разнообразие моделей: Поддерживает множество моделей малых языков, таких как Danube, Phi, Gemma 2 и т.д., которые пользователи могут выбирать и переключать в соответствии со своими потребностями.
• Автоматическое управление памятью: Приложение автоматически удаляет модели в фоновом режиме, экономя ресурсы устройства.
• Интеграция модели "Обнимающиеся лица: Ищите, загружайте и используйте модели прямо из библиотеки моделей Hugging Face.
• пользователь: Обеспечивает простой и интуитивно понятный интерфейс для управления моделями и диалогами.
• Конфиденциальность: Все диалоги обрабатываются локально, что исключает передачу данных на внешние серверы.

Использование помощи

Процесс установки

PocketPal AI очень прост в установке:

Пользователи iOS.

1. Откройте магазин приложений App Store.
2. Введите "PocketPal AI" в строку поиска.
3. Нажмите, чтобы загрузить и установить приложение.

Пользователи Android.

1. Откройте магазин Google Play.
2. Поиск "PocketPal AI".
3. Нажмите кнопку Установить.

Руководство по использованию

Запустите приложение.

• Когда вы откроете приложение PocketPal AI, вы увидите простую домашнюю страницу, обычно с кнопкой меню (которая может отображаться в виде трех линий или четырех точек).

Выбор и загрузка моделей.

• Нажмите на меню, чтобы перейти на страницу "Модели". Здесь перечислены все предустановленные модели и модели, доступные для загрузки с сайта Hugging Face.
• Выберите интересующую вас модель и нажмите кнопку "Загрузить", чтобы начать загрузку. После загрузки нажмите кнопку "Загрузить", чтобы загрузить модель в память.

Начало диалога.

• Выберите "Чат" в меню, чтобы перейти на экран чата.
• Введите свой вопрос или диалог в поле ввода текста и нажмите кнопку Отправить. Модель даст ответ, основываясь на загруженной в данный момент модели.

Модель Дополнительные настройки.

• На странице "Модели" нажмите на значок стрелки (v) рядом с моделью, и перед вами откроется ряд дополнительных настроек, таких как регулировка температуры, маркера BOS и т. д., которые могут оптимизировать выход модели.

Управление памятью.

• PocketPal AI автоматически управляет использованием памяти моделей. Если вы включите функцию "Автовыгрузка/загрузка", приложение интеллектуально выгрузит модели в фоновом режиме, чтобы сэкономить ресурсы.

Воспроизведение диалога.

• Длительное нажатие на любую часть диалога копирует конкретный абзац, а нажатие на значок копирования в нижней части диалогового пузыря - весь ответ.

Часто задаваемые вопросы и решения.

• Медленная загрузка моделей или сбои в работе приложения: Сначала проверьте, включен ли Metal API (только для iOS), и попробуйте отключить его, если это проблема. Если проблема сохраняется, сообщите о ней на GitHub.
• Не удается найти нужную модель: Вы можете найти больше моделей, используя функцию поиска, встроенную в Hugging Face. Если вы все еще не можете найти модель, вы можете попробовать загрузить ее вручную в формате GGUF и импортировать с помощью опции "Добавить локальную модель".

Опыт использования PocketPal AI очень индивидуален, вы можете настраивать и использовать различные модели в соответствии с вашими потребностями и наслаждаться мгновенными и приватными сервисами разговора AI. В процессе использования устройства вы можете столкнуться с некоторыми незначительными проблемами, но они могут быть эффективно решены благодаря поддержке сообщества и постоянным обновлениям от разработчиков. Если вам нужен частный диалоговый помощник или вы хотите использовать ИИ без интернета, PocketPal AI - это инструмент с открытым исходным кодом, который стоит попробовать.

PocketPal AI Android установщик и модель скачать

Кварки: https://pan.quark.cn/s/06f5cf4ece85 Экстракционный код: D8m2