Apollo AI: запуск нескольких локальных моделей на iOS-устройствах (Llama 3.1, Qwen, DeepSeek R1)

Общее введение

Open Intelligence - компания, занимающаяся разработкой решений в области ИИ с открытым исходным кодом. Ее основной продукт, Apollo, позволяет пользователям взаимодействовать со своим частным бэкендом ИИ непосредственно через мобильный телефон. Платформа не только позволяет отдельным пользователям автономно управлять своими бэкендами ИИ, но и обеспечивает поддержку различных сценариев применения ИИ, таких как общение в чате, обработка данных и т. д. Apollo призвана упростить взаимодействие пользователей с ИИ и повысить эффективность применения ИИ в повседневной жизни и работе. Open Intelligence стремится предоставить пользователям более гибкий, частный опыт ИИ благодаря своей открытой архитектуре. Частный опыт ИИ.

Доступны дистиллированные версии серий Llama 3.1, Qwen и DeepSeek R1 в различных размерах.

Список функций

• живое общение: С помощью Apollo пользователи могут общаться с искусственным интеллектом прямо на своих телефонах без сложных настроек.
• Частный бэкэнд искусственного интеллектаПользователи могут подключаться к собственному бэкенду ИИ, чтобы обеспечить конфиденциальность и безопасность данных.
• Поддержка открытых источниковOpen Intelligence поощряет и поддерживает технологии с открытым исходным кодом, и пользователи могут выбрать или разработать свой собственный бэкэнд ИИ.
• Кросс-платформенная совместимостьApollo поддерживает широкий спектр устройств и операционных систем, обеспечивая бесперебойную работу пользователей.

Использование помощи

Процесс установки

В настоящее время Apollo используется в основном через мобильные устройства, поэтому нет необходимости в традиционной установке программного обеспечения, но для начала работы необходимо выполнить следующие действия:

1.Доступ к веб-сайту::

• Откройте браузер и введите URL-адрес https://openintelligence.group/на главную страницу сайта Open Intelligence.

2.Скачать приложения::

• На главной странице найдите и нажмите на ссылку для загрузки Apollo, которая автоматически направит вас в соответствующий магазин приложений в зависимости от типа вашего устройства (iOS или Android).

3.Установка приложений::

• Найдите Apollo в App Store, нажмите "Загрузить" или "Установить" и дождитесь окончания установки приложения.

Руководство по использованию

Подключение частного внутреннего ИИ

Войдите в Apollo::

• Откройте приложение Apollo, при первом использовании может потребоваться регистрация учетной записи, заполните соответствующую информацию и завершите регистрацию.
• После входа в систему перейдите на главный экран.

Настройка бэкэнда искусственного интеллекта::

• В меню "Настройки" найдите пункт "AI Backend Connections".
• Введите URL-адрес вашего частного бэкэнда ИИ, обычно это адрес службы ИИ, развернутой локально или в облаке.
• Нажмите "Подключиться", система попытается подключиться к вашему бэкенду AI. Если подключение не удается, проверьте, подключен ли ваш бэкэнд AI к сети и правильно ли указан адрес.

тестовое соединение::

• После успешного подключения вы можете отправить тестовое сообщение в Apollo, чтобы проверить, сможет ли бэкэнд ответить. Вы можете просто задать вопрос типа "Какая сегодня погода?". чтобы проверить соединение.

Начните общаться.

экран диалога::

• На главном экране вы увидите чистое окно чата - именно здесь вы будете взаимодействовать со своим ИИ.
• Введите свой вопрос или инструкцию и нажмите кнопку "Отправить". ИИ даст ответ, основываясь на данных вашего личного бэкэнда.

Расширение функциональности::

• Apollo поддерживает несколько моделей искусственного интеллекта, и вы можете переключать URL-адреса бэкэнда, чтобы испытать различные функции искусственного интеллекта.
• Если у вас несколько бэкендов AI, вы можете добавить несколько соединений в настройках и переключаться между ними по мере необходимости.

Конфиденциальность и безопасность

Конфиденциальность данных::

• Поскольку он подключен к частному бэкэнду AI, все диалоговые данные не проходят через сторонние серверы, поэтому безопасность ваших данных гарантирована.
• Для обеспечения безопасности данных при передаче рекомендуется использовать внутренние адреса AI с SSL-шифрованием.

Часто задаваемые вопросы и ответы

Невозможно подключиться к бэкенду AI: Убедитесь, что внутренний модуль AI работает в режиме онлайн, адрес указан правильно и сеть открыта.
медленное время отклика: Возможно, ваш внутренний сервер AI работает недостаточно хорошо или имеет высокую сетевую задержку. Рассмотрите возможность модернизации сервера или изменения подключения.

Выполнив вышеописанные действия, пользователи смогут легко использовать Apollo для взаимодействия со своим частным бэкендом ИИ, чтобы реализовать индивидуальные и частные сценарии применения ИИ, будь то анализ данных на работе или интеллектуальные помощники в жизни, Apollo сможет обеспечить мощную поддержку.