Jan: ИИ-ассистент с открытым исходным кодом, замена ChatGPT, запуск локальных моделей ИИ или подключение к облачному ИИ

Общее введение

Jan - это открытый исходный код. ChatGPT Jan предоставляет богатую библиотеку моделей, которые можно загружать и запускать в автономном режиме на устройстве пользователя 100%. Он работает на движке Cortex и поддерживает широкий спектр аппаратных платформ, включая графические процессоры NVIDIA и чипы Apple серии M. Jan предоставляет богатую библиотеку моделей, которые пользователи могут загрузить и запустить, такие как Llama, Gemma и Мистраль Jan работает на базе Cortex, встроенного нативного движка искусственного интеллекта, который может работать на любом оборудовании, от ПК до кластеров с несколькими GPU.

Список функций

• Локальный запуск моделей искусственного интеллекта: Поддержка Llama, Gemma, Mistral и многих других популярных моделей.
• Поддержка нескольких двигателей: Совместим с llama.cpp, TensorRT-LLM и многими другими движками.
• автономная работа: Не требуется подключение к Интернету, вся обработка данных осуществляется локально.
• библиотека моделей: Обеспечивает широкие возможности загрузки и управления моделями.
• Удаленное подключение ИИ: Подключение к удаленным сервисам ИИ, таким как OpenAI, Groq, Cohere и др.
• Локальный сервер API: Настройте и запустите локальный API-сервер, совместимый с OpenAI.
• Высота может быть индивидуальной: Поддерживает настройку функций с помощью плагинов-расширений.
• Конфиденциальность: Все данные хранятся локально, и пользователь имеет полный контроль над ними.

Использование помощи

Процесс установки

1. загрузка: Доступ Официальный сайт Яна возможно Страница на GitHub Загрузите установочный пакет для Windows, MacOS или Linux.
2. монтаж::
   • Windows (компьютер): Запустите загруженный jan.exe следуйте подсказкам, чтобы завершить установку.
   • MacOS: Скачать jan.dmg файл, дважды щелкните, чтобы открыть его, и перетащите Jan в папку Applications.
   • Linux: Скачать .deb возможно .AppImage файл, установите его с помощью командной строки или запустите напрямую.

Руководство по использованию

1. запустить приложение: После завершения установки откройте приложение Jan.
2. Выберите модель: Выберите и загрузите нужную модель искусственного интеллекта в библиотеке моделей, например Llama, Gemma или Mistral.
3. локальная операция: Выберите загруженную модель, нажмите кнопку "Запустить", и модель будет запущена на локальном устройстве.
4. Подключение удаленного ИИ: Если вам нужна большая вычислительная мощность, вы можете настроить и подключиться к удаленным сервисам искусственного интеллекта, таким как OpenAI, Groq и т. д., в настройках.
5. Использование сервера API: Включите локальный сервер API в Настройках, следуйте подсказкам, чтобы настроить ключ API, и вы сможете разрабатывать и тестировать с помощью API, совместимых с OpenAI.
6. Пользовательские расширения: Посетите Центр расширений, чтобы загрузить и установить необходимые плагины расширений и настроить функциональность Jan под конкретные нужды.

Подробная процедура работы

• Загрузка и управление моделями::
  1. Откройте приложение Jan и перейдите в библиотеку моделей.
  2. Просмотрите доступные модели и нажмите кнопку "Загрузить" для загрузки.
  3. Когда загрузка будет завершена, модель появится в списке "Загруженные".
  4. Выберите модель и нажмите кнопку "Запустить", чтобы запустить модель.
• Конфигурация локального сервера API::
  1. Перейдите на страницу "Настройки" и найдите опцию "Сервер API".
  2. Включите сервер API и задайте ключ API.
  3. Используйте предоставленную документацию по API, чтобы начать разработку с вызова родного API.
• Установка плагина расширения::
  1. Посетите Центр расширений, чтобы просмотреть доступные расширения.
  2. Нажмите кнопку "Установить" и следуйте подсказкам, чтобы завершить установку.
  3. После установки расширение появится в списке "Установленные".