Узел GaiaNet: установка и запуск собственной локальной модели онлайн-прокси-сервиса

Общее введение

GaiaNet-AI/gaianet-node - это проект с открытым исходным кодом, который позволяет пользователям быстро установить стек программного обеспечения узла по умолчанию с помощью одной команды на Mac, Linux или Windows WSL. Пользователи могут инициализировать узел, настроить его конфигурацию, загрузить файлы моделей и базы данных векторов и, в свою очередь, запустить узел агента ИИ. Цель проекта - создать гибкую и простую в использовании платформу, которая позволит пользователям запускать и управлять собственными службами агентов ИИ.

Причина сбора этого пункта заключается в том, что ollama не может быть настроена непосредственно в Cursor, если только агент не добавлен поверх ollama (Способы добавления прокси-серверов), или использовать более локализованный подходcurxyЭто все равно немного неприятно.

Здесь я использую yi-coder, чтобы запустить его локально с помощью всего 3 команд:

1.curl -sSfL 'https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh' | bash

2. gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/yi-coder-9b-chat/config.json

3. начало работы gaianet

Тогда вы получите HTTPS URL, как здесь https://NODE-ID.us.gaianet.network.

А пока вы можете открыть браузер на `http://localhost:8080`, чтобы задать вопросы о программировании.

Список функций

• Быстрая установка Программный стек узла
• Инициализируйте узлы и загрузите необходимые файлы модели и файлы векторной базы данных
• Настраивайте профили в соответствии с различными сценариями использования
• Запуск и остановка узлов агентов искусственного интеллекта
• Поддержка нескольких языков, включая китайский, японский, русский и др.

Использование помощи

Процесс установки

1. Загрузите и запустите сценарий установки: Введите следующую команду в терминале, чтобы загрузить и запустить сценарий установки:

   curl -sSfL https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh | bash
   

   Эта команда приведет к установке по умолчанию на$HOME/gaianetкаталог. Вы также можете выбрать установку в другие каталоги:

   curl -sSfL https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh | bash -s -- --base $HOME/gaianet.alt
   

2. Инициализация узлов: Выполните следующую команду для инициализации узла:

   gaianet init
   

   Эта команда будет основана на$HOME/gaianet/config.jsonфайл для инициализации узла. Вы можете использовать некоторые предустановленные конфигурации, например:

   gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/llama-3-8b-instruct_london/config.json
   

   Чтобы просмотреть список предустановленных конфигураций, вы можете выполнить команду:

   gaianet init --help
   

3. загрузочный узел: Выполните следующую команду для запуска узла:

   gaianet start
   

   После запуска скрипт выведет на консоль официальный адрес узла. Вы можете открыть этот URL в браузере, чтобы просмотреть информацию об узле и взаимодействовать с агентом ИИ на этом узле.

4. остановочный узел: Выполните следующую команду, чтобы остановить узел:

   gaianet stop
   

Руководство по использованию

• файл конфигурации: Вы можете сделать это, отредактировав$HOME/gaianet/config.jsonФайл пользовательской конфигурации узла. Этот файл содержит такую информацию, как пути к файлам модели и файлам векторной базы данных.
• Поддержка нескольких языков: Проект обеспечивает мультиязычную поддержку, вы можете найти ее вREADMEВ документе содержатся инструкции на китайском, японском, русском и других языках.
• Управление узлами: С помощью инструментов командной строки вы можете легко управлять запуском, остановкой и обновлением конфигурации узлов.