AI个人学习
和实操指南

GaiaNet node:安装和运行自己的本地模型在线代理服务

综合介绍

GaiaNet-AI/gaianet-node是一个开源项目,允许用户在Mac、Linux或Windows WSL上通过一条命令快速安装默认的节点软件栈。用户可以初始化节点,自定义配置,下载模型文件和向量数据库文件,进而启动AI代理节点。该项目旨在提供一个灵活且易于使用的平台,让用户能够运行和管理自己的AI代理服务。

收集此项目的原因是ollama无法在Cursor直接配置,除非在ollama基础上加代理(增加代理的方法),或者使用更加本地化的方法curxy,还是有点麻烦。

这里我使用yi-coder在本地运行,只需要3条命令:

1.curl -sSfL 'https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh' | bash

2.gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/yi-coder-9b-chat/config.json

3.gaianet start

然后你会得到一个 HTTPS URL,像这样 https://NODE-ID.us.gaianet.network.

同时,您可以打开浏览器为 `http://localhost:8080` 来问有关编程的问题。

 

功能列表

  • 快速安装节点软件栈
  • 初始化节点并下载必要的模型文件和向量数据库文件
  • 自定义配置文件以适应不同的使用场景
  • 启动和停止AI代理节点
  • 提供多语言支持,包括中文、日语、俄语等

 

 

使用帮助

安装流程

  1. 下载并运行安装脚本: 在终端中输入以下命令以下载并运行安装脚本:
    curl -sSfL https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh | bash
    

    该命令将默认安装到$HOME/gaianet目录。你也可以选择安装到其他目录:

    curl -sSfL https://github.com/GaiaNet-AI/gaianet-node/releases/latest/download/install.sh | bash -s -- --base $HOME/gaianet.alt
    
  2. 初始化节点: 运行以下命令初始化节点:
    gaianet init
    

    该命令将根据$HOME/gaianet/config.json文件初始化节点。你可以使用一些预设配置,例如:

    gaianet init --config https://raw.githubusercontent.com/GaiaNet-AI/node-configs/main/llama-3-8b-instruct_london/config.json
    

    要查看预设配置列表,可以运行:

    gaianet init --help
    
  3. 启动节点: 运行以下命令启动节点:
    gaianet start
    

    启动后,脚本将在控制台上打印官方节点地址。你可以在浏览器中打开该URL查看节点信息,并与节点上的AI代理进行交互。

  4. 停止节点: 运行以下命令停止节点:
    gaianet stop
    

使用指南

  • 配置文件:你可以通过编辑$HOME/gaianet/config.json文件自定义节点配置。该文件包含模型文件和向量数据库文件的路径等信息。
  • 多语言支持:项目提供多语言支持,你可以在README文件中找到中文、日语、俄语等多种语言的说明。
  • 节点管理:通过命令行工具,你可以方便地管理节点的启动、停止和配置更新。
AI轻松学

普通人的AI入门指南

帮助你以低成本、零基础学会如何利用AI工具。AI就像办公软件一样,是每个人的必备技能。 掌握AI会让你在求职中占据优势,在未来的工作和学习中事半功倍。

查看详情>
未经允许不得转载:首席AI分享圈 » GaiaNet node:安装和运行自己的本地模型在线代理服务
分享到

首席AI分享圈

首席AI分享圈专注于人工智能学习,提供全面的AI学习内容、AI工具和实操指导。我们的目标是通过高质量的内容和实践经验分享,帮助用户掌握AI技术,一起挖掘AI的无限潜能。无论您是AI初学者还是资深专家,这里都是您获取知识、提升技能、实现创新的理想之地。

联系我们