AI个人学习
和实操指南

One API:多模型API管理与负载均衡,分发系统

综合介绍

One API 是一个开源的接口管理与分发系统,支持多种大模型如 OpenAI ChatGPT、Anthropic Claude、Google PaLM 2 & Gemini 等。该系统通过标准的 OpenAI API 格式访问所有的大模型,提供负载均衡、令牌管理、兑换码管理、渠道管理等功能。用户可以通过 Docker 快速部署和使用 One API,开箱即用。

New API 基于One API的二次开发版本,支持Midjourney。支持支付和按模型使用次数收费。

one api分支:改自songquanpeng/one-api。支持更多模型,加入统计页面,完善非openai模型的函数调用。

One API:多模型API管理与负载均衡,分发系统-1


 

功能列表

  • 获取和管理多种大模型的API接口:Azure、OpenAI ChatGPT、Anthropic Claude、Google PaLM 2 & Gemini 等
  • 提供负载均衡功能,支持多个渠道的访问
  • 单一API整合不同的语言模型接口
  • 令牌管理:设置令牌的过期时间、额度、允许的 IP 范围及模型访问权限
  • 兑换码管理:批量生成和导出兑换码,为账户充值
  • 渠道管理:批量创建渠道,设置模型列表
  • 用户分组及渠道分组管理
  • 查看额度明细及用户邀请奖励
  • 支持绘图接口及 Cloudflare AI Gateway
  • 自定义系统名称、logo 及页脚
  • 支持多种用户登录注册方式:邮箱、飞书、GitHub、微信公众号
  • 支持Docker镜像,实现一键部署

 

使用帮助

安装与部署

One API 支持通过 Docker 进行快速部署。以下是使用 SQLite 和 MySQL 的部署命令:

使用 SQLite 的部署命令:

docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

使用 MySQL 的部署命令:

docker run --name one-api -d --restart always -p 3000:3000 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

请根据需要修改数据库连接参数。

功能操作指南

  1. 令牌管理:在管理界面中,用户可以设置令牌的过期时间、额度、允许的 IP 范围及模型访问权限。
  2. 兑换码管理:支持批量生成和导出兑换码,用户可以使用兑换码为账户充值。
  3. 渠道管理:用户可以批量创建渠道,并为不同渠道设置模型列表。
  4. 用户分组及渠道分组:支持为不同分组设置不同的倍率,方便管理。
  5. 查看额度明细:用户可以查看详细的额度使用情况。
  6. 用户邀请奖励:通过邀请新用户,获得奖励额度。
  7. 自定义设置:用户可以自定义系统名称、logo 及页脚,甚至可以自定义首页和关于页面。

使用示例

用户可以通过以下示例代码调用 One API:

import requests

url = "http://localhost:3000/v1/completions"
headers = {
    "Authorization": "Bearer YOUR_API_KEY",
    "Content-Type": "application/json"
}
data = {
    "model": "gpt-3.5-turbo",
    "prompt": "Hello, world!",
    "max_tokens": 50
}

response = requests.post(url, headers=headers, json=data)
print(response.json())
AI轻松学

普通人的AI入门指南

帮助你以低成本、零基础学会如何利用AI工具。AI就像办公软件一样,是每个人的必备技能。 掌握AI会让你在求职中占据优势,在未来的工作和学习中事半功倍。

查看详情>
未经允许不得转载:首席AI分享圈 » One API:多模型API管理与负载均衡,分发系统

首席AI分享圈

首席AI分享圈专注于人工智能学习,提供全面的AI学习内容、AI工具和实操指导。我们的目标是通过高质量的内容和实践经验分享,帮助用户掌握AI技术,一起挖掘AI的无限潜能。无论您是AI初学者还是资深专家,这里都是您获取知识、提升技能、实现创新的理想之地。

联系我们
zh_CN简体中文