综合介绍
RWKV-Runner 是一个专为 RWKV 模型设计的管理和启动工具，旨在提供一个易于使用的RWKV管理和启动工具。它完全自动化、体积小巧，仅有8MB大小，同时提供与OpenAI API兼容的接口。
由 RWKV 开源社区成员 josStorer 开发。该工具旨在消除使用大语言模型的门槛，提供全自动化的解决方案。RWKV-Runner 体积小巧，仅需几MB，并且提供与 OpenAI API 兼容的接口，使得所有 ChatGPT 客户端都可以作为 RWKV 客户端使用。RWKV是一个性能可比GPT的大型语言模型，支持像GPT Transformer一样的直接训练，并且完全开源，可供商用。
功能列表
- 全自动化管理：自动处理 RWKV 模型的启动和管理，用户无需手动配置。
- 轻量级：程序体积仅几MB，适合各种设备。
- OpenAI API 兼容：提供与 OpenAI API 兼容的接口，方便集成到现有系统中。
- 多语言支持：支持简体中文、英文和日文。
- 多平台支持：兼容 Windows、MacOS 和 Linux 系统。
- 自定义 CUDA 加速：支持自定义 CUDA 内核加速，提升性能并减少显存占用。
- 服务器部署：支持在服务器上部署 backend-python，客户端仅需连接服务器即可使用。
使用帮助
访问GitHub仓库获取安装指引
观看安装教程视频进行操作指导
在RWKV官方网站查阅相关文档
主页
聊天界面
补全续写界面
作曲界面
配置界面
模型管理界面
微调界面
安装流程
- 下载 RWKV-Runner：
- 访问 GitHub 仓库 下载最新版本的 RWKV-Runner。
- 根据操作系统选择对应的安装包（Windows、MacOS、Linux）。
- 安装 RWKV-Runner：
- Windows 用户：解压下载的 ZIP 文件，运行
RWKV-Runner.exe。 - MacOS 用户：解压下载的 ZIP 文件，运行
RWKV-Runner.app。 - Linux 用户：解压下载的 TAR 文件，运行
./RWKV-Runner。
- Windows 用户：解压下载的 ZIP 文件，运行
- 配置 RWKV-Runner：
- 打开 RWKV-Runner，进入设置页面。
- 如果需要连接服务器，填写服务器地址到
API URL中。
使用流程
- 启动 RWKV-Runner：
- 双击运行程序，等待加载完成。
- 程序会自动检测并加载 RWKV 模型。
- 使用 OpenAI API 接口：
- 在设置页面中找到 API 配置部分。
- 将 OpenAI API 的相关参数填写到对应位置，保存设置。
- 自定义 CUDA 加速：
- 进入配置页面，找到 CUDA 加速选项。
- 根据需要开启或关闭自定义 CUDA 内核加速。
- 运行任务：
- 在主界面选择需要运行的任务类型（如聊天、写作、作曲等）。
- 根据任务需求调整 API 参数（如 Temperature、Top_P 等）。
- 点击开始按钮，等待任务完成。
- 服务器部署：
- 下载并安装 backend-python 到服务器。
- 配置服务器地址和相关参数。
- 在客户端设置中填写服务器地址，连接服务器。
常见问题
- 程序无法启动：检查是否下载了正确的安装包，确保系统兼容性。
- CUDA 加速异常：尝试关闭自定义 CUDA 内核加速，或更新 GPU 驱动。
- API 请求失败：检查 API 配置是否正确，确保网络连接正常。
RWKV 自动写小说专版（25G）
真正的专用小说写作模型，全自动化多轮续写小说。
