
LlamaEdge:本地运行和微调LLM的最快捷方式
综合介绍 LlamaEdge是一个开源项目,旨在简化本地或边缘设备上运行和微调大型语言模型(LLM)的过程。该项目支持Llama2系列模型,并提供与OpenAI兼容的API服务,使用户能够轻松创建和运行LLM推理应用程序。LlamaE...
综合介绍 LlamaEdge是一个开源项目,旨在简化本地或边缘设备上运行和微调大型语言模型(LLM)的过程。该项目支持Llama2系列模型,并提供与OpenAI兼容的API服务,使用户能够轻松创建和运行LLM推理应用程序。LlamaE...
综合介绍 Unsloth 是一个开源项目,旨在提供高效的微调和训练大语言模型(LLMs)的工具。该项目支持多种知名模型,包括 Llama、Mistral、Phi 和 Gemma 等。Unsloth 的主要特点是能够显著减少内存使用和加快训练速...
开启 Builder 智能编程模式,无限量使用 DeepSeek-R1 和 DeepSeek-V3 ,对比海外版体验更加流畅。只需输入中文指令,不懂编程的小白也可以零门槛编写自己的应用。
综合介绍 Bakery是一个专为AI初创公司、机器学习工程师和研究人员设计的平台,提供简单高效的AI模型微调和货币化服务。用户可以通过Bakery访问社区驱动的数据集,创建或上传自己的数据集,微调模型设置,并在市场...
综合介绍 NVIDIA Garak 是一款开源工具,专门用于检测大型语言模型(LLM)的漏洞。它通过静态、动态和自适应探测,检查模型是否存在幻觉、数据泄露、提示注入、错误信息生成、有害内容生成等多种弱点。Garak 类似...
综合介绍 ModelScope Swift(简称MS-Swift)是一个高效的轻量级基础设施,专为大模型(LLM)和多模态大模型(MLLM)的微调、推理、评估和部署而设计。该框架支持超过400种LLM和100多种MLLM,提供了从模型训练、评...
综合介绍 LLaMA-Factory 是一个统一的高效微调框架,支持对100多种大型语言模型(LLMs)进行灵活定制和高效训练。通过内置的 LLaMA Board 网页界面,用户无需编写代码即可完成模型微调。该框架集成了多种先进的训...
综合介绍 Petals 是一个由 BigScience Workshop 开发的开源项目,旨在通过分布式计算的方式运行大型语言模型(LLMs)。用户可以在家中使用消费级 GPU 或 Google Colab 运行和微调 LLMs,如 Llama 3.1、Mixtral、F...
综合介绍 Forefront AI 是一个先进的人工智能平台,专注于开放源码模型的定制与部署。用户可以选择并微调各种强大的AI模型,如GPT-4、GPT-3.5等,以满足不同任务需求。平台支持上传PDF、Word、PPT等文件,与AI进...