首席AI分享圈

综合介绍 TEN Agent是一个开源的实时多模态智能体框架，集成了OpenAI Realtime API和RTC，支持多种功能如天气查询、网络搜索、视觉处理和RAG（检索增强生成）。该框架旨在提供高性能、低延迟的音视频交互解决方案...

综合介绍 Petals 是一个由 BigScience Workshop 开发的开源项目，旨在通过分布式计算的方式运行大型语言模型（LLMs）。用户可以在家中使用消费级 GPU 或 Google Colab 运行和微调 LLMs，如 Llama 3.1、Mixtral、F...

综合介绍 Text generation web UI 是一个基于 Gradio 的网页用户界面，专为大语言模型（LLM）设计。它支持多种文本生成后端，包括 Transformers、llama.cpp 和 ExLlamaV2 等。用户可以通过简单的安装步骤，快速部...

综合介绍 llama.cpp是一个用纯C/C++实现的库，旨在简化大语言模型（LLM）的推理过程。它支持多种硬件平台，包括Apple Silicon、NVIDIA GPU和AMD GPU，并提供多种量化选项以提高推理速度和减少内存使用。该项目的...

综合介绍 Jan 是一个开源的 ChatGPT 替代品，能够在用户的设备上 100% 离线运行。它由 Cortex 引擎驱动，支持多种硬件平台，包括 NVIDIA GPU 和 Apple M 系列芯片。Jan 提供了丰富的模型库，用户可以下载并运行如...

综合介绍 AyeSoul 是一个统一的 AI 搜索、回答和任务引擎，旨在通过一个简单的界面帮助用户完成各种日常任务。无论是网页搜索、深度研究、头脑风暴、创意写作、内容创作还是编程，AyeSoul 都能提供智能化的支持，...