AI工程学院:2.18Vision RAG 视觉能力
笔记:https://colab.research.google.com/github/run-llama/llama_index/blob/main/docs/docs/examples/multi...
NuxtHub:基于Cloudflare免费部署5个Nuxt应用
综合介绍 NuxtHub是一个专为Nuxt应用设计的云平台,旨在简化和优化Nuxt应用的部署和扩展。通过利用Cloudflare的全球网络,NuxtHub提供了高性能、低成本的全栈解决方案,支持开发者...
Petals:分布式共享GPU运行和微调大语言模型,像BitTorrent网络一样共享GPU资源
综合介绍 Petals 是一个由 BigScience Workshop 开发的开源项目,旨在通过分布式计算的方式运行大型语言模型(LLMs)。用户可以在家中使用消费级 GPU 或 Google Co...
Aphrodite Engine:高效的LLM推理引擎,支持多种量化格式和分布式推理。
综合介绍 Aphrodite Engine是PygmalionAI的官方后端引擎,旨在为PygmalionAI网站提供推理端点,并支持Hugging Face兼容模型的快速部署。该引擎利用vLLM的P...
Text generation web UI:基于 Gradio 大语言模型聊天界面,支持多种后端服务
综合介绍 Text generation web UI 是一个基于 Gradio 的网页用户界面,专为大语言模型(LLM)设计。它支持多种文本生成后端,包括 Transformers、llama.cp...
llama.cpp:高效推理工具,支持多种硬件,轻松实现LLM推理
综合介绍 llama.cpp是一个用纯C/C++实现的库,旨在简化大语言模型(LLM)的推理过程。它支持多种硬件平台,包括Apple Silicon、NVIDIA GPU和AMD GPU,并提供多种量...
Jan:开源离线AI助手,ChatGPT 替代品,运行本地AI模型或连接云端AI
综合介绍 Jan 是一个开源的 ChatGPT 替代品,能够在用户的设备上 100% 离线运行。它由 Cortex 引擎驱动,支持多种硬件平台,包括 NVIDIA GPU 和 Apple M 系列芯片...
AyeSoul:简约的AI实时搜索引擎,会思考并调用50+工具协助完成各项任务
综合介绍 AyeSoul 是一个统一的 AI 搜索、回答和任务引擎,旨在通过一个简单的界面帮助用户完成各种日常任务。无论是网页搜索、深度研究、头脑风暴、创意写作、内容创作还是编程,AyeSoul 都能...
Komo:快速搜索信息生成结构化答案,探索更多搜索结果
综合介绍 Komo 是一个由人工智能驱动的搜索引擎,旨在提供快速、私密且无广告的搜索体验。用户可以通过Komo 进行深度探索、获取即时答案以及讨论各种话题。其主要功能包括搜索、探索和聊天,帮助用户高效...
Morphic:AI驱动的开源搜索引擎,提供智能问答、视频搜索、生成UI代码
综合介绍 Morphic是一个基于AI技术的搜索引擎,采用生成式用户界面,旨在提供智能问答和高效搜索体验。用户可以通过Morphic进行多种搜索,包括文本、视频等,并能保存搜索历史,分享搜索结果。Mo...








