Tags: implementação local ferramentas de modelo grande de código aberto Página 2

  Introdução geral O LiteLLM é um SDK Python e um servidor proxy desenvolvido pela BerriAI para simplificar e unificar a invocação e o gerenciamento de várias APIs de modelo de linguagem grande (LLM). Ele é compatível com mais de 100 APIs de modelos grandes, incluindo OpenAI, HuggingFace, Azure etc., unificadas em um sistema operacional...

Introdução geral O RWKV-Runner é uma ferramenta de gerenciamento e lançamento projetada especificamente para modelos RWKV, com o objetivo de fornecer uma ferramenta de gerenciamento e lançamento de RWKV fácil de usar. É totalmente automatizada e compacta, com apenas 8 MB de tamanho, e oferece uma interface compatível com a API OpenAI. Desenvolvido pelo membro da comunidade de código aberto do RWKV j...

Introdução geral O AIStarter é uma plataforma gratuita projetada para simplificar o gerenciamento de projetos de IA, oferecendo suporte ao fácil download, instalação e compartilhamento de todos os tipos de projetos populares de código aberto de IA no Windows, Mac ou Linux. Ele oferece recursos prontos para uso, de empacotamento e compartilhamento, com forte apoio da comunidade. Os usuários podem usar uma variedade de...

Introdução geral O KoboldCpp é um software de geração de texto de IA fácil de usar para modelos GGML e GGUF inspirado no KoboldAI original. É uma versão única e autocontida distribuível fornecida pela Concedo, criada com base no llama.cpp e que acrescenta a flexibilidade do KoboldAI A...

GPT4All Introdução geral O GPT-4All é um projeto de código aberto desenvolvido pela Nomic para permitir que os usuários executem modelos de idiomas grandes (LLMs) em dispositivos locais. O projeto enfatiza a proteção da privacidade e pode ser usado sem conexão com a Internet, sendo adequado para usuários pessoais e corporativos. O GPT-4All é compatível com uma ampla variedade de hardware, incluindo...

Pinokio Descrição geral O Pinokio é uma ferramenta inovadora de implantação de projetos de código aberto de IA que permite aos usuários instalar, executar e controlar programaticamente uma ampla gama de aplicativos relacionados a grandes modelos com um único clique. Ele é compatível com várias plataformas e oferece uma biblioteca de scripts da comunidade que abrange a maioria dos projetos populares de código aberto de IA que os usuários...

Ollama Descrição geral O ollama é uma estrutura leve para executar modelos de linguagem nativa, permitindo que os usuários criem e executem facilmente modelos de linguagem grandes. Ele oferece várias opções de início rápido e instalação, é compatível com o Docker e inclui um rico conjunto de bibliotecas para os usuários escolherem. É fácil de usar, fornece aplicativos REST...