Introdução geral ao LM Studio
O LM Studio é um aplicativo de desktop projetado para executar e gerenciar modelos de idiomas grandes (LLMs) localmente. Os usuários podem executar modelos como Llama, Mistral, Phi, etc. diretamente em seus próprios computadores, sem conexão com a Internet. O aplicativo é compatível com uma ampla gama de sistemas operacionais, incluindo macOS, Windows e Linux, e oferece um rico conjunto de recursos, como bate-papo com documentos locais, download e gerenciamento de modelos, entre outros.
Ele pode pesquisar e baixar LLMs do Hugging Face, uma interface de usuário de bate-papo integrada e um tempo de execução para um servidor local compatível com a API do OpenAI.O LM Studio não é de código aberto, mas usa a popular biblioteca llama.cpp. Ele suporta uma variedade de modelos compatíveis com a biblioteca de tensores ggml do projeto llama.cpp e requer 16 GB de RAM. O LM Studio é fácil de usar e está disponível para Windows e Mac, com uma versão para Linux em desenvolvimento.
Lista de recursos do LM Studio
- Executando o LLM localmenteSuporte para execução de modelos como Llama, Mistral, Phi etc. em computadores locais para garantir a privacidade dos dados.
- Ferramentas de diálogo:Uso de modelos via interface de bate-papo no aplicativo ou servidores locais compatíveis com OpenAI
- Chat de documentosOs usuários podem interagir com documentos locais para obter as informações de que precisam.
- Download e gerenciamento de modelosPor meio de uma página de descoberta no aplicativo, os usuários podem baixar e gerenciar vários arquivos de modelo.
- Compatível com vários sistemas operacionaisSuporte para sistemas macOS (M1/M2/M3), Windows e Linux.
- operação off-linePode ser usado sem conexão com a Internet, garantindo a segurança dos dados.
- Servidores compatíveis com OpenAIEndpoint do servidor local: fornece um endpoint de servidor local semelhante ao OpenAI para facilitar a integração.
Ajuda do LM Studio
Etapas de instalação
- Baixar aplicativosVisite o site oficial do LM Studio e selecione o pacote de instalação apropriado para download, de acordo com seu sistema operacional.
- Instalação de aplicativos::
- macOSSe o download for concluído, abra o pacote de instalação e siga as instruções para instalá-lo.
- Windows (computador)Se o download for concluído, execute o instalador e siga as instruções para concluir a instalação.
- LinuxObservação: Quando o download estiver concluído, descompacte o pacote de instalação e siga as instruções da documentação.
Guia do Usuário do LM Studio
- iniciar um aplicativo: Após a conclusão da instalação, abra o aplicativo LM Studio.
- Modelos para download::
- Vá para a página "Discover" (Descobrir) no aplicativo, navegue e selecione o modelo desejado.
- Clique no botão de download e aguarde o término do download do modelo.
- modelo operacional::
- Selecione o modelo baixado no aplicativo e clique no botão Run (Executar).
- Os usuários podem interagir com o modelo por meio da interface de bate-papo integrada ou integrá-lo por meio de um endpoint de servidor local.
- Chat de documentos::
- Faça upload de documentos locais dentro do aplicativo.
- Use a interface de bate-papo para interagir com o conteúdo do documento e obter as informações de que você precisa.
- modelo de gerenciamento::
- Com os recursos de gerenciamento no aplicativo, os usuários podem visualizar, atualizar ou excluir modelos baixados.
- Suporta vários formatos de modelo, como GGUF, MLX, etc.
problemas comuns
- O LM Studio coleta dados? Não. O LM Studio foi projetado para proteger a privacidade do usuário e todos os dados são armazenados localmente.
- Quais são os requisitos mínimos de hardware? Requer um processador compatível com o conjunto de instruções AVX2, o macOS requer um chip M1/M2/M3 e o Windows e o Linux requerem arquiteturas x64/ARM64.
- Ele é compatível com o uso comercial? Gratuito para uso pessoal; para uso comercial, entre em contato com o responsável para obter uma licença.