LM Studio: una aplicación de escritorio para ejecutar localmente modelos de lenguaje natural a gran escala

LM Studio Introducción general

LM Studio es una aplicación de escritorio diseñada para ejecutar y gestionar localmente grandes modelos lingüísticos (LLM). Los usuarios pueden ejecutar modelos como Llama, Mistral, Phi, etc. directamente en sus propios ordenadores sin conexión a Internet. La aplicación es compatible con una amplia gama de sistemas operativos, incluidos macOS, Windows y Linux, y ofrece un rico conjunto de funciones como el chat local de documentos, la descarga y gestión de modelos, etc.

Puede buscar y descargar LLM de Hugging Face, una interfaz de usuario de chat integrada y un tiempo de ejecución para un servidor local compatible con la API OpenAI.LM Studio no es de código abierto, pero utiliza la popular biblioteca llama.cpp. Admite diversos modelos compatibles con la biblioteca tensorial ggml del proyecto llama.cpp y requiere 16 GB de RAM.LM Studio es fácil de usar y está disponible para Windows y Mac, con una versión para Linux en desarrollo.

Lista de funciones de LM Studio

• Ejecutar LLM localmenteSoporte para ejecutar modelos como Llama, Mistral, Phi, etc. en ordenadores locales para garantizar la privacidad de los datos.
• Herramientas de diálogo:Uso de modelos a través de la interfaz de chat de la aplicación o de servidores locales compatibles con OpenAI.
• Chat de documentosLos usuarios pueden interactuar con documentos locales para obtener la información que necesitan.
• Descarga y gestión de modelosLa aplicación permite a los usuarios descargar y gestionar varios archivos de modelos a través de una página de descubrimiento.
• Compatible con múltiples sistemas operativosCompatible con sistemas macOS (M1/M2/M3), Windows y Linux.
• operación offline: Se puede utilizar sin conexión a Internet, lo que garantiza la seguridad de los datos.
• Servidores compatibles con OpenAIProporciona un punto final de servidor local similar a OpenAI para facilitar la integración.

Ayuda de LM Studio

Pasos de la instalación

1. Descargar aplicacionesVisita el sitio web oficial de LM Studio y selecciona el instalador adecuado para tu sistema operativo para descargarlo.
2. Instalación de aplicaciones::
   • macOSUna vez finalizada la descarga, abra el paquete de instalación y siga las instrucciones para instalarlo.
   • Windows (ordenador)Una vez finalizada la descarga, ejecute el instalador y siga las instrucciones para completar la instalación.
   • LinuxUna vez finalizada la descarga, descomprime el paquete de instalación y sigue las instrucciones de la documentación.

Guía del usuario de LM Studio

1. lanzar una aplicaciónUna vez finalizada la instalación, abra la aplicación LM Studio.
2. Descargar modelos::
   • Vaya a la página "Descubrir" dentro de la aplicación, busque y seleccione el modelo deseado.
   • Pulse el botón de descarga y espere a que el modelo termine de descargarse.
3. modelo operativo::
   • Seleccione el modelo descargado dentro de la aplicación y pulse el botón Ejecutar.
   • Los usuarios pueden interactuar con el modelo a través de la interfaz de chat incorporada o integrarlo mediante un servidor local.
4. Chat de documentos::
   • Carga documentos locales dentro de la aplicación.
   • Utilice la interfaz de chat para interactuar con el contenido del documento y obtener la información que necesita.
5. modelo de gestión::
   • Con las funciones de gestión de la aplicación, los usuarios pueden ver, actualizar o eliminar los modelos descargados.
   • Admite diversos formatos de modelo, como GGUF, MLX, etc.

problemas comunes

• ¿Recoge datos LM Studio? No. LM Studio se diseñó para proteger la privacidad del usuario y todos los datos se almacenan localmente.
• ¿Cuáles son los requisitos mínimos de hardware? Requiere un procesador compatible con el conjunto de instrucciones AVX2, macOS requiere un chip M1/M2/M3, y Windows y Linux requieren arquitecturas x64/ARM64.
• ¿Admite el uso comercial? Gratis para uso personal; para uso comercial, póngase en contacto con el funcionario para obtener una licencia.

LM Studio Descargar

Descarga de LM Studio para Windows

LM Studio MAC Descargar

LM Studio Linux Edition Descargar