LM Studio: eine Desktop-Anwendung zur lokalen Ausführung natürlicher Sprachmodelle in großem Maßstab

LM Studio Allgemeine Einführung

LM Studio ist eine Desktop-Anwendung zur lokalen Ausführung und Verwaltung von Large Language Models (LLMs). Benutzer können Modelle wie Llama, Mistral, Phi usw. direkt auf ihren eigenen Computern ausführen, ohne eine Internetverbindung zu benötigen. Die Anwendung unterstützt eine breite Palette von Betriebssystemen, darunter macOS, Windows und Linux, und bietet eine Vielzahl von Funktionen wie den lokalen Dokumenten-Chat, den Download und die Verwaltung von Modellen und vieles mehr.

Es kann LLMs von Hugging Face suchen und herunterladen, eine integrierte Chat-UI und eine Laufzeit für einen lokalen Server, der mit der OpenAI-API kompatibel ist.LM Studio ist nicht quelloffen, aber es verwendet die beliebte llama.cpp-Bibliothek. Es unterstützt eine Vielzahl von Modellen, die mit der ggml-Tensor-Bibliothek des llama.cpp-Projekts kompatibel sind, und benötigt 16 GB RAM. LM Studio ist benutzerfreundlich und für Windows und Mac verfügbar, eine Linux-Version ist in Entwicklung.

LM Studio Funktionsliste

• LLM lokal ausführenUnterstützung für die Ausführung von Modellen wie Llama, Mistral, Phi usw. auf lokalen Computern, um den Datenschutz zu gewährleisten.
• Werkzeuge des Dialogs:Nutzung von Modellen über die In-App-Chat-Schnittstelle oder OpenAI-kompatible lokale Server
• Dokument-ChatBenutzer können mit lokalen Dokumenten interagieren, um die gewünschten Informationen zu erhalten.
• Modell-Download und VerwaltungÜber eine Entdeckungsseite innerhalb der App können die Nutzer verschiedene Modelldateien herunterladen und verwalten.
• Kompatibel mit mehreren BetriebssystemenUnterstützung für macOS (M1/M2/M3), Windows und Linux.
• Offline-BetriebEs kann ohne Internetverbindung verwendet werden, wodurch die Datensicherheit gewährleistet ist.
• OpenAI-kompatible ServerBietet einen lokalen Server-Endpunkt ähnlich wie OpenAI zur einfachen Integration.

LM Studio Hilfe

Installationsschritte

1. Apps herunterladenBesuchen Sie die offizielle Website von LM Studio und wählen Sie das entsprechende Installationsprogramm für Ihr Betriebssystem zum Herunterladen aus.
2. Installation von Anwendungen::
   • macOSSobald der Download abgeschlossen ist, öffnen Sie das Installationspaket und folgen Sie den Anweisungen, um es zu installieren.
   • Windows (Computer)Sobald der Download abgeschlossen ist, führen Sie das Installationsprogramm aus und folgen Sie den Anweisungen, um die Installation abzuschließen.
   • LinuxSobald der Download abgeschlossen ist, entpacken Sie das Installationspaket und folgen Sie den Anweisungen in der Dokumentation.

LM Studio Benutzerhandbuch

1. eine Anwendung startenSobald die Installation abgeschlossen ist, öffnen Sie die Anwendung LM Studio.
2. Modelle herunterladen::
   • Rufen Sie die Seite "Entdecken" in der App auf, suchen Sie das gewünschte Modell und wählen Sie es aus.
   • Klicken Sie auf die Schaltfläche "Herunterladen" und warten Sie, bis das Modell fertig heruntergeladen ist.
3. Betriebsmodell::
   • Wählen Sie das heruntergeladene Modell in der App aus und klicken Sie auf die Schaltfläche Ausführen.
   • Die Benutzer können mit dem Modell über die integrierte Chat-Schnittstelle interagieren oder es über einen lokalen Server-Endpunkt integrieren.
4. Dokument-Chat::
   • Laden Sie lokale Dokumente innerhalb der App hoch.
   • Nutzen Sie die Chat-Schnittstelle, um mit dem Inhalt des Dokuments zu interagieren und die gewünschten Informationen zu erhalten.
5. Management-Modell::
   • Mit den Verwaltungsfunktionen innerhalb der App können die Nutzer heruntergeladene Modelle ansehen, aktualisieren oder löschen.
   • Unterstützt eine Vielzahl von Modellformaten, wie GGUF, MLX, etc.

allgemeine Probleme

• Erfasst LM Studio Daten? Nein. LM Studio wurde entwickelt, um die Privatsphäre der Benutzer zu schützen, und alle Daten werden lokal gespeichert.
• Was sind die Mindestanforderungen an die Hardware? Erfordert einen Prozessor, der den AVX2-Befehlssatz unterstützt. macOS benötigt einen M1/M2/M3-Chip, und Windows und Linux benötigen x64/ARM64-Architekturen.
• Unterstützt es die kommerzielle Nutzung? Für den persönlichen Gebrauch kostenlos, für die kommerzielle Nutzung wenden Sie sich bitte an den Beamten, um eine Lizenz zu erhalten.

LM Studio herunterladen

LM Studio für Windows herunterladen

LM Studio MAC Herunterladen

LM Studio Linux Edition herunterladen

Der Leitfaden für Laien zum Einstieg in die KI

Hilft Ihnen, die Nutzung von KI-Tools kostengünstig und von Null an zu erlernen.KI ist, wie Bürosoftware, eine wesentliche Fähigkeit für jeden. Die Beherrschung von KI verschafft Ihnen einen Vorteil bei der Stellensuche und die Hälfte des Aufwands bei Ihrer zukünftigen Arbeit und Ihrem Studium.

Details ansehen>