LM Studio: 로컬에서 자연스러운 대규모 언어 모델을 실행하기 위한 데스크톱 애플리케이션

4.3K 00

LM 스튜디오 일반 소개

LM Studio는 대규모 언어 모델(LLM)을 로컬에서 실행하고 관리하도록 설계된 데스크톱 애플리케이션입니다. 사용자는 인터넷 연결 없이도 자신의 컴퓨터에서 직접 라마, 미스트랄, 파이 등과 같은 모델을 실행할 수 있습니다. 이 애플리케이션은 macOS, Windows, Linux 등 다양한 운영 체제를 지원하며 로컬 문서 채팅, 모델 다운로드 및 관리 등 다양한 기능을 제공합니다.

Hugging Face에서 LLM을 검색하고 다운로드할 수 있으며, 내장된 채팅 UI와 OpenAI API와 호환되는 로컬 서버용 런타임을 제공합니다.LM Studio는 오픈 소스는 아니지만, 널리 사용되는 llama.cpp 라이브러리를 사용합니다. llama.cpp 프로젝트의 ggml 텐서 라이브러리와 호환되는 다양한 모델을 지원하며 16GB의 RAM이 필요합니다.LM Studio는 사용자 친화적이며 Windows와 Mac에서 사용할 수 있으며 Linux 버전은 개발 중입니다.

LM Studio 기능 목록

로컬에서 LLM 실행데이터 프라이버시를 보장하기 위해 로컬 컴퓨터에서 라마, 미스트랄, 파이 등의 모델 실행을 지원합니다.
대화 도구:인앱 채팅 인터페이스 또는 OpenAI 호환 로컬 서버를 통한 모델 사용
문서 채팅사용자는 로컬 문서와 상호 작용하여 필요한 정보를 얻을 수 있습니다.
모델 다운로드 및 관리앱 내 검색 페이지를 통해 다양한 모델 파일을 다운로드하고 관리할 수 있습니다.
여러 운영 체제와 호환macOS(M1/M2/M3), Windows 및 Linux 시스템을 지원합니다.
오프라인 작업인터넷 연결 없이도 사용할 수 있어 데이터 보안을 보장합니다.
OpenAI 호환 서버쉽게 통합할 수 있도록 OpenAI와 유사한 로컬 서버 엔드포인트를 제공합니다.

LM Studio 도움말

설치 단계

앱 다운로드LM Studio 공식 웹사이트를 방문하여 운영 체제에 따라 적절한 설치 패키지를 선택하여 다운로드하세요.
애플리케이션 설치::
- macOS: 다운로드가 완료되면 설치 패키지를 열고 지시에 따라 설치합니다.
- Windows(컴퓨터): 다운로드가 완료되면 설치 프로그램을 실행하고 지시에 따라 설치를 완료합니다.
- Linux다운로드가 완료되면 설치 패키지의 압축을 풀고 설명서의 지침을 따릅니다.

LM Studio 사용 설명서

애플리케이션 실행설치가 완료되면 LM Studio 애플리케이션을 엽니다.
모델 다운로드::
- 앱 내 '검색' 페이지로 이동하여 원하는 모델을 검색하고 선택합니다.
- 다운로드 버튼을 클릭하고 모델이 다운로드가 완료될 때까지 기다립니다.
운영 모델::
- 앱 내에서 다운로드한 모델을 선택하고 실행 버튼을 클릭합니다.
- 사용자는 내장된 채팅 인터페이스를 통해 모델과 상호 작용하거나 로컬 서버 엔드포인트를 통해 모델을 통합할 수 있습니다.
문서 채팅::
- 앱 내에서 로컬 문서를 업로드합니다.
- 채팅 인터페이스를 사용하여 문서 콘텐츠와 상호 작용하고 필요한 정보를 얻으세요.
관리 모델::
- 앱 내 관리 기능을 통해 사용자는 다운로드한 모델을 확인, 업데이트 또는 삭제할 수 있습니다.
- GGUF, MLX 등 다양한 모델 형식을 지원합니다.

일반적인 문제

LM Studio는 데이터를 수집하나요? 아니요. LM Studio는 사용자 개인 정보를 보호하도록 설계되었으며 모든 데이터는 로컬에 저장됩니다.
최소 하드웨어 요구 사항은 무엇인가요? AVX2 명령어 집합을 지원하는 프로세서가 필요하고, macOS에는 M1/M2/M3 칩이 필요하며, Windows 및 Linux에는 x64/ARM64 아키텍처가 필요합니다.
상업적 사용을 지원하나요? 개인용은 무료이며, 상업적 용도로 사용하려면 관계자에게 라이선스를 문의하세요.