딥시크 로컬라이제이션 배포에 대한 5분 요약

AI 답변6개월 전 업데이트 AI 공유 서클
1.5K 00

1단계: "마법 도구" Ollama 🚀 설치 (Windows PC는 여기를 보세요!)

  • 올라마가 무엇인가요? 참고로 Ollama는 클릭 한 번으로 플레이할 수 있는 컴퓨터 게임처럼 오늘 사용하게 될 DeepSeek와 같은 멋진 AI 모델을 쉽게 실행할 수 있는 마법의 툴킷입니다!
  • Windows에 Ollama를 설치하려면 어떻게 하나요? 매우 쉽습니다! 그래픽 인터페이스와 명령줄의 두 가지 방법이 있는데, 이 중 저는그래픽 사용자 인터페이스(GUI) 설치일반 소프트웨어를 설치하는 것처럼 가리키고 클릭하기만 하면 됩니다!

    🌟 방법 1: GUI 설치(권장!) 🌟

    • 설치 패키지를 다운로드합니다: 브라우저를 열고 다음 사이트를 방문하세요. Ollama 공식 웹사이트: https://ollama.com/ 큰 Windows용 다운로드 버튼을 클릭할 만큼 용기를 내보세요! 🖱️

      팁: 공식 웹사이트가 열리지 않으면 국내 미러 사이트를 이용하거나 매직 인터넷 도구를 사용하세요.

    • 설치 프로그램을 실행합니다: 다운로드가 완료되면, 다운로드 받은 .exe 설치 파일을 더블 클릭하여 실행합니다. 일반적인 QQ, WeChat 설치와 마찬가지로 확인의 '다음'까지만 클릭하면 됩니다! 설치 과정은 매우 간단하므로 걱정할 필요가 없습니다. 😌

      참고: 설치 과정에서 일부 보안 팁이 팝업될 수 있으며, 걱정하지 마시고 '허용' 또는 '예'를 선택하세요.

    • 설치 완료! 설치가 완료되면 Windows 컴퓨터에 올라마가 설치됩니다! 쉽지 않으셨나요?

    🛠️ 방법 2: 명령줄 설치(이것저것 해보고 싶은 분들을 위해) 🛠️

    명령줄 전문가이거나 보다 '기술적인' 설치를 선호하는 경우, 명령줄에서 Ollama를 설치할 수도 있습니다.

    • PowerShell을 엽니다: Windows 검색창에 다음을 입력합니다. PowerShell 를 클릭하고 "Windows PowerShell"을 찾아 마우스 오른쪽 단추로 클릭한 다음 "관리자 권한으로 실행"을 선택합니다.
    • 명령을 복사하여 붙여넣기합니다: PowerShell 창에서 다음 코드 줄을 복사하여 붙여넣고 Enter 키를 누릅니다:
      curl -fsSL https://ollama.com/install.ps1 | iex
      

      팁: 이 코드 줄은 Ollama를 자동으로 설치하는 Linux/macOS의 만트라와 유사합니다. 파워셸이 자동으로 설치 스크립트를 다운로드하고 실행합니다.

    • 설치가 완료될 때까지 기다립니다: PowerShell에 설치 프로세스가 표시되므로 설치가 완료될 때까지 잠시 기다려 주세요.

    🚀 설치 확인(Windows 및 기타 시스템에 공통)

    어떤 방법으로 Ollama를 설치하든 설치가 완료되면 설치가 성공적으로 완료되었는지 확인하는 것이 좋습니다. 여러분의명령 프롬프트(CMD) 또는 PowerShell (Windows) 또는터미널 (macOS/Linux)에서 다음 명령줄을 입력하고 Enter 키를 누릅니다:

    ollama --version
    

    올라마 버전 번호가 표시되면 올라마를 성공적으로 설치한 것입니다! AI 여정의 첫 걸음을 내딛게 된 것을 축하드립니다!

 

2단계: 올라마에 "스마트 브레인" DeepSeek 장착 🧠

  • 딥시크란 무엇인가요? 🤓 DeepSeek 오늘 소개할 '스마트 브레인'은 여러분과 대화하고, 기사를 작성하고, 코드를 작성하는 등 만능 비서가 될 수 있는 멋진 AI 모델입니다!
  • Ollama에 DeepSeek를 로드하려면 어떻게 하나요? 여전히 매우 간단합니다.명령 프롬프트(CMD) 또는 PowerShell (Windows) 또는터미널 (macOS/Linux)에서 다음 코드 줄을 입력합니다:
    ollama run deepseek-r1:8b
    

    📌 주의하세요:DEEPSEEK-R1:8B 이것은 처음으로 동일한 "작은" DeepSeek 모델입니다. 좋은 컴퓨터가 있거나 더 강력한 모델로 플레이하고 싶은 경우:DeepSeek R1 671B 로컬 배포 튜토리얼: 올라마 및 동적 정량화 기반

    이 명령줄을 실행하면 Ollama가 자동으로 DeepSeek 모델을 다운로드합니다. 다운로드가 완료될 때까지 잠시 기다리세요... ⏳

추천 읽기

딥시크 모델을 로컬에 배포하는 경우 최소 하드웨어 요구 사항은 무엇인가요?

로컬 GPU가 없는 프라이빗 배포 DeepSeek-R1 32B(다른 방법으로 Ollama를 설치하는 방법에 대한 튜토리얼은 여기를 참조하세요.)

딥시크 공식 추천: 딥시크 R1이 통합된 실용적인 AI 도구 가이드

함정 피하기 가이드: 타오바오 딥시크릿 R1 설치 패키지 유료 상향 판매? 로컬 배포를 무료로 알려드립니다(원클릭 설치 프로그램 포함).

 

3단계: 딥서치와 채팅을 시작하세요! 🎉

  • 실행 명령을 실행합니다: 모델 다운로드에 성공하면, 올라마가 자동으로 딥시크를 실행하고 단말기에 딥시크가 채팅할 준비가 되었다는 메시지가 표시됩니다!
  • 대화를 시작합니다: 이제 바로명령 프롬프트(CMD) 또는 PowerShell (Windows) 또는터미널 (macOS/Linux)를 클릭하고 DeepSeek에 물어볼 질문이나 수행하고자 하는 작업(예: 수행하고자 하는 작업)을 입력합니다:
    你好 DeepSeek!
    

    엔터키를 누르면 딥시크가 실제 사람처럼 대답해줍니다! 날씨에 대해 물어보고, 역사에 대해 물어보고, 이야기를 쓰게 하고, 코드를 작성하게 하는 등 인공지능의 마법을 체험해 보세요! ✨

    DeepSeek: 你好!很高兴认识你!有什么我可以帮你的吗?
    

    💬 또 다른 밤: 딥씨크에게 "기분이 안 좋으면 어떻게 해야 할까요?"라고 물어볼 수 있습니다. 또는 "별에 대한 시를 써줘"라고 물어보고 어떤 놀라움을 선사하는지 확인해 보세요!

모델 선택 및 '다이어트' 버전 💡

  • 모델 매개변수: 기억하세요 8b 및 14b 이 숫자들? 이 숫자는 모델의 "스마트함"을 나타냅니다. 숫자가 클수록 모델이 더 강력하다는 것을 의미하지만, 동시에 더 "무겁고" 컴퓨터에 더 많은 부하를 준다는 의미이기도 합니다.
  • 정량적 버전: "양자화"는 일반 컴퓨터에서 더 가볍고 원활하게 실행되도록 모델을 "슬림화"하는 것과 같습니다. 일반 컴퓨터를 사용 중이거나 더 크고 강력한 모델을 사용해보고 싶다면 양자화 버전을 고려해 보세요.

    💡 버전 선택 권장 사항:

    • 처음 경험 / 평균적인 컴퓨터 구성: 빠른 속도와 적은 리소스 소비를 위해 deepseek-r1:8b 또는 deepseek-r1:14b를 선택하는 것이 좋습니다.
    • 더 강력해진 딥시크를 경험하고 싶으신가요? 시도해 보세요. deepseek-r1:32b 또는 더 큰 버전이 필요하지만 더 나은 컴퓨터 구성이 필요할 수 있습니다.
    • 정량적 버전: 평균적인 구성의 컴퓨터에서 대규모 모델을 실행하려면 다음 문서에 언급된 정량화된 버전을 사용해 보세요. DeepSeek-R1-Distill-Qwen-32B-GGUF 설치 명령은 조금 더 복잡하지만 결과는 훌륭합니다!

Windows 사용자를 위한 참고 사항 ⚠️

  • 바이러스 백신 소프트웨어: 일부 바이러스 백신 프로그램은 Ollama 설치 프로그램을 잘못 진단할 수 있습니다. 이 경우 바이러스 백신 프로그램을 일시적으로 비활성화하거나 Ollama를 신뢰 목록에 추가할 수 있습니다.
  • 방화벽: Windows 방화벽으로 인해 Ollama가 모델을 다운로드하지 못할 수 있으며, 다운로드에 문제가 발생하면 방화벽 설정을 확인하여 Ollama가 네트워크에 연결할 수 있도록 허용하세요.
© 저작권 정책

관련 문서

댓글 없음

댓글에 참여하려면 로그인해야 합니다!
지금 로그인
없음
댓글 없음...