AI个人学习
和实操指南
豆包Marscode1

5分钟讲清楚deepseek本地化部署

第一步:装个“魔法工具” Ollama 🚀 (Windows 电脑看这里!)

  • Ollama 是个啥? 🤔 再啰嗦一句,Ollama 就是个“魔法工具箱”,帮你轻松运行各种厉害的 AI 模型,比如我们今天要用的 DeepSeek。有了它,AI 模型就像电脑游戏一样,点一下就能玩起来!
  • Windows 怎么装 Ollama 呢? 超简单!有两种方法,图形界面和命令行,我推荐你用图形界面安装,像装普通软件一样,点点鼠标就行啦!

    🌟 方法一:图形界面安装 (推荐!) 🌟

    • 下载安装包: 打开你的浏览器,访问 Ollama 官网: https://ollama.com/ 你会看到一个大大的 Download for Windows 按钮,勇敢地点击它! 🖱️

      💡 小提示: 如果官网打不开,可以试试国内镜像站,或者用魔法上网工具。

    • 运行安装程序: 下载完成后,找到你下载的 .exe 安装文件,双击运行它。 就像平时安装 QQ、微信一样,一路“下一步” 就 OK 了! 安装过程非常简单,基本不用你操心。 😌

      📌 注意啦: 安装过程中,可能会弹出一些安全提示,不用担心,选择“允许”或者“是” 就行了。

    • 安装完成! 安装完成后,Ollama 就已经在你的 Windows 电脑上安家落户啦! 🎉 是不是很简单?

    🛠️ 方法二:命令行安装 (给喜欢折腾的你) 🛠️

    如果你是命令行高手,或者喜欢更“技术范儿” 的安装方式,也可以用命令行安装 Ollama。

    • 打开 PowerShell: 在 Windows 搜索栏里输入 PowerShell ,找到 “Windows PowerShell”, 右键点击,选择 “以管理员身份运行”。
    • 复制粘贴命令: 在 PowerShell 窗口里,复制粘贴下面这行代码,然后按下回车键:
      curl -fsSL https://ollama.com/install.ps1 | iex
      

      💡 小提示: 这行代码跟 Linux/macOS 上的咒语类似,也是自动帮你安装 Ollama 的。PowerShell 会自动下载并运行安装脚本。

    • 等待安装完成: PowerShell 会显示安装过程,耐心等待一会儿,直到安装完成。

    🚀 验证安装 (Windows & 其他系统通用)

    不管你用哪种方法安装的 Ollama,安装完成后,都建议验证一下是否安装成功。 打开你的命令提示符 (CMD) 或者 PowerShell (Windows),或者终端 (Terminal) (macOS/Linux),输入下面这行命令,然后按下回车键:

    ollama --version
    

    如果看到显示出 Ollama 的版本号,就说明你已经成功安装 Ollama 啦! 🎉 恭喜你迈出 AI 之旅的第一步!

 

第二步:给 Ollama 装上“聪明大脑” DeepSeek 🧠

  • DeepSeek 又是个啥? 🤓 DeepSeek 就是我们今天要用的“聪明大脑”,一个超厉害的 AI 模型,能跟你聊天、写文章、写代码,简直是你的全能助手!
  • 怎么把 DeepSeek 装到 Ollama 里呢? 依然很简单,只需要在你的命令提示符 (CMD) 或者 PowerShell (Windows),或者终端 (Terminal) (macOS/Linux)里,输入下面这行代码:
    ollama run deepseek-r1:8b
    

    📌 注意啦:deepseek-r1:8b 还是这个“小号” DeepSeek 模型,适合初次体验。 如果你电脑配置好,或者想玩更厉害的模型:DeepSeek R1 671B 本地部署教程:基于 Ollama 和动态量化

    运行这行命令后,Ollama 就会自动下载 DeepSeek 模型。耐心等待下载完成… ⏳

推荐阅读

如果本地部署deepseek模型,最低硬件要求是什么?


无需本地GPU即可私有化部署 DeepSeek-R1 32B(这里有 Ollama 其他方式安装教程)

DeepSeek 官方推荐:集成 DeepSeek R1 的实用AI工具指南

避坑指南:淘宝 DeepSeek R1 安装包付费倒卖?免费教你本地部署(附一键安装包)

 

第三步:开始和 DeepSeek 聊天吧! 🎉

  • 运行命令: 如果模型下载成功,Ollama 会自动启动 DeepSeek,你会在终端里看到提示信息,告诉你 DeepSeek 已经准备好和你聊天了!
  • 开始对话: 现在,直接在命令提示符 (CMD) 或者 PowerShell (Windows),或者终端 (Terminal) (macOS/Linux)里,输入你想问 DeepSeek 的问题,或者想让它做的事情,比如:
    你好 DeepSeek!
    

    按下回车键,DeepSeek 就会像真人一样回复你! 你可以问它天气、问它历史、让它写故事、写代码… 尽情探索 AI 的魔力吧! ✨

    DeepSeek: 你好!很高兴认识你!有什么我可以帮你的吗?
    

    💬 再举个栗子: 你可以问 DeepSeek “今天心情不好怎么办?”,或者 “帮我写一首关于星空的诗”,看看它会给你什么惊喜!

模型选择和“减肥”版本 💡

  • 模型参数: 还记得 8b 、 14b 这些数字吗? 它们代表模型的“聪明程度”。数字越大,模型越厉害,但也越“重”,对电脑要求越高。
  • 量化版本: “量化” 就像给模型“瘦身”,让它们更轻巧,在普通电脑上也能流畅运行。 如果你电脑配置一般,或者想尝试更大更强的模型,可以考虑量化版本。

    💡 版本选择建议:

    • 初次体验 / 电脑配置一般:deepseek-r1:8b 或者 deepseek-r1:14b 都是不错的选择,速度快,占用资源少。
    • 想体验更强 DeepSeek: 可以尝试 deepseek-r1:32b 或者更大的版本,但可能需要更好的电脑配置。
    • 量化版本: 如果你想在配置一般的电脑上运行大型模型,可以尝试文章里提到的量化版本 DeepSeek-R1-Distill-Qwen-32B-GGUF ,安装命令稍微复杂一点,但效果很棒!

Windows 用户注意事项 ⚠️

  • 杀毒软件: 有些杀毒软件可能会误报 Ollama 安装程序,如果遇到这种情况,可以暂时关闭杀毒软件,或者将 Ollama 添加到信任列表。
  • 防火墙: Windows 防火墙可能会阻止 Ollama 下载模型,如果遇到下载问题,可以检查防火墙设置,允许 Ollama 联网。
未经允许不得转载:首席AI分享圈 » 5分钟讲清楚deepseek本地化部署
zh_CN简体中文