侧边栏壁纸
博主头像
RootNode‘s Blog

人大部分是漫无目的的走

  • 累计撰写 22 篇文章
  • 累计创建 21 个标签
  • 累计收到 3 条评论

目 录CONTENT

文章目录

本地化部署DeepSeek

RootNode
2025-02-03 / 1 评论 / 2 点赞 / 106 阅读 / 0 字

安装环境

下载Ollama--根据自己的系统选择版本

https://ollama.com/download

模型选择

根据自己的显卡性能 选择相对应的模型大小

模型大小

显存大小

1.5B

2GB及以上

7B/8B

8GB及以上

14B

16GB及以上

32B

22GB及以上

70B

48GB及以上

模型下载

Ollama下载完成之后 打开终端 输入以下命令查看Ollama

ollama --version

出现版本号之后 则安装成功

之后则根据自己的显卡性能输入下列命令

第一次使用会自动下载该模型

DeepSeek-R1-Distill-Qwen-1.5B

ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B

ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B

ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B

ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B

ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B

ollama run deepseek-r1:70b

等出现success表示安装完成 即可开始聊天

P034.jpg

2

评论区