在普通PC主机上安装、运行 DeepSeek-R1 推理小模型方法

第一步  下载、安装ollama

下载地址:https://ollama.com/download/windows

运行安装包后,点击insatall按钮即可完成安装,安装完成后桌面无快捷方式图标。

 

安装ollama_PS1366.png

 

第二步   安装、运行和自己电脑硬件相匹配的小模型 

打开powershell  CMD窗口

C:\Windows\System32\WindowsPowerShell\v1.0\powershell.exe

选择需要安装的模型命令执行,推荐安装 ollama run deepseek-r1:7b首次执行上述命令会自动安装deepseek-r1:7b模型,下次再执行上述即可启动deepseek-r1:7b模型。通过powershell  CMD窗口来使用deepseek推理服务。

 1-5b-run-ps.png



6 个开源小模型 安装、运行命令

ollama run deepseek-r1:1.5b           

ollama run deepseek-r1:7b

ollama run deepseek-r1:8b

ollama run deepseek-r1:14b

ollama run deepseek-r1:32b

ollama run deepseek-r1:70b

 

开源大模型安装、运行命令(--verbose显示推理速度)

ollama run deepseek-r1:671b --verbose

 

如需配合其他控件在WEB网页中使用需要设置环境变量,在powershell  CMD窗口执行以下命令

setx OLLAMA_HOST 0.0.0.0

setx OLLAMA_ORIGINS *


 



评论
暂无评论

登录后可发表评论

点击登录