lm-studio 使用 支持多模型并行运行

lm-studio 在显存或者内存足够大的情况下,支持多模型并行运行。


lm-studio.png


DeepSeek-R1-Distill-Llama-70B-GGUF下载地址

https://www.modelscope.cn/models/lmstudio-community/DeepSeek-R1-Distill-Llama-70B-GGUF/files


评论
暂无评论

登录后可发表评论

点击登录