本地部署DeepSeek R1大模型?
一、安装LM Studio
下载地址:https://lmstudio.ai/download
正常安装即可
![image-20250128200228099](/2025/01/28/%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2DeepSeek-R1%E5%A4%A7%E6%A8%A1%E5%9E%8B/image-20250128200228099.png)
二、修改默认的大模型文件下载地址
定位到LM Studio的安装目录,找到\LM Studio\resources\app.webpack\main\index.js与\LM Studio\resources\app.webpack\renderer\main_window.js文件,将文件内容中的huggingface.co替换为hf-mirror.com,解决国内访问不了huggingface.co,导致无法下载模型文件的问题。
![image-20250128201431020](/2025/01/28/%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2DeepSeek-R1%E5%A4%A7%E6%A8%A1%E5%9E%8B/image-20250128201431020.png)
三、通过LM Studio下载大模型文件
可以在设置中将语言调整为简体中文
发现->搜索deepseek,建议安装DeepSeek-R1-Distill-Qwen-1.5B-GGUF(是基于 Qwen2.5-Math-1.5B 通过知识蒸馏得到的模型,该模型使用 DeepSeek-R1 生成的 80 万个精选样本进行微调),其它的版本对电脑性能要求较高。
![image-20250128202126295](/2025/01/28/%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2DeepSeek-R1%E5%A4%A7%E6%A8%A1%E5%9E%8B/image-20250128202126295.png)
四、使用模型
在聊天中加载下载的模型,就可以进行聊天,测试了一个逻辑题,思考时间大约是五分半钟。
![image-20250128202954711](/2025/01/28/%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2DeepSeek-R1%E5%A4%A7%E6%A8%A1%E5%9E%8B/image-20250128202954711.png)
我本地测试的环境为
处理器:13th Gen Intel(R) Core(TM) i9-13900H 2.60 GHz
内存:32.0 GB
显卡:无
LM Studio版本:0.3.8
本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自 Lee!
评论