Re: 【分享】deepseek本地部署初体验
[复制链接] 浏览该主题帖
<ASCIIArt>
#44039
刚好今天刷到篇文章提到一个安全风险,安装之后本地模型的接口有可能暴露在公网而被别人用◉‿◉
kissme (臭薯条酱) 在 ta 的帖子中提到:
鉴于我喜欢装电脑,而工作上也有使用deepseek的需求,就研究了几天,在家自己本地部署了deepseek r1的蒸馏模型,分享一下以供参考。
首先是我的配置,CPU是amd的7700,内存是64g的ddr5 6200mhz内存,硬盘是三星的980Pro 2tb,显卡是7900xtx 24GB。
配置的方法使用了ollama(amd版本需要额外到github下载,并替换部分文件),当然lm studio也是可以的(我在笔记本上面就是用lm studio,好处是更多的模型选择,可以使用核显加速,并且不用挂梯子),分别尝试了ollama官网上提供的14b,32b和70b三个模型。
……
签名档
来自北大未名BBS微信小程序 (http://t.cn/A67L9Lm2)
--
