Re: 【分享】deepseek本地部署初体验 - 桌面电脑(Computer)版 - 北大未名BBS

Re: 【分享】deepseek本地部署初体验

[复制链接] 浏览该主题帖

brainstorm [离线]

火星人

3.1扬州炒饭

发帖数:277 原创分:0
关注
<ASCIIArt> #44050

感谢回复!之前我看其他人用q4km的32b量化版本,说只需要19GB显存就可以完全卸载到GPU里,还以为自己跑的时候哪里出错了。看来目前内存是已经爆了

kissme (臭薯条酱) 在 ta 的帖子中提到:

会刚好吃到33G这样子,如果只跑32b,可以考虑48g内存。

发表于2025-02-14 20:35:45

请您先 登录 再进行发帖

快捷回帖
标题
建议:≤ 24个字
签名档
发布(Ctrl+回车)

您输入的密码有误,请重新输入