Re: 【分享】deepseek本地部署初体验 - 桌面电脑(Computer)版 - 北大未名BBS

Re: 【分享】deepseek本地部署初体验

[复制链接] 浏览该主题帖

kissme [离线]

臭薯条酱

4.9昆吾

发帖数:7444 原创分:6
关注
<ASCIIArt> #44049

会刚好吃到33G这样子,如果只跑32b,可以考虑48g内存。

brainstorm (火星人) 在 ta 的帖子中提到:

我是12600kf+32G D5内存+7900xtx,想问下楼主跑32b模型的时候内存占用大概有多少呢?我也是用ollama,显存占满24G的情况下内存还是会吃满,但是生成速度是正常的,在20token/s左右

发表于2025-02-14 20:28:26

请您先 登录 再进行发帖

快捷回帖
标题
建议:≤ 24个字
签名档
发布(Ctrl+回车)

您输入的密码有误,请重新输入