首页版面好友提醒登录
返回桌面电脑版 同主题展开

Re: 【分享】deepseek本地部署初体验

kissme臭薯条酱 2025-02-14 20:28:26
#44049

会刚好吃到33G这样子,如果只跑32b,可以考虑48g内存。

brainstorm (火星人) 在 ta 的帖子中提到:

我是12600kf+32G D5内存+7900xtx,想问下楼主跑32b模型的时候内存占用大概有多少呢?我也是用ollama,显存占满24G的情况下内存还是会吃满,但是生成速度是正常的,在20token/s左右