guest 个人主页 修改帐号 退出
kissme [离线]
臭薯条酱
4.9昆吾
会刚好吃到33G这样子,如果只跑32b,可以考虑48g内存。
brainstorm (火星人) 在 ta 的帖子中提到:
我是12600kf+32G D5内存+7900xtx,想问下楼主跑32b模型的时候内存占用大概有多少呢?我也是用ollama,显存占满24G的情况下内存还是会吃满,但是生成速度是正常的,在20token/s左右
请您先 登录 再进行发帖
您输入的密码有误,请重新输入