Re: 小白求推荐可以本地部署DEEPSEEK和SD的台式电脑 - 桌面电脑(Computer)版 - 北大未名BBS

Re: 小白求推荐可以本地部署DEEPSEEK和SD的台式电脑

[复制链接] 浏览该主题帖

brainstorm [离线]

火星人

3.1扬州炒饭

发帖数:277 原创分:0
关注
<ASCIIArt> #43992

自己用AMD 7900xtx(24G显存)+32G内存试着本地部署了几个蒸馏后的小模型,32B能跑,14、8、7B的速度飞起,但也只能娱乐一下,跟在线版本的完全体R1不能比。而且用起来会有各种各样的小Bug,对话长度深度也会受性能限制。如果只是用现有硬件玩玩还可以,要是认真用的话要么搭个多卡集群上完整模型(应该超过了小白考虑的范畴),要么看看国内这些厂商有没有自己部署后开放的api吧。

liujiaabcde (此魂何甘归故土) 在 ta 的帖子中提到:

内存32G,硬盘2T,

其他的求推荐个配置


自己组装是不是比买品牌的划算一些?

 最后修改于2025-02-08 15:09:50
  • 发表于2025-02-08 15:08:48

请您先 登录 再进行发帖

快捷回帖
标题
建议:≤ 24个字
签名档
发布(Ctrl+回车)

您输入的密码有误,请重新输入