内存带宽限制速度，大小限制了模型和上下文长度。hugging face的人刚帖了一个纯cpu rig跑deepseek 670B 完整版，双16核cpu , 768GB内存，$6000美元拿下，系统功率小于500w, 速度大约6-8 tokens每秒，勉强能忍，不着急的话。普通玩家也可上手，买公司退下来的二手服务器会便宜更多。

https://x.com/carrigmat/status/1884244369907278106?t=_yLIGHe06z8qLUfnYY3gZQ&s=19

lea (无爱即无忧) 在 ta 的帖子中提到：

别犟，这个事儿其实前年就爆出来了，就是gpt-4相比gpt-3.5出现“退化”...

openai虽然进行了公关，但是明显是在顾左右而言他...

目前尚不清楚deepseek的“瓶颈”会出现在哪里...

……