内存管够的话，可以看看github上面的一个项目，搜索KTransformers，大概需要24g显存和382g内存，还是要至少买一张3090或者两张3060 12g的（我也是偶然间刷到，没有具体了解支不支持多GPU跑）。

Anomal (Segment) 在 ta 的帖子中提到：

假如组里有服务器，内存管够，但是没有GPU可以部署到服务器的节点上吗，只有CPU的话会不会太慢