请问这是GPU推理速度，还是NPU推理速度呢。。

每秒3个字还好，比纯cpu强一点（但有限）。。。

Abramou (好名字可以让朋友更容易的记住你) 在 ta 的帖子中提到：

升级64g内存后，可以跑32b模型，准度初步可以接受，但是每秒3个字，略卡。。。。