首页版面好友提醒登录
返回桌面电脑版

8845hs主机可以直接用lmstudio部署模型,超简单

Abramou好名字可以让朋友更容易的记住你 2025-02-14 22:14:14
[楼主]1楼

目前是24g内存,只跑了7b模型,严肃点的问题回答很不准

明天准备吧内存升级到64g试一下

会继续更新试用信息

Abramou好名字可以让朋友更容易的记住你 2025-02-15 11:42:12
[楼主]2楼

升级64g内存后,可以跑32b模型,准度初步可以接受,但是每秒3个字,略卡。。。。

Abramou (好名字可以让朋友更容易的记住你) 在 ta 的帖子中提到:

目前是24g内存,只跑了7b模型,严肃点的问题回答很不准

明天准备吧内存升级到64g试一下

会继续更新试用信息

LYMing老玉米 最后修改于2025-02-15 17:23:47
3楼

请问这是GPU推理速度,还是NPU推理速度呢。。

每秒3个字还好,比纯cpu强一点(但有限)。。。

Abramou (好名字可以让朋友更容易的记住你) 在 ta 的帖子中提到:

升级64g内存后,可以跑32b模型,准度初步可以接受,但是每秒3个字,略卡。。。。

WWGGWWGG汪汪狗狗 2025-02-15 17:50:16
4楼

8840HS有戏不

Abramou (好名字可以让朋友更容易的记住你) 在 ta 的帖子中提到:

目前是24g内存,只跑了7b模型,严肃点的问题回答很不准

明天准备吧内存升级到64g试一下

会继续更新试用信息

Abramou好名字可以让朋友更容易的记住你 2025-02-16 07:53:13
[楼主]5楼

都能跑,可能会卡吧。。


WWGGWWGG (汪汪狗狗) 在 ta 的帖子中提到:

8840HS有戏不

Abramou好名字可以让朋友更容易的记住你 2025-02-16 07:53:35
[楼主]6楼

npu好像用不上

LYMing (老玉米) 在 ta 的帖子中提到:

请问这是GPU推理速度,还是NPU推理速度呢。。

每秒3个字还好,比纯cpu强一点(但有限)。。。

LYMing老玉米 2025-02-21 14:31:10
7楼

npu配起来麻烦,大家普遍不爱用

Abramou (好名字可以让朋友更容易的记住你) 在 ta 的帖子中提到:

npu好像用不上