首页版面好友提醒登录
返回桌面电脑版 同主题展开

Re: 自己组一个专门用来执行ai推理的机难度怎么样

bspkq与其感慨路难行 2026-01-29 13:51:52
#44602

目前在用云服务器跑moltbot,暂时没感觉比mac mini差哪去,模型都是线上跑 

WekFer (芒果:欢迎来 Story 版玩耍~) 在 ta 的帖子中提到:

这个倒巧了,最近有个外国人做了一个高权限的agent,最新名字moltbot,火起来之后直接导致mac mini卖断货了(

后续搞不好又因为这事涨价(

我是想着一来现在已经有不少针对低显存的小的开源模型,我又不专业,能跑起来几个可能就不错了,二是以后可能陆续会有公司发布更多的优化过大小的模型可以匹配个人显卡的显存,对我来说也许也够了

……