Re: 大模型相关工作对比,求建议
sglang/vllm 这种,不过他家是自研的,没直接用开源
barcamessi (梅西老妖) 在 ta 的帖子中提到:
刚好在做AI infra这块,要是Kimi这种的话,我建议AI infra。他家的技术大厂都认的。另外推理框架是sglang/vllm这种还是偏AI框架这种?
本站规定,相同或相近内容的帖子一周内严禁在5个及5个以上讨论区内重复张贴,否则将受到禁言全站发文权限直至删除帐号的处罚。
多个id共同一文多发的,对参与多发的每个id按多发总数进行处罚
点击右上角“”分享该页面