Re: 大模型相关工作对比,求建议 - 找工作啦(Job)版 - 北大未名BBS

Re: 大模型相关工作对比,求建议

[复制链接] 浏览该主题帖

barcamessi [离线]

梅西老妖

4.0高级站友

发帖数:1661 原创分:0
关注
<ASCIIArt> #275549

那就是侵入式修改了...看吧,光推理框架其实含金量不高,核心是和算子,特性优化。Triton啊,量化啊这些搞在一起才有价值

chammu (wo) 在 ta 的帖子中提到:

sglang/vllm 这种,不过他家是自研的,没直接用开源

发表于2025-09-17 23:13:05

请您先 登录 再进行发帖

快捷回帖
标题
建议:≤ 24个字
签名档
发布(Ctrl+回车)

您输入的密码有误,请重新输入