那就是侵入式修改了...看吧，光推理框架其实含金量不高，核心是和算子，特性优化。Triton啊，量化啊这些搞在一起才有价值

chammu (wo) 在 ta 的帖子中提到：

sglang/vllm 这种，不过他家是自研的，没直接用开源