Re: 大模型相关工作对比,求建议
他家因为做的早,所以一直是自研的。具体做啥倒是给我机会选,但我觉得算子门槛更高,完全没算子基础的话 landing 会有压力,所以如果去的话想先从框架入手,以后熟悉了再接触算子
barcamessi (梅西老妖) 在 ta 的帖子中提到:
那就是侵入式修改了...看吧,光推理框架其实含金量不高,核心是和算子,特性优化。Triton啊,量化啊这些搞在一起才有价值
本站规定,相同或相近内容的帖子一周内严禁在5个及5个以上讨论区内重复张贴,否则将受到禁言全站发文权限直至删除帐号的处罚。
多个id共同一文多发的,对参与多发的每个id按多发总数进行处罚
点击右上角“”分享该页面