【日常实习】 微信LLM Infra开发实习生

【工作地点】

北京

【工作内容】

1. 配合算法工程师，推动深度学习相关算法的落地，打造高吞吐、低延时的推理系统；

2. 负责设计高性能推理服务架构，结合LLM能力实现业务的高效运转；

3. 结合推理引擎与底层硬件特性，优化动态调度、资源管理等后台策略。

【要求】

1. 一周 4 天以上，实习六个月以上；

2. 具备扎实的语言基础，掌握 Golang/C++/Python 至少一门语言，熟悉Linux开发环境；

3. 有Tensorrt/FasterTransformer/Tensorrt-llm/vllm/sglang等深度学习推理框架的实际使用经验；

4.熟悉CPU/GPU异构加速瓶颈分析方法，有服务器端 AI 芯片、GPU加速经验优先；

5.熟悉分布式推理常用加速方法，有超大模型分布式部署经验优先。

【联系方式】

简历发送至邮箱：ylzfiles@126.com

邮件主题：姓名+ Infra实习+毕业年份+可实习时长