实习要求

地点：远程协作对我们来说不是问题，但优先考虑深圳site的申请者

时间：3个月以上，每周至少3天

工作内容：利用摩尔显卡进行前沿的语言/多模态大模型优化算法/分布式算法探索和模型/算法适配

工作目标：产出完整适配优化代码，产出专利或者论文等研究成果

实习生职位能力要求

数学/自动化/计算机/软件/通信等专业

对新算力设备/国产算力设备和 AI 领域研究抱有兴趣

对深度学习和分布式优化方向的基本算法有较好的理解

具备扎实的编程、代码阅读及调试能力

熟悉 PyTorch；了解大模型框架，如 megatron、deepspeed、colossalai、fsdp 等

加分项：

1. 熟悉分布式优化方法，具有大规模集群训练经验

2. 具有较强的科研能力，曾在顶级会议发表论文

3. 有竞赛刷榜经历或 ACM 竞赛获奖经历

简历请发至hh2017@pku.edu.cn，或者添加本人微信h131071