/ 1
【实习】大模型推理框架实习生
[复制链接] 分享:
1楼
一、公司介绍
Atlas Cloud 是一家专注 AI Infra 的技术公司,为全球开发者和企业提供高性能、低成本的 GPU 算力与 AI 推理平台,帮助团队更快地部署和扩展大模型应用。
岗位:⼤模型推理框架实习⽣
岗位职责 :
1. 负责模型接⼝调⽤功能开发集成
2. 负责新模型适配上线, bugfix,功能开发与算⼦集成
3. 负责推理服务镜像的制作,更新与管理
4. 负责⼤模型,图像以及视频场景单节点/服务的⼯程/算法性能的回归测试与压⼒测试
5. 负责⼤模型,图像以及视频推理框架的开发以及优化
任职要求:
1. 计算机科学、信息⼯程、电⼦⼯程、机器⼈等专业本科及以上学历;
2. 具备扎实的编程能⼒,熟练使⽤Python/C++进⾏开发。
3. 了解⽹络⽹关基本概念,能进⾏基础⽹络问题排查
4. 熟悉open AI 接⼝调⽤和集成开发
5. 熟悉sglang,vLLM 等⼤模型推理系统,熟悉⽬前主流的⼤模型推理优化⽅法,如pd分离,分布式
推理,投机采样等技术 。
6. 熟悉容器技术,了解云平台技术者优先
7. 具备良好的编程⻛格习惯、⽂档撰写能⼒、团队协作和沟通表达能⼒。
8. 有⾼性能计算,计算机体系结构背景,熟悉系统性能调优⽅式,了解计算访存底层硬件实现原理者为加分项
实习时长:
六个月以上,一周四天以上
简历投递:
jenny.luo@atlascloud.ai
备注:公司在融科环境很好,还有很多福利!实习工资非常有竞争力!
/ 1
