【实习】大模型推理框架实习生 - 实习(Intern)版 - 北大未名BBS
返回本版
1
/ 1
跳转

【实习】大模型推理框架实习生

[复制链接]
楼主

LynnG [离线]

LynnG

0.0没等级

发帖数:2 原创分:0
<只看ta> <ASCIIArt>
1楼

一、公司介绍

Atlas Cloud 是一家专注 AI Infra 的技术公司,为全球开发者和企业提供高性能、低成本的 GPU 算力与 AI 推理平台,帮助团队更快地部署和扩展大模型应用。

岗位:⼤模型推理框架实习⽣ 

岗位职责 :

1. 负责模型接⼝调⽤功能开发集成 

2. 负责新模型适配上线, bugfix,功能开发与算⼦集成 

3. 负责推理服务镜像的制作,更新与管理 

4. 负责⼤模型,图像以及视频场景单节点/服务的⼯程/算法性能的回归测试与压⼒测试 

5. 负责⼤模型,图像以及视频推理框架的开发以及优化 

任职要求: 

1. 计算机科学、信息⼯程、电⼦⼯程、机器⼈等专业本科及以上学历; 

2. 具备扎实的编程能⼒,熟练使⽤Python/C++进⾏开发。 

3. 了解⽹络⽹关基本概念,能进⾏基础⽹络问题排查 

4. 熟悉open AI 接⼝调⽤和集成开发 

5. 熟悉sglang,vLLM 等⼤模型推理系统,熟悉⽬前主流的⼤模型推理优化⽅法,如pd分离,分布式 

推理,投机采样等技术 。 

6. 熟悉容器技术,了解云平台技术者优先 

7. 具备良好的编程⻛格习惯、⽂档撰写能⼒、团队协作和沟通表达能⼒。 

8. 有⾼性能计算,计算机体系结构背景,熟悉系统性能调优⽅式,了解计算访存底层硬件实现原理者为加分项

实习时长:

六个月以上,一周四天以上

简历投递:

jenny.luo@atlascloud.ai 

备注:公司在融科环境很好,还有很多福利!实习工资非常有竞争力!

发表于2026-01-20 13:42:24
返回本版
1
/ 1
跳转

请您先 登录 再进行发帖

快速回复楼主
标题
建议:≤ 24个字
签名档
发布(Ctrl+回车)

您输入的密码有误,请重新输入