【字节跳动】Seed 大模型推理方向 - 求职信息发布(Job_Post)版 - 北大未名BBS
返回本版
1
/ 1
跳转

【字节跳动】Seed 大模型推理方向

[复制链接]
楼主

AltairXs [离线]

AltairXS

3.2中级站友

发帖数:304 原创分:0
<只看ta> <ASCIIArt>
1楼

团队,主要有两个方向,大模型应用架构工程师和机器学习推理引擎。此外,异构硬件(隔壁组)这里也留了对应的内推链接。

该帖子,2024年,2025年全年都有效。欢迎来私信。


目前主要想找一些能干活的小伙伴,1-2,2-1,2-2,3-1也可。如果想了解更多信息,可以加微信940086216。也欢迎大家转发jd到自己的校友群或者班级群里。职位要求,可以不太用care,相信大家的潜力。

大模型应用架构工程师-豆包大模型职位描述字节跳动豆包大模型团队成立于 2023 年,致力于开发业界最先进的 AI 大模型技术,成为世界一流的研究团队,为科技和社会发展作出贡献。豆包大模型团队在AI领域拥有长期愿景与决心,研究方向涵盖NLP、CV、语音等,在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源,在相关领域持续投入,已推出自研通用大模型,提供多模态能力,下游支持豆包、扣子、即梦等50+业务,并通过火山引擎开放给企业客户。目前,豆包APP已成为中国市场用户量最大的AIGC应用。1、负责 LLM 在 toC 应用落地,提供多 tool (联网、文件识别、代码沙盒等) 与多模型的动态编排能力,不断优化架构可扩展性,帮助豆包、Coze、猫箱等业务不断快速增长;2、与不同 LLM 算法同学紧密协作,探索复杂服务能力,如WebGPT、FunctionCall、Agents、AssistantAPI、图像/语音多模态等,追进前沿的研究成果;3、设计并实施全流式通信的 LLM 应用架构,与国内最大规模的 LLM 高性能推理服务联动实现端到端最佳的性能和资源能效,不断提升高并发高吞吐在线系统的健壮性。职位要求1、熟练掌握Linux环境下的C/C++、Python、Java、Go 中的 1~2 门,扎实的编程能力,优秀的设计和代码思维;2、对在线架构有丰富的经验和广阔的视野,有对话系统、搜广推推荐系统、大规模机器学习系统经验优先;3、具有独立解决问题的能力,良好的团队合作精神,具备优秀的复杂问题拆解能力;4、有强烈的工作责任心,较好的学习能力、沟通能力和自驱力。加分项:1、熟悉机器学习、MLSYS 基础知识,了解 LLM 架构原理,有模型能力在业务落地经验;2、ACM/ICPC、NOI/IOI、Top Coder 等比赛获奖;3、分布式系统设计优化经验。

机器学习系统推理引擎资深工程师/专家-豆包大模型职位描述字节跳动豆包大模型团队成立于 2023 年,致力于开发业界最先进的 AI 大模型技术,成为世界一流的研究团队,为科技和社会发展作出贡献。豆包大模型团队在AI领域拥有长期愿景与决心,研究方向涵盖NLP、CV、语音等,在中国、新加坡、美国等地设有实验室和研究岗位。团队依托平台充足的数据、计算等资源,在相关领域持续投入,已推出自研通用大模型,提供多模态能力,下游支持豆包、扣子、即梦等50+业务,并通过火山引擎开放给企业客户。目前,豆包APP已成为中国市场用户量最大的AIGC应用。1、以自研推理引擎为中心的在线推理服务和近离线批式推理任务框架,负责超大规模机器学习系统架构的设计开发,解决系统高并发、高可靠性、高可扩展性等技术难关,为搜索、推荐、审核等业务提供深度模型推理全场景端到端解决方案;2、针对PyTorch、TensorFlow等框架提供高自动化、极致性能的模型优化方案,技术方案不限于子图匹配、编译优化、模型量化、异构硬件等;3、面向全球多地域超大规模GPU算力集群,通过弹性调度、GPU 超卖、任务编排等方式不断提升算力利用率;4、与算法部门深度合作,进行算法与系统的联合优化。职位要求1、熟练掌握Linux环境下的C/C++与Python语言,有大规模机器学习系统或搜广推推荐系统相关经验;2、熟悉至少一种机器学习框架(Tensorflow / PyTorch / MxNet 或其他自研框架);3、有以下至少一项的背景知识与经验:GPU 编程、编译器、模型量化、GPU 集群调度;4、具有独立解决问题的能力,良好的团队合作精神,具备优秀的复杂问题拆解能力;5、有强烈的工作责任心,较好的学习能力、沟通能力和自驱力;6、有良好的工作文档习惯,及时按要求撰写更新工作流程及技术文档。加分项:1、有推荐/广告/搜索离在线推理系统架构经验;2、理解 GPU硬件架构,理解GPU软件栈(CUDA,cuDNN),具备GPU性能分析的经验。

大模型应用架构的jd和内推链接,https://job.toutiao.com/s/irPwKgYN

机器学习推理引擎的jd和内推链接,https://job.toutiao.com/s/iStc5fR9

异构硬件的同学可以投到,https://job.toutiao.com/s/iStcg1kn

其他岗位可以看下边这个链接里的内容,如果你有兴趣成为Top Seed项目的校招同学,也欢迎关注https://bytedance.larkoffice.com/docx/KnW4dbuzIoyKbfx3akMcgfjsneb

发表于2024-10-31 16:45:18
返回本版
1
/ 1
跳转

请您先 登录 再进行发帖

快速回复楼主
标题
建议:≤ 24个字
签名档
发布(Ctrl+回车)

您输入的密码有误,请重新输入