【上海⼤模型训练 Infra专家招聘】-猎头顾问上海招聘信息-猎聘

殷先生 33分钟前在线已认证

猎头顾问 · 北京才多对信息技术有限公司

简历处理快回复速度快

聊一聊

职位介绍: 岗位职责负责百B级及以上⼤模型训练框架、训练系统和算⼦性能优化，保障⼤规模训练的稳定性、效率和可扩展性。具体包括： 1. 负责⼤模型训练框架优化，包括 Megatron、DeepSpeed、FSDP、ZeRO、 TP/PP/DP/EP 等并⾏策略优化； 2. 负责多机多卡训练性能优化，包括通信优化、显存优化、checkpoint 优化、数据加载优化、训练稳定性优化； 3. 负责⼤模型训练中的性能瓶颈分析，包括 MFU、吞吐、显存占⽤、通信开销、算⼦效率等； 4. 参与百B级及以上模型训练任务的系统设计、故障定位、性能调优和稳定性保障； 5. 结合具体模型结构，优化 attention、MoE、⻓上下⽂、多模态训练等核⼼模块的训练效率； 6. 推动训练框架⼯程化建设，包括任务调度、监控告警、⽇志分析、容错恢复、集群资源利⽤率提升等。岗位要求 1. 具备 100B 以上⼤模型训练框架优化经验，有实际⼤规模训练项⽬经验优先； 2. 熟悉 PyTorch、CUDA、Triton、NCCL、Megatron、DeepSpeed、FSDP 等训练相关技术； 3. 熟悉⼤模型并⾏训练策略，理解 TP、PP、DP、ZeRO、MoE Expert Parallel 等机制； 4. 具备较强的系统性能分析能⼒，能定位训练过程中的吞吐、通信、显存、稳定性问题； 5. 有 GPU 集群、Slurm/K8s、分布式训练调度、容错恢复经验优先； 6. 有 H100/H200/A100、国产 GPU 或异构硬件适配经验优先。

其他信息: 语言要求：不限; 行业要求：人力资源服务

猎聘温馨提示：

1. 如您发现平台内招聘方存在以下违规行为的，请立即举报

· 扣押您的身份证件或者其他证件；
· 要求您提供担保人、担保金或者以其他名义向您收取财物（如培训费、体检费、资料费、置装费、押金等）；
· 强迫您入股或者向您集资；
· 以招聘名义牟取不正当利益；
· 发布虚假招聘广告信息；
· 工作时长违反劳动法规定；
· 存在其他损害您的合法权益的行为。

2. 如您应聘的岗位属于涉外劳务合作/海外岗位的，请务必核实招聘方对外劳务合作资质取得情况，同时注意自身资金安全，防范招聘欺诈。

了解更多安全防范知识>

3. 本平台招聘方不向求职者提供任何收费服务。

查看全部