MAAS平台开发工程师 30-60k
上海 3-5年 本科 招5人 8月11日更新
收藏
年终奖金 交通补助 通讯津贴 餐费补贴 发展空间大 补充住房金
avator
郭女士 2天前在线 已认证
猎头顾问 · 北京韦斯曼管理咨询有限公司
简历处理快 回复速度快
聊一聊
职位介绍
工作职责 1、负责大模型推理平台的开发、维护与性能优化,保障服务高可用性和高性能运行 2、对大模型KVCache集群进行开发、维护与性能调优,解决大规模并发推理内存瓶颈 3、管理推理服务的计算资源、流量及任务调度,优化集群资源利用率,降低推理成本 4、建立推理服务监控告警体系,及时发现和解决性能异常和系统故障 5、参与推理服务架构设计,支持多模态模型和不同规模模型的推理需求 任职资格 岗位要求: 1、计算机相关专业,本科及以上学历,3-5年分布式系统或AI推理相关工作经验具备丰富的推理服务性能优化经验:KVCache管理、调度策略优化、PD分离、模型量化、模型并行等 2、熟练使用Kubernetes进行容器化部署,了解Volcano等GPU资源调度系统 3、掌握Go/Python等编程语言,具备良好的代码规范和系统设计能力 4、具备推理链路端到端性能分析与故障排查能力,能够在高并发、大规模场景下保障服务稳定运行 5、熟悉至少一种大模型推理主流框架(vLLM、SGLang、TensorRT-LLM、Dynamo等) 6、良好的团队协作能力和独立解决复杂问题的能力,能承受一定工作压力 加分项: 1、具备大规模KVCache集群管理和维护经验,熟悉缓存压缩、调度等优化策略 2、有千卡级以上GPU集群的大规模分布式推理服务开发或运维经验 3、熟悉NVIDIA H100/A100等高端GPU特性,有GPU集群管理及推理加速实战经验 4、了解InfiniBand、RDMA等高速网络技术在推理场景中的应用 5、熟悉多云GPU实例管理(AWS、Azure、阿里云等)和混合云部署方案
其他信息
语言要求:不限
行业要求:IT服务,培训服务

猎聘温馨提示:

1. 如您发现平台内招聘方存在以下违规行为的,请立即举报
  • · 扣押您的身份证件或者其他证件;
  • · 要求您提供担保人、担保金或者以其他名义向您收取财物( 如培训费、体检费、资料费、置装费、押金等);
  • · 强迫您入股或者向您集资;
  • · 以招聘名义牟取不正当利益;
  • · 发布虚假招聘广告信息;
  • · 工作时长违反劳动法规定;
  • · 存在其他损害您的合法权益的行为。
2. 如您应聘的岗位属于涉外劳务合作/海外岗位的,请务必核实招聘方对外劳务合作资质取得情况,同时注意自身资金安全,防范招聘欺诈。
3. 本平台招聘方不向求职者提供任何收费服务。
查看全部
更新时间:2026-08-14