【上海 AI Serverless 工程师招聘】-猎头顾问上海招聘信息-猎聘

姜先生 3天前在线已认证

职业成功专家 · 上海赋猎企业管理咨询有限公司

简历处理快

聊一聊

职位介绍: 我们正在构建下一代分布式公有 AI 云平台，专注于为 AI 模型推理场景提供高并发、高性能、高可用的弹性推理能力。作为 AI Serverless 开发工程师，您将负责设计和实现我们基于分布式架构的 Serverless 产品，为客户提供无缝的 AI 模型部署和推理体验。岗位职责 1、设计并实现基于分布式架构的 Serverless AI 推理平台，支持大规模 LLM 模型的高性能部署； 2、优化 AI 模型推理的弹性扩缩策略，确保满足客户需求的同时最大化资源利用率； 3、开发和维护多层级调度系统，包括 node 调度，worker 调度，request 调度, model & image 预热调度等； 4、优化在线推理和离线推理的混合调度，实现削峰填谷，减少资源空置率； 5、不断优化 worker 启动速度，提升扩容性能； 6、设计高可用、容错的分布式系统架构，确保服务的稳定性和可靠性； 7、与团队协作解决复杂的分布式系统问题，包括性能瓶颈、资源调度和故障恢复等。职位要求 1、计算机科学、软件工程或相关领域专业、5年以上云原生和分布式系统开发经验； 2、对 Kubernetes 核心概念有深入理解，包括 Operator 模式、CRD 开发和自定义控制器； 3、熟悉容器技术原理，包括 docker、容器镜像构建和分发机制； 4、具备弹性调度和自动扩缩容系统的设计和实现经验； 5、扎实的编程能力，精通 Go、Python或相关语言； 6、熟悉至少一种主流 LLM 推理引擎（如 vLLM、SGLang等）的工作原理和使用方法； 7、具备解决复杂分布式系统问题的能力，包括性能优化、资源管理和故障诊断； 8、熟悉 llm-d、lite-llm 等相关项目者、熟悉 ComfyUI 等场景者优先； 9、对 KNative 等项目有深入研究者优先； 10、有构建高性能、低延迟 API 服务的经验者优先。

其他信息: 语言要求：普通话; 行业要求：互联网,云计算/大数据

猎聘温馨提示：

1. 如您发现平台内招聘方存在以下违规行为的，请立即举报

· 扣押您的身份证件或者其他证件；
· 要求您提供担保人、担保金或者以其他名义向您收取财物（如培训费、体检费、资料费、置装费、押金等）；
· 强迫您入股或者向您集资；
· 以招聘名义牟取不正当利益；
· 发布虚假招聘广告信息；
· 工作时长违反劳动法规定；
· 存在其他损害您的合法权益的行为。

2. 如您应聘的岗位属于涉外劳务合作/海外岗位的，请务必核实招聘方对外劳务合作资质取得情况，同时注意自身资金安全，防范招聘欺诈。

了解更多安全防范知识>

3. 本平台招聘方不向求职者提供任何收费服务。

查看全部