人工智能高级架构师
80-100k
苏州
10年以上
硕士
招1人
8月6日更新
- 职位介绍
- 岗位职责：
（1）推理引擎研发：负责企业级大模型推理框架的的核心模块开发与性能优化，支撑多场景（对话/智能体）推理需求。
（2）异构芯片适配优化：负责LLM在多种异构芯片（GPU/NPU）上的推理优化，实现芯片适配层，优化计算访存效率与算子执行性能，探索并落地先进算力方案。
（3）算子库建设开发：主导负责高性能算子库开发，进行技术难点攻关，指导开发团队工作。
（4）性能分析：负责推理全链路性能监控分析、瓶颈发现，持续追踪并优化端到端推理延迟、吞吐及资源利用率。
（5）核心技术攻关：牵头解决大规模推理中的关键技术问题，包括分布式推理架构、内存优化、通信效率提升、动态资源调度等。
（6）技术评估与引进：跟踪业界推理优化前沿技术（如推理编译、硬件感知优化、新型存储架构），并推动技术落地应用。
任职要求：
1.具有相关专业本科及以上学历，身体健康，5年以上AI系统/推理框架开发经验/模型优化方向，其中至少3年大模型推理架构设计经验，条件特别优秀者可适当放宽。
2.技术深度：
（1）精通至少两种异构芯片编程（CUDA/AscendC），深入理解GPU/NPU硬件架构与并行计算原理；
（2）精通vLLM/SGLang/TensorRT-LLM/LMDeploy等多种推理框架的底层实现，具备架构级定制开发能力。
3.具备丰富的大模型推理优化实战经验，包括：
（1）模型压缩：INT4/INT8量化、结构化/非结构化剪枝、知识蒸馏；
（2）推理加速：投机解码、动态批处理、KV Cache优化、算子融合；
（3）分布式：TP/PP/DP混合并行、多机多卡通信优化。
4.深入理解融合算子、量化算子、集合通信等实现原理，有大规模算子库建设经验。
5.密切跟踪AI推理领域前沿技术，具备技术选型和技术风险评估能力。
6.有AI系统或算子相关顶会论文发表者优先；熟悉AI编译器技术者、有核心算子优化经验优先。
7.具有较强的组织协调能力、技术领导力和创新精神。
- 其他信息
- 语言要求：不限
- 行业要求：云计算/大数据
猎聘温馨提示：
- 1. 如您发现平台内招聘方存在以下违规行为的，请立即举报
-
- · 扣押您的身份证件或者其他证件；
- · 要求您提供担保人、担保金或者以其他名义向您收取财物（ 如培训费、体检费、资料费、置装费、押金等）；
- · 强迫您入股或者向您集资；
- · 以招聘名义牟取不正当利益；
- · 发布虚假招聘广告信息；
- · 工作时长违反劳动法规定；
- · 存在其他损害您的合法权益的行为。
- 2. 如您应聘的岗位属于涉外劳务合作/海外岗位的，请务必核实招聘方对外劳务合作资质取得情况，同时注意自身资金安全，防范招聘欺诈。
- 了解更多安全防范知识>
- 3. 本平台招聘方不向求职者提供任何收费服务。
查看全部
