AI 模型推理优化工程师 30-50k·14薪
深圳 1-3年 硕士 招2人 6月1日更新
收藏
avator
张女士 1天前在线 已认证
猎头顾问 · 锐仕方达人才科技集团有限公司南京第五分公司
简历处理快 回复速度快
聊一聊
职位介绍
职位描述 岗位职责 1. 负责 AI 模型推理相关工程开发与性能优化,包括模型推理链路搭建、推理框架集成、前后处理开发、性能分析与问题排查。 2. 基于 C++ 开发高性能、稳定、可维护的模型推理模块,参与推理流程中的内存管理、任务调度、多线程并发、数据格式转换等工程实现。 3. 对接常见模型推理框架,完成模型部署、推理接口封装、性能 profiling、推理结果验证及线上问题定位。 4. 结合业务场景优化模型推理效率,包括前后处理优化、算子性能优化、内存占用优化、推理延迟优化等。 5. 参与推理框架相关能力建设,包括框架接入、二次开发、功能扩展、性能调优或自研推理模块搭建。 6. 与算法、产品、测试团队协作,推动模型从训练结果到工程可用、稳定可上线的推理服务或端侧推理模块落地。 职位要求 任职要求 1. 硕士及以上学历,工作时间3年以内 2. 计算机、软件工程、人工智能、电子信息等相关专业,具备扎实的计算机基础和良好的工程开发能力。 3. 熟练掌握 C++,理解常见数据结构、内存管理、多线程编程、性能优化和工程调试方法,具备较强的代码实现能力。 4. 具备深度学习基础,理解常见神经网络结构、张量计算、模型推理流程、模型格式转换和量化等基本概念。 5. 有模型推理工程经验,熟悉模型从训练框架到推理框架的部署流程,能够独立完成模型加载、输入输出处理、推理调用和结果验证。 6. 使用过至少一种常见模型推理框架,如 TensorRT、ONNX Runtime、OpenVINO、MNN、NCNN、TFLite、QNN、SNPE、vLLM、SGLang 等。 7. 具备良好的问题分析和工程排查能力,能够定位推理链路中的性能瓶颈、精度差异、内存问题、并发问题或稳定性问题。 加分项 1. 有推理框架搭建、二次开发、源码改造或性能优化经验。 2. 有自定义算子开发、算子适配、算子性能优化经验。 3. 熟悉 CUDA、ARM NEON、OpenCL、Metal、Vulkan、DSP、NPU 等任一硬件加速或底层优化技术。 4. 有大模型推理优化经验,如 KV Cache、Batching、PagedAttention、Speculative Decoding、量化部署等。 5. 有端侧模型部署、嵌入式 AI、移动端 AI 或高性能推理服务落地经验。
其他信息
语言要求:不限
行业要求:智能硬件/消费电子

猎聘温馨提示:

1. 如您发现平台内招聘方存在以下违规行为的,请立即举报
  • · 扣押您的身份证件或者其他证件;
  • · 要求您提供担保人、担保金或者以其他名义向您收取财物( 如培训费、体检费、资料费、置装费、押金等);
  • · 强迫您入股或者向您集资;
  • · 以招聘名义牟取不正当利益;
  • · 发布虚假招聘广告信息;
  • · 工作时长违反劳动法规定;
  • · 存在其他损害您的合法权益的行为。
2. 如您应聘的岗位属于涉外劳务合作/海外岗位的,请务必核实招聘方对外劳务合作资质取得情况,同时注意自身资金安全,防范招聘欺诈。
3. 本平台招聘方不向求职者提供任何收费服务。
查看全部
更新时间:2026-08-15