【成都系统开发高级工程师（端侧模型部署工程化）招聘】-猎头顾问成都招聘信息-猎聘

徐女士 30分钟前在线已认证

猎头运营总监 · 天津克而睿企业管理咨询有限公司

简历处理快回复速度快

聊一聊

职位介绍: 岗位职责 1. 端侧模型部署负责大模型（LLM/VLM）在智能座舱端侧的工程化部署，完成从训练模型到端侧推理引擎的模型转换、量化、编译与优化。支持高通/英伟达等座舱芯片平台的大模型产品化部署。 2. 模型量化与压缩负责大模型的量化部署工作，针对不同芯片平台的算子能力与工程特性，设计差异化的量化策略（PTQ/QAT），覆盖FP4/INT4/INT8/FP16等多种精度，优化量化前后的精度损失。熟练运用INT4低比特量化与GPTQ等后训练量化算法，在保证精度的前提下最大化压缩模型体积、降低内存带宽占用。 3. 推理性能优化负责端侧大模型部署过程中的性能调优，包括但不限于：计算图优化与算子融合、KV-Cache动态内存管理（如Paged KV Cache）、内存带宽优化与DDR访问优化、token生成速度优化、投机采样（Speculative Decoding）等。针对高通NPU或英伟达GPU/DLA架构特性进行算子适配与深度优化。 4. 工具链与工程化熟练使用高通QNN（Qualcomm Neural Network SDK）工具链完成模型转换、量化、编译及性能分析；或熟练使用英伟达CUDA、TensorRT及TensorRT Edge-LLM推理框架完成端侧大模型的部署与优化。编写Shell/Python脚本实现模型转换、量化及精度验证的自动化流程。 5. 量产落地与技术支持配合算法团队完成模型从云端训练到车机端侧部署的全流程适配，解决内存、算力、时延等性能瓶颈。编写技术文档并输出部署标准化流程。职位要求任职要求： 1、计算机/电子工程/自动化/软件工程等相关专业本科及以上学历 2、3年以上嵌入式平台AI模型部署经验，具备至少1个量产项目经验熟练掌握C/C++及Python，具备良好的计算机体系结构知识和嵌入式开发能力 3、熟悉深度学习框架（PyTorch/TensorFlow）及模型优化技术 4、平台与工具链要求（满足以下至少一项）高通平台方向：熟悉高通骁龙平台NPU/Hexagon DSP架构； 5、精通QNN工具链全流程，包括模型转换（ONNX/Caffe/TFLite→QNN）、量化（QAT/PTQ）、编译及QNN Profiler性能分析；6、有高通平台端侧大模型量产部署经验英伟达平台方向：熟悉NVIDIA Jetson Orin/DRIVE平台架构；7、精通CUDA编程及TensorRT推理优化；熟悉TensorRT Edge-LLM推理框架，有LLM/VLM在Orin平台上的端侧部署经验； 8、了解Jetson Orin平台FP16/INT8/INT4精度部署加分项深入理解Transformer架构核心算子（Attention、FFN、LayerNorm）的底层实现与优化方法熟悉模型轻量化技术（剪枝、知识蒸馏等）具有多模态大模型（VLM）量化部署与优化经验有车规级嵌入式开发经验（智能座舱/ADAS方向）熟悉端侧大模型推理机制，如计算图执行、KV缓存优化、投机采样策略等

其他信息: 语言要求：不限; 行业要求：整车制造

猎聘温馨提示：

1. 如您发现平台内招聘方存在以下违规行为的，请立即举报

· 扣押您的身份证件或者其他证件；
· 要求您提供担保人、担保金或者以其他名义向您收取财物（如培训费、体检费、资料费、置装费、押金等）；
· 强迫您入股或者向您集资；
· 以招聘名义牟取不正当利益；
· 发布虚假招聘广告信息；
· 工作时长违反劳动法规定；
· 存在其他损害您的合法权益的行为。

2. 如您应聘的岗位属于涉外劳务合作/海外岗位的，请务必核实招聘方对外劳务合作资质取得情况，同时注意自身资金安全，防范招聘欺诈。

了解更多安全防范知识>

3. 本平台招聘方不向求职者提供任何收费服务。

查看全部