【深圳端侧大模型部署软件工程师招聘】-猎头顾问深圳招聘信息-猎聘

符先生 2天前在线已认证

顾问 · 广东趣前程人力资源开发有限公司

简历处理快回复速度快

聊一聊

职位介绍: 职位描述 1、负责端侧（智能硬件/车端）大模型的工程化落地，完成模型接入、推理链路打通、模块集成及部署交付； 2、负责基于 C/C++ 的大模型推理框架、运行时及中间件开发，建设统一的模型加载、执行控制、资源管理和接口封装能力； 3、负责主流推理引擎和工具链的接入与适配，包括 TensorRT、ONNX Runtime、QNN、MNN、llama.cpp 等，支持模型在不同硬件平台上的稳定运行； 4、负责异构计算平台上的集成开发与功能联调，支持 CPU/GPU/NPU 等资源下的大模型部署与运行，有 NVIDIA Thor 等平台开发经验者优先； 5、参与端侧大模型部署相关技术方案设计，结合业务需求推进量化、推理效率和系统稳定性的持续演进。职位要求 1、熟悉 Linux 开发环境，精通 C/C++，熟悉 Python，具备良好的编码习惯和工程实现能力； 2、具备较强的中间件、运行时或系统软件开发经验，有模块设计、接口抽象、组件封装和问题定位能力； 3、熟悉主流 LLM/VLM 模型架构及基本推理流程，了解 Transformer、Attention、KV Cache 等基础机制； 4、熟悉至少一种主流推理引擎或框架，如 TensorRT、ONNX Runtime、QNN、MNN、llama.cpp、vLLM 等，有实际集成或落地经验； 5、有异构系统开发经验，熟悉 CPU/GPU/NPU 协同方式；了解量化、Continuous Batching、Speculative Decoding 等常见技术者优先。

其他信息: 语言要求：不限; 行业要求：电子商务

猎聘温馨提示：

1. 如您发现平台内招聘方存在以下违规行为的，请立即举报

· 扣押您的身份证件或者其他证件；
· 要求您提供担保人、担保金或者以其他名义向您收取财物（如培训费、体检费、资料费、置装费、押金等）；
· 强迫您入股或者向您集资；
· 以招聘名义牟取不正当利益；
· 发布虚假招聘广告信息；
· 工作时长违反劳动法规定；
· 存在其他损害您的合法权益的行为。

2. 如您应聘的岗位属于涉外劳务合作/海外岗位的，请务必核实招聘方对外劳务合作资质取得情况，同时注意自身资金安全，防范招聘欺诈。

了解更多安全防范知识>

3. 本平台招聘方不向求职者提供任何收费服务。

查看全部