大模型技术工程师 25-50k
青岛-城阳区 3-5年 硕士 招1人 8月12日更新
收藏
avator
瞿女士 1小时前在线 已认证
经理 · 安徽美瀚人力资源有限公司
简历处理快 回复速度快
聊一聊
职位介绍
1、主导大模型在线推理系统的性能攻坚,构建多节点多GPU的分布式推理架构,实现智能请求调度算法与异构硬件的性能调优; 2、设计高并发场景下的负载均衡方案,构建支持动态扩展的弹性计算架构,优化推理引擎运行时环境,实现毫秒级延迟与高QPS吞吐能力。 3、负责端侧大模型量化算法的研究与开发,包括但不限于低比特量化、混合精度量化等,提升模型推理效率,降低计算资源消耗 4、 搭建和优化大模型量化工具链,实现量化流程的自动化和高效化,提高整体研发效率 1.计算机科学或人工智能相关专业,硕士(3年以上工作经验)、博士; 2.熟悉大模型MegatronLM/Deepspeed分布式训练框架,深入了解模型量化、蒸馏、剪枝等模型优化原理和策略,有文本、语音、以及多模态模型相关训练、效果调优经验优先; 3. 熟悉大模型量化的原理,包含低比特量化、混合精度量化等,熟悉常用量化算法,比如Smoothquant、GPTQ、AWQ等,熟悉端侧使用的量化工具高通(Qnn、AIMet)、联发科(Neural Pilot); 4.具有独立开发能力以及合作开发能力,具有较强的团队精神、良好的沟通协调能力、较强的分析和解决问题的能力。
其他信息
语言要求:不限
行业要求:机械/设备

猎聘温馨提示:

1. 如您发现平台内招聘方存在以下违规行为的,请立即举报
  • · 扣押您的身份证件或者其他证件;
  • · 要求您提供担保人、担保金或者以其他名义向您收取财物( 如培训费、体检费、资料费、置装费、押金等);
  • · 强迫您入股或者向您集资;
  • · 以招聘名义牟取不正当利益;
  • · 发布虚假招聘广告信息;
  • · 工作时长违反劳动法规定;
  • · 存在其他损害您的合法权益的行为。
2. 如您应聘的岗位属于涉外劳务合作/海外岗位的,请务必核实招聘方对外劳务合作资质取得情况,同时注意自身资金安全,防范招聘欺诈。
3. 本平台招聘方不向求职者提供任何收费服务。
查看全部
更新时间:2026-08-16