做 · 岗位

大模型量化部署工程师-上海

猎聘 · 上海 · 5 年以上 · 本科 · 500–5000 人 · 工业与硬件制造
50-80K·16薪
岗位职责
  • 负责大语言模型(LLM)、多模态大模型(VLM)、语音模型(Voice)等大模型算法的开发;
  • 负责模型量化方案设计,包括 PTQ(Post Training Quantization)、QAT(Quantization Aware Training)、等算法的评估、优化与落地;
  • 负责模型量化校准(Calibration)、精度分析及误差定位,优化量化后模型在推理精度、性能和存储占用之间的平衡;
  • 负责大模型端侧推理优化,包括 Prefill/Decode 两阶段推理优化、KV Cache 管理、算子融合、权重压缩、内存优化等;
  • 负责模型在NPU、CPU等异构计算平台上的部署适配,与编译器团队协同完成模型转换、Engine 编译及性能调优;
  • 负责量化工具的开发与优化,涵盖各类量化算法实现、自动化量化、精度评估及可视化误差分析模块;
  • 与算法设计团队协同,分析量化误差来源,提出模型结构、训练策略及量化友好的优化方案工作要求
  • 具有电子/计算机/自动化相关专业的本科及以上学历,或运筹学、统计学、数学类的基础专业;
  • 熟悉LLM/VLM相关算法,并熟悉算法部署优化的相关知识,包括但不限于模型量化、模型稀疏、推理优化等;
  • 有Pytorch量化感知训练相关开发经验优先;
  • 熟练掌握Python/C++编程。 其他信息语言要求:不限行业要求:电子/半导体/集成电路
岗位画像
猎聘
上海
5 年以上
本科
500–5000 人
工业与硬件制造
口径

来自公开渠道的招聘信息,已清洗脱敏:不含企业名、HR 姓名与联系方式, 也不转载职位原文以外的内容。仅供了解岗位画像,不作为投递依据。

看全部岗位
← 上一条 下一条 →