• 负责NVIDIA/Qualcomm平台的端侧大模型部署，熟悉QNN/Genie、TensorRT等主流推理框架
• 负责端侧推理全链路优化，主要包括： 性能优化：推理时延、吞吐(TPS)、GPU/NOU负载分析与均衡、推理引擎CPU占用、内存带宽及内存占用优化（内存拆解与复用） 可靠性保障：确保推理TPS稳定不抖动，快速定位并解决推理超时、Hung死、推理引擎Crash等稳定性问题功耗优化：结合芯片平台特性调优端侧推理功耗，兼顾性能与功耗平衡
• 负责大模型量化与加速工具链的部署、调优与落地，沉淀可复用的部署流程、调优方案及文档

• 1年以上端侧（NPU/GPU/DLA）模型部署或推理优化相关工作经验
• 熟悉GNN/Genie、TensorRT等推理引擎，理解其推理原理与性能分析、调优方法
• 熟悉NVIDIA或Qualcomm的量化与加速工具链（如TensorRT、AIMET、QNN SDK等），有实际部署调优经验
• 熟悉Python/C++，具备模型转换、量化（PTQ/QAT）及工程落地经验者优先
• 具备较强的问题定位与数据分析能力，能独立完成性能、功耗、稳定性问题的排查与优化
• 良好的团队协作与沟通能力，责任心强，关注行业前沿技术（如端侧LLM/VLM部署方案） 杨晨在线某公司

来自公开渠道的招聘信息，已清洗脱敏：不含企业名、HR 姓名与联系方式， 也不转载职位原文以外的内容。仅供了解岗位画像，不作为投递依据。

看全部岗位