Job Description
AI Infra研发工程师-上海/北京/深圳 上海 分享 在腾讯，后台开发工程师不仅是“又快又稳”的问题解决专家，更是生态共创者。你将与技术团队一同沉淀优质代码，让它成为我们共有的宝贵资产。在不同的业务场景和技术发展阶段，你的架构思维也将帮助更多协作团队拓展新的思考。我们也珍视你的挑战精神，同时欢迎你一起参与团队愿景、文化和产品方向的探讨。 岗位职责 1.GPU机型性能评估： 主导不同GPU芯片（含国产芯片及英伟达等国外AI芯片）的性能对比与适配评估，深入理解芯片架构并搭建配套的基准评估工具链；
2.训推框架开发与优化：基于云平台和业界常见训推框架，开发加速方案，满足公有云客户对性能的极致需求；
3.支持主流GPU和异构AI芯片，优化大模型推理性能，打造极致性能成本优势；
4.应用优化：参与重点项目POC和现网问题保障，分析性能瓶颈，快速定位和解决重点问题；
5.前沿技术探索：跟踪学术动态，将最新研究成果转化为框架功能，提升产品竞争力。 岗位要求 1.熟悉主流的大模型推理框架及其加速技术，如vLLM、SGlang、TensorRT-LLM等，熟练分析单机及分布式情况下的性能热点和优化手段；
2.熟悉业界主流开源模型结构，例如DeepSeek、Qwen、Wan、Flux等；
3.熟悉主流的训练框架和分布式框架，包括Megatron-LM、DeepSpeed、verL、LLama-factory等，熟悉常见的分布式并行策略，了解显存、通信与计算相关性能瓶颈和优化手段；
4.熟悉自动驾驶相关算法者优先，例如BEVformer、MapTRV2、SparseDrive、FlashOCC、Pointpillars等，熟练分析自驾场景的性能瓶颈和优化方案；
5.熟悉CUDA编程、高性能计算优化（如算子融合、通信优化）者优先；
6.熟悉NCCL、MPI等集合通信算法者优先；
7.工程经验...
分享岗位
方式1:复制岗位链接
方式2:分享岗位海报
手机扫描二维码分享
收藏 CSIG 点击了解更多BG信息 技术 三年以上工作经验 更新于年04月08日2.训推框架开发与优化：基于云平台和业界常见训推框架，开发加速方案，满足公有云客户对性能的极致需求；
3.支持主流GPU和异构AI芯片，优化大模型推理性能，打造极致性能成本优势；
4.应用优化：参与重点项目POC和现网问题保障，分析性能瓶颈，快速定位和解决重点问题；
5.前沿技术探索：跟踪学术动态，将最新研究成果转化为框架功能，提升产品竞争力。
2.熟悉业界主流开源模型结构，例如DeepSeek、Qwen、Wan、Flux等；
3.熟悉主流的训练框架和分布式框架，包括Megatron-LM、DeepSpeed、verL、LLama-factory等，熟悉常见的分布式并行策略，了解显存、通信与计算相关性能瓶颈和优化手段；
4.熟悉自动驾驶相关算法者优先，例如BEVformer、MapTRV2、SparseDrive、FlashOCC、Pointpillars等，熟练分析自驾场景的性能瓶颈和优化方案；
5.熟悉CUDA编程、高性能计算优化（如算子融合、通信优化）者优先；
6.熟悉NCCL、MPI等集合通信算法者优先；
7.工程经验...