大模型推理开发工程师

岗位职责：
1.负责大模型推理框架在AI芯片平台上的架构设计、开发和维护，构建高效、低延迟的推理流水线。
2.分析大模型的推理特点，结合芯片架构，设计适配的软硬件协同优化方案。
3.跟踪大模型推理、编译器优化、硬件加速等领域的最新技术动态，持续改进产品性能；
4.熟悉深度学习及推理框架（如PyTorch、VLLM等）的工作原理与应用；
5.熟悉AI芯片架构及底层硬件原理，了解并行计算、异构计算、分布式系统等相关知识；
6.有大规模分布式推理或高性能算子开发、优化经验者优先。