大模型算法工程师

岗位方向：
1、软硬件结合的推理性能优化（推理引擎+融合算子+国产GPU）
2、大模型训推并行计算优化（EP、PP、TP、DP等）

职位描述：
1）负责大模型训练和推理过程的性能优化，通过量化、蒸馏、剪枝、软硬件（TPU、GPU）、并行计算设计等方式提升性能，节省成本。
2）设计和开发深度学习模型，专注于卷积神经网络（CNN）、循环神经网络（RNN）、Transformer等架构，使用TensorFlow、PyTorch等框架进行大语言模型和多模态模型开发、训练和调优，提升训练和推理效率。
3）结合深度学习技术及大语言模型、多模态技术，设计和优化AI应用效果和效率。
岗位要求：
1）硕士及以上学历，计算机科学、人工智能相关专业。
2）熟悉主流ML框架（TensorFlow、Keras、PyTorch、scikit-learn等），深入理解深度学习原理，精通深度学习框架（TensorFlow、PyTorch），有一定的NLP、CV或强化学习领域的实践经验。熟悉分布式训练技术，如DeepSpeed、Megatron、TensorFlowDistributed、PyTorchDistributed。精通AI推理引擎（vLLM、LM-Deploy、TensorRT-LLM、TensorFlowServing、TorchServe、ONNXRuntime等）。
3）熟悉模型优化技巧，能够在多种硬件平台（CPU、GPU、TPU等）上调优模型。熟悉生成模型（如GPT、LLaMA、Qwen）和强化学习，有实际的生成模型微调经验，对多模态模型在训练和推理过程中的资源优化有深入理解，确保多模态模型在业务场景中的高效应用。
4）熟悉常用的多模态模型（如CLIP、Blip等）的原理和应用，能够在文本、图像、音频等多种数据源之间进行融合和生成。具备多模态数据的处理和特征提取能力，能够根据业务需求进行数据预处理、嵌入和模型微调。熟悉向量检索技术，能够支持跨模态的内容检索和匹配，为多模态AI应用提供技术支持。
加分项：
1）熟悉推理加速技术（vLLM、TensorRT、OpenVINO、CUDA）。
2）熟悉Docker、Kubernetes等容器技术者优先。