崗位職責：
●負責PAI平臺深度學習框架的技術研發(fā)，涵蓋MoE模型的大規(guī)模訓練框架、多模態(tài)訓練體系、RLHF訓練架構等方向，支撐通義實驗室及阿里集團內多個業(yè)務場景；參與基模型Pretrain、SFT等關鍵階段的訓練流程優(yōu)化；
●專注于提升各階段模型訓練任務的極限吞吐能力，系統化分析不同負載下的性能瓶頸，提出針對性優(yōu)化方案，包括算子層面改進、通信機制調優(yōu)、分布式策略增強等技術路徑；
●主導超大規(guī)模訓練任務的穩(wěn)定性架構設計，通過多種技術手段提高訓練有效吞吐，建設高效的故障發(fā)現與自恢復機制，保障大規(guī)模訓練過程的流暢性與可靠性；
●參與訓練框架對多元硬件平臺的適配與性能調優(yōu)工作。

任職要求：
●具備扎實的工程實現能力，良好的代碼規(guī)范，精通Python/C++編程語言，掌握常見設計模式，擁有復雜系統的架構設計、開發(fā)與調試經驗；
●理解深度學習基本理論，熟悉Transformer結構，了解主流大語言模型與多模態(tài)模型的技術特性；
●熟練使用PyTorch等相關深度學習框架，深入掌握Megatron、DeepSpeed、JAX等訓練框架的核心機制與差異點；
●具備良好的溝通表達能力和團隊協作素養(yǎng)，有快速學習新技術的能力，以及持續(xù)深入探索技術難題的韌性；
●掌握計算機體系結構基礎，具備異構計算優(yōu)化（GPGPU/x86/ARM）實戰(zhàn)經驗，熟悉高性能網絡通信優(yōu)化與分布式訓練策略調優(yōu)技術；