面向真武AI芯片的深度学习编译与大模型推理引擎优化-阿里星

• 1.作为阿里星顶尖人才计划的一员，构建面向平头哥自研真武芯片的深度学习编译技术栈，打造业界一流的芯片编译器，涵盖计算图优化、算子融合、自动调优、面向芯片特性的深度优化等核心能力，定义AI芯片编译基础设施的技术方向；
• 2.主导面向真武芯片的大模型推理引擎设计与开发，在PD分离、KV Cache管理、显存优化、量化推理、Kernel极致优化等前沿技术上实现系统性突破，支撑前沿大语言模型在自研芯片上的高效推理，对标甚至超越业界SOTA推理系统性能；
• 3.推动推理引擎的产品化落地，深入客户真实业务场景进行端到端分析与调优，将学术前沿研究成果转化为规模化商用的推理解决方案，直接服务集团内外核心业务与外部客户；
• 4.深度参与自研芯片架构演进，基于模型负载特征反向推动芯片架构迭代，实现软硬件协同设计。这是业界极为稀缺的从编译器、推理系统到芯片架构的全栈研发体验，有机会在MLSys、CGO、ASPLOS等系统顶会上发表开创性研究成果；
• 5.你将直接参与AI芯片在大模型时代的产业化落地，研究成果将服务于集团内外核心业务，产生真实的业务影响力。
• 1.计算机科学、电子工程、集成电路等相关专业硕士及以上学历
• 2.在编译优化、高性能计算、并行计算或深度学习系统方向有深入研究经验
• 3.扎实的计算机体系结构、编译原理基础，熟练使用C/C++，掌握Python，对深度学习框架底层实现有深入理解
• 4.熟悉TVM、MLIR、XLA、ONNX-MLIR、Triton等主流编译框架之一者优先
• 5.具备分布式推理或大模型推理优化实践经验，了解模型量化、显存优化、KV Cache、FlashAttention等相关技术
• 6.具备强烈的自驱力与敏锐的技术洞察力，拥有广阔的技术视野，能够主动追踪前沿技术动态并推动技术突破

加分项：

• - 在MLSys、CGO、ASPLOS、PLDI、OSDI、EuroSys等会议发表过相关论文
• - 参与过知名开源编译器或推理框架项目（如TVM、MLIR、vLLM、TensorRT-LLM、SGLang等）并有实质性贡献
• - 有自研编译器或推理引擎从0到1构建经验者优先