阿里巴巴
校招面向AI芯片推理系统优化-阿里星
北京/成都/杭州/上海 · 校招 · 2027 届 · 博士
长期有效
任职要求
- 计算机科学、软件工程、人工智能或相关专业，硕士及以上学历（博士优先）
- 深入理解深度学习模型的推理过程，熟悉 Transformer/LLM 的架构和计算特性
- 扎实的 C/C++ 和 Python 编程能力，有高性能系统开发经验
- 熟悉 CUDA/ROCm 等 GPU 编程模型，或有其他 AI 加速器编程经验
- 对操作系统内存管理、多线程并发、分布式系统有深入理解
- 有强烈的性能优化意识，习惯用数据驱动决策
- 加分项
- 在 MLSys、系统、体系结构等领域发表过顶级论文（OSDI/SOSP/ASPLOS/EuroSys/MLSys 等）
- 参与过 vLLM、SGLang、TensorRT-LLM、LMDeploy 等开源推理框架的核心开发
- 有 GPU/NPU 上的高性能算子开发经验（如 FlashAttention、FlashInfer 等）
- 熟悉分布式训练/推理框架（Megatron-LM、DeepSpeed、Ray 等）
- 有大规模模型部署经验，处理过千卡级别的推理集群
岗位描述
大模型时代，推理效率已成为 AI 落地的核心瓶颈。我们正在构建面向自研 AI 芯片的高性能推理系统，目标是在千亿参数大模型上实现业界领先的推理吞吐和延迟。
你将参与设计推理引擎的核心模块，包括图执行引擎、内存管理、批处理调度、分布式推理等。你需要在算法、系统和硬件三个层面寻找最优解——从模型量化、KV Cache 优化、Speculative Decoding 等算法创新，到算子调度、显存复用、流水线并行等系统优化，再到与编译器、驱动团队协作榨干硬件的每一分性能。
岗位职责
- • 设计并实现高性能推理引擎，支持主流大模型（LLaMA/Qwen/GPT 等）的高效推理
- • 研究和落地推理优化技术，包括但不限于：KV Cache 管理、Continuous Batching、Speculative Decoding、模型量化（INT8/INT4/FP8）、稀疏化推理
- • 设计高效的显存管理策略，优化大模型推理的显存占用和碎片问题
- • 开发分布式推理框架，支持张量并行（Tensor Parallelism）、流水线并行（Pipeline Parallelism）、专家并行（Expert Parallelism）等策略
- • 与算子库团队协作，定义高性能算子的接口和性能目标
- • 与编译器团队协作，优化推理场景下的编译策略和代码生成
- • 构建推理性能基准测试框架，持续跟踪和优化推理性能
- • 计算机科学、软件工程、人工智能或相关专业，硕士及以上学历（博士优先）
- • 深入理解深度学习模型的推理过程，熟悉 Transformer/LLM 的架构和计算特性
- • 扎实的 C/C++ 和 Python 编程能力，有高性能系统开发经验
- • 熟悉 CUDA/ROCm 等 GPU 编程模型，或有其他 AI 加速器编程经验
- • 对操作系统内存管理、多线程并发、分布式系统有深入理解
- • 有强烈的性能优化意识，习惯用数据驱动决策
加分项
- • 在 MLSys、系统、体系结构等领域发表过顶级论文（OSDI/SOSP/ASPLOS/EuroSys/MLSys 等）
- • 参与过 vLLM、SGLang、TensorRT-LLM、LMDeploy 等开源推理框架的核心开发
- • 有 GPU/NPU 上的高性能算子开发经验（如 FlashAttention、FlashInfer 等）
- • 熟悉分布式训练/推理框架（Megatron-LM、DeepSpeed、Ray 等）
- • 有大规模模型部署经验，处理过千卡级别的推理集群
你的简历匹配这个岗位吗？
上传简历，AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 算法 岗位的常见面试问题整理
请解释 Transformer 模型的自注意力机制（Self-Attention）
查看答题思路
1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力：多组 QKV 并行，拼接后线性变换，捕获不同子空间特征 5. 对比 RNN：可并行计算，捕获长距离依赖
你做过的最有深度的算法/模型项目是什么
查看答题思路
1. 一句话说清任务：分类/生成/检索/推荐 2. 模型选型：为什么选这个而非那个 3. 数据：数据量、来源、清洗策略 4. 创新点：你做的改进是什么（不是调参） 5. 结果：核心指标提升（准确率/召回/延迟）
过拟合是什么？怎么判断和解决
查看答题思路
1. 过拟合=训练集表现好、验证集表现差，模型记住了噪声 2. 判断：train loss 持续下降而 val loss 上升 3. 解决：更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度
解释梯度下降的原理，SGD 和 Adam 的区别
查看答题思路
1. 梯度下降：沿负梯度方向更新参数，使损失降低 2. SGD：每次用随机小批量估算梯度，引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp：自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD；CV 常用 SGD，NLP 多用 Adam
给你 10 万条未标注的文本数据，如何找出其中 10 个主题
查看答题思路
1. 预处理：分词、去停用词 2. 向量化：TF-IDF 或 Sentence Embedding 3. 聚类：K-Means（需指定 K=10）或 HDBSCAN（自动确定类数） 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估：看每个簇的高频词判断主题合理性，迭代调整
更多面试题库功能即将上线
信息来源：企业官方招聘页。投递前请以官网信息为准。