大模型推理及后训练关键技术研究-阿里星/A Star

北京/杭州 · 校招 · 2027 届 · 博士

长期有效

前往官方投递页 →

任职要求

1.计算机相关专业博士；
2.熟悉vLLM、SGLang、TensorRT-LLM等开源推理引擎的架构与实现，深入理解Continuous Batching、PagedAttention、KV Cache管理、PD分离、量化、投机采样等关键技术；
3.了解大模型微调技术（SFT、LoRA/QLoRA等），熟悉Megatron-LM、FSDP、DeepSpeed等训练框架者优先；
4.了解多模态大模型架构（视觉理解/视觉生成等），有多模态模型推理优化或微调实践经验者优先；
5.具备高性能系统开发经验，熟悉GPU编程（CUDA/Triton）与NCCL等通信技术者优先，能够系统性分析推理链路中的性能瓶颈；
6.良好的学习与自驱能力和跨团队协作能力，积极拥抱AI辅助编程工具提升开发效率。
加分项：
1.在OSDI/SOSP/ATC/NeurIPS/ICML/ICLR等顶会/顶刊发表过高质量论文；
2.深度参与或主导贡献过顶级开源项目（vLLM/SGLang/TensorRT-LLM/Megatron-LM等）；
3.有KV Cache分布式存储、微调模型量化部署等实战经验，或了解RLHF/DPO等模型对齐技术。

岗位描述

在这里，你将深入大模型推理系统的核心腹地，从推理引擎内核、KV Cache存储体系，到模型微调与部署的全链路打通，打造高性能、低成本的推理与定制化交付引擎。

1.参与大模型推理引擎（vLLM/SGLang等）的深度优化与定制化开发，包括Continuous Batching、PD分离、投机采样、低比特量化等核心机制，持续提升推理吞吐与延迟表现；
2.负责KV Cache存储与管理体系建设，包括多级缓存架构（HBM/DRAM/SSD）、Prefix Cache复用、迁移/共享/淘汰策略、分布式KV Cache高效传输；
3.参与多模态大模型的推理与后训练技术建设，包括ViT/DiT等异构结构的推理加速、多模态场景的Cache优化与显存管理、图文/视频数据的微调链路适配；
4.参与大模型后训练与微调系统建设，包括SFT全参微调与参数高效微调（LoRA/QLoRA等）训练链路、数据流水线与效果评估，打通""微调→压缩→部署→推理""闭环，支持Multi-LoRA推理服务；
5.基于线上真实负载持续优化推理链路的性能、稳定性与成本效率，在生产环境实现延迟与吞吐的数量级提升。
1.计算机相关专业博士；
2.熟悉vLLM、SGLang、TensorRT-LLM等开源推理引擎的架构与实现，深入理解Continuous Batching、PagedAttention、KV Cache管理、PD分离、量化、投机采样等关键技术；
3.了解大模型微调技术（SFT、LoRA/QLoRA等），熟悉Megatron-LM、FSDP、DeepSpeed等训练框架者优先；
4.了解多模态大模型架构（视觉理解/视觉生成等），有多模态模型推理优化或微调实践经验者优先；
5.具备高性能系统开发经验，熟悉GPU编程（CUDA/Triton）与NCCL等通信技术者优先，能够系统性分析推理链路中的性能瓶颈；
6.良好的学习与自驱能力和跨团队协作能力，积极拥抱AI辅助编程工具提升开发效率。

加分项：

1.在OSDI/SOSP/ATC/NeurIPS/ICML/ICLR等顶会/顶刊发表过高质量论文；
2.深度参与或主导贡献过顶级开源项目（vLLM/SGLang/TensorRT-LLM/Megatron-LM等）；
3.有KV Cache分布式存储、微调模型量化部署等实战经验，或了解RLHF/DPO等模型对齐技术。

你的简历匹配这个岗位吗？

上传简历，AI 会对照这份 JD 指出你的差距和需要补强的地方

登录后分析我的简历

该岗位可能会问的问题

基于数据岗位的常见面试问题整理

请解释数据仓库的星型模型和雪花模型的区别

类型专业能力·难度中等

查看答题思路

1. 星型：事实表在中间，维度表直接关联，维度表非规范化（有冗余） 2. 雪花：维度表进一步规范化，减少冗余但增加 join 次数 3. 选择：星型查询快（join 少），雪花存储省，一般生产用星型更多

如何设计一个埋点体系来追踪用户行为

类型情景/案例·难度中等

查看答题思路

1. 确定业务目标：留存/转化/活跃 2. 定义事件：页面浏览/点击/曝光/转化，每个事件带属性 3. 技术栈：前端 SDK 上报 → Kafka → Flink 实时清洗 → ClickHouse/Hive 存储 4. 数据分层：ODS（原始）→ DWD（明细）→ DWS（汇总）→ ADS（应用） 5. 质量：埋点测试 + 数据校验 + 异常告警

SQL：有一个用户登录表 user_login(user_id, login_date)，查询连续登录超过 7 天的用户

类型专业能力·难度困难

查看答题思路

1. 思路：用 login_date 减去排名序号（ROW_NUMBER），同组连续日期差值相同 2. 关键 SQL：SELECT user_id, login_date-ROW_NUMBER() OVER (PARTITION BY user_id ORDER BY login_date) AS grp 3. GROUP BY user_id, grp HAVING COUNT(*) >= 7 4. 强调：理解窗口函数和连续性问题的一般解法

你做过最有价值的数据分析项目是什么

类型项目经历·难度中等

查看答题思路

1. 业务背景：分析什么、为什么重要 2. 数据来源和量级 3. 分析方法：用了什么模型/统计方法 4. 核心发现：一句话说清洞察 5. 业务影响：做了什么决策、带来了什么改变（用数字）

解释 A/B 测试的原理和常见陷阱

类型专业能力·难度简单

查看答题思路

1. 原理：分流用户到对照组和实验组，对比核心指标差异 2. 统计基础：假设检验，p<0.05 表示差异显著 3. 陷阱：样本量不足、运行时间太短（未覆盖周期波动）、多重比较（同时做多组 A/B 需修正显著性水平） 4. 指标选择：北极星指标优先，避免虚荣指标

更多面试题库功能即将上线

信息来源：企业官方招聘页。投递前请以官网信息为准。

前往官方投递页 →