【北斗】大模型推理系统工程师

北京/上海 · 校招 · 2027 届 · 本科

长期有效

前往官方投递页 →

任职要求

【任职资格】
1.熟悉PyTorch等深度学习框架。
2.熟悉sglang、vLLM、trt-llm、FasterTransformer等开源框架。
3.能够熟练掌握Python、C++、CUDA等开发语言中的一种。
4.有比较强的数据结构、算法和统计分析、数学建模的能力。
【为什么是我们】
1.大模型推理的前沿研究，从推理加速算法到推理框架、硬件感知的算子优化等方面，算法、软件、硬件协同设计的工作模式，对个人的能力提升大。
2.研究和应用相辅相成，内部大量应用场景，研究工作不缺乏落地机会。
3.团队人员工程、算法实力都比较强，能够获得非常好的成长环境。

岗位描述

【岗位职责】

【愿景】

美团龙猫基座大模型，不只聪明，更懂生活。从语言理解到全模态感知，从架构创新到极致推理，从海量预训练到亿级真实订单 —— 我们造的不仅是实验室里的“优等生”，更是活在大街小巷、三餐四季里的AI。而我们想做的远不止于此 —— 让模型自己提出假设、训练自己、不断进化；让一群智能体像团队一样分工协作、攻克复杂问题；让 AI 走出屏幕，理解物理世界、走进真实场景。这是我们正在冲刺的方向，也是你可以参与定义的未来。加入我们，一起把智能带进真实物理世界，亲手打造下一代 AGI！

【团队介绍】

基座大模型AI Infra团队，以支撑前沿基础模型持续演进为目标，面向大模型研发与生产全链路，构建高性能、高稳定性、可持续扩展的AI基础设施体系。围绕高效率实验平台、大规模训练生产能力，以及模型结构与芯片架构协同优化，沉淀软硬一体、训推贯通的关键基础能力，提升模型迭代效率、训练资源利用率与系统上限。

【你将负责】

模型推理是大模型应用的核心能力，是影响大模型应用成本和效率的关键因素。本课题专注于大模型推理加速与分布式系统优化的前沿技术探索，通过软硬件协同设计和算法工程联合优化，降低大模型推理的应用成本，提高推理性能。研究内容包括但不限于：

1.投机推理（Speculative Decoding），研究基于预测性执行的动态推理优化方法，参与设计低延迟推理框架，通过概率模型预生成候选序列以降低解码计算开销。
2.分布式系统优化，探索多节点协同推理中的通信-计算负载均衡策略，提出基于异构硬件的混合并行调度方案，实现吞吐量提升。
3.稀疏Transformer优化与模型压缩，通过稀疏Transformer优化以及模型压缩技术提升模型的计算效率。
4.算子优化，熟悉最新硬件架构的算子优化方法，通过更高效的算子优化模型的吞吐和延时。

【任职要求】

【任职资格】

1.熟悉PyTorch等深度学习框架。
2.熟悉sglang、vLLM、trt-llm、FasterTransformer等开源框架。
3.能够熟练掌握Python、C++、CUDA等开发语言中的一种。
4.有比较强的数据结构、算法和统计分析、数学建模的能力。

【为什么是我们】

1.大模型推理的前沿研究，从推理加速算法到推理框架、硬件感知的算子优化等方面，算法、软件、硬件协同设计的工作模式，对个人的能力提升大。
2.研究和应用相辅相成，内部大量应用场景，研究工作不缺乏落地机会。
3.团队人员工程、算法实力都比较强，能够获得非常好的成长环境。

你的简历匹配这个岗位吗？

上传简历，AI 会对照这份 JD 指出你的差距和需要补强的地方

登录后分析我的简历

该岗位可能会问的问题

基于算法岗位的常见面试问题整理

请解释 Transformer 模型的自注意力机制（Self-Attention）

类型专业能力·难度困难

查看答题思路

1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力：多组 QKV 并行，拼接后线性变换，捕获不同子空间特征 5. 对比 RNN：可并行计算，捕获长距离依赖

你做过的最有深度的算法/模型项目是什么

类型项目经历·难度中等

查看答题思路

1. 一句话说清任务：分类/生成/检索/推荐 2. 模型选型：为什么选这个而非那个 3. 数据：数据量、来源、清洗策略 4. 创新点：你做的改进是什么（不是调参） 5. 结果：核心指标提升（准确率/召回/延迟）

过拟合是什么？怎么判断和解决

类型专业能力·难度简单

查看答题思路

1. 过拟合=训练集表现好、验证集表现差，模型记住了噪声 2. 判断：train loss 持续下降而 val loss 上升 3. 解决：更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度

解释梯度下降的原理，SGD 和 Adam 的区别

类型专业能力·难度中等

查看答题思路

1. 梯度下降：沿负梯度方向更新参数，使损失降低 2. SGD：每次用随机小批量估算梯度，引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp：自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD；CV 常用 SGD，NLP 多用 Adam

给你 10 万条未标注的文本数据，如何找出其中 10 个主题

类型情景/案例·难度中等

查看答题思路

1. 预处理：分词、去停用词 2. 向量化：TF-IDF 或 Sentence Embedding 3. 聚类：K-Means（需指定 K=10）或 HDBSCAN（自动确定类数） 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估：看每个簇的高频词判断主题合理性，迭代调整

更多面试题库功能即将上线

信息来源：企业官方招聘页。投递前请以官网信息为准。

前往官方投递页 →