腾讯
校招元宝—基于大模型的搜索排序技术研究
北京 · 校招 · 2027 届 · 博士
长期有效
任职要求
- 学历和专业要求:
- 计算机、人工智能、数学等相关专业硕士或博士。重点关注在自然语言处理 (NLP)、信息检索 (IR)、大模型微调或强化学习领域有深厚学术积累或顶会论文发表(如 ACL、SIGIR、KDD、NeurIPS)的同学。
- 技术技能要求:
- 熟练掌握 PyTorch/DeepSpeed 及主流大模型架构,深入理解 RAG、LTR 排序及 RLHF/DPO 算法。精通 Python/C++,具备优秀的底层算子优化或 KV Cache 优化能力,有大规模分布式训练及搜索性能调优经验者优先。
- 软性素质要求:
- 具备极强的逻辑思维与自驱动力,能够敏锐捕捉前沿技术并转化为业务落地。拥有出色的抗压能力与团队协作精神,能在复杂业务场景下保持沟通高效,对解决算法落地中的硬核挑战充满激情。
岗位描述
【岗位职责】
课题背景:
攻克AI搜索场景排序能力的突破难题,优化搜索能力的鲁棒性和满意度。
课题挑战:
- 1、 大模型排序(LLM Ranking): 传统搜索的排序模型在“长尾 Query 理解”和“深层语义对齐”上存在一定瓶颈,需要平衡 LLM 的语义通识能力、领域任务解决能力
- 2、模型推理(Reasoning Ranking): AI 搜索场景大量的复杂查询、长尾满足,需要模型具备一定的推理能力,建模目标从“概率匹配”进化到“逻辑决策”。
- 3、 基于强化反馈的排序泛化增强(RL from Feedback):如何在领域任务下,引入强化反馈,在噪声环境下设置有效的 reward,引导模型增强细粒度排序的泛化能力
- 4、推理加速:在长上下文与多文档排序中,需在极低延迟约束下,解决压缩表征导致的关键信息丢失与语义匹配的平衡难题。
具体工作:
- 1、大模型排序(LLM Ranking):
研究大模型排序核心技术如LLM Scaling Up、Continued Pre-Training、Reasoning Ranking等方向,提升多目标排序满意度和鲁棒性
2、Reasoning Ranking:
借鉴思维链(CoT), 引入自反思机制(Self-Reflection),对比推理过程与最终打分的一致性,通过rubrics 等有效过程监督信号,提升推理能力。
3、基于强化反馈的排序泛化增强:
构建鲁棒的奖励模型,利用 DPO、GRPO 等建模方式,对 DocList 进行细粒度偏序的感知能力,合成有效的过程监督、结果监督 reward,引导模型进行有效泛化补充。
4、推理加速:
探究 Query 感知的动态 Token 修剪与层级化语义表征算法,通过注意力机制识别并剔除文档冗余信息;构建轻量化压缩模型,将长文本编码为固定长度的 Soft Tokens;同步优化 KV Cache 缓存策略与算子并行化等
【任职要求】
学历和专业要求:
计算机、人工智能、数学等相关专业硕士或博士。重点关注在自然语言处理 (NLP)、信息检索 (IR)、大模型微调或强化学习领域有深厚学术积累或顶会论文发表(如 ACL、SIGIR、KDD、NeurIPS)的同学。
技术技能要求:
熟练掌握 PyTorch/DeepSpeed 及主流大模型架构,深入理解 RAG、LTR 排序及 RLHF/DPO 算法。精通 Python/C++,具备优秀的底层算子优化或 KV Cache 优化能力,有大规模分布式训练及搜索性能调优经验者优先。
软性素质要求:
具备极强的逻辑思维与自驱动力,能够敏锐捕捉前沿技术并转化为业务落地。拥有出色的抗压能力与团队协作精神,能在复杂业务场景下保持沟通高效,对解决算法落地中的硬核挑战充满激情。
【技术方向】
大语言模型、NLP
你的简历匹配这个岗位吗?
上传简历,AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 算法 岗位的常见面试问题整理
请解释 Transformer 模型的自注意力机制(Self-Attention)
查看答题思路
1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力:多组 QKV 并行,拼接后线性变换,捕获不同子空间特征 5. 对比 RNN:可并行计算,捕获长距离依赖
你做过的最有深度的算法/模型项目是什么
查看答题思路
1. 一句话说清任务:分类/生成/检索/推荐 2. 模型选型:为什么选这个而非那个 3. 数据:数据量、来源、清洗策略 4. 创新点:你做的改进是什么(不是调参) 5. 结果:核心指标提升(准确率/召回/延迟)
过拟合是什么?怎么判断和解决
查看答题思路
1. 过拟合=训练集表现好、验证集表现差,模型记住了噪声 2. 判断:train loss 持续下降而 val loss 上升 3. 解决:更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度
解释梯度下降的原理,SGD 和 Adam 的区别
查看答题思路
1. 梯度下降:沿负梯度方向更新参数,使损失降低 2. SGD:每次用随机小批量估算梯度,引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp:自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD;CV 常用 SGD,NLP 多用 Adam
给你 10 万条未标注的文本数据,如何找出其中 10 个主题
查看答题思路
1. 预处理:分词、去停用词 2. 向量化:TF-IDF 或 Sentence Embedding 3. 聚类:K-Means(需指定 K=10)或 HDBSCAN(自动确定类数) 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估:看每个簇的高频词判断主题合理性,迭代调整
更多面试题库功能即将上线
信息来源:企业官方招聘页。投递前请以官网信息为准。