腾讯
校招微信-WeLM多模态大模型Agentic RL研究
上海 · 校招 · 2027 届 · 博士
长期有效
任职要求
- 硬性要求:
- 1、计算机科学、人工智能、自动化、统计学等相关专业博士在读或应届毕业;
- 2、深度学习基础扎实,熟悉 Transformer 架构及其在 LLM/VLM 中的应用;
- 3、熟练使用 PyTorch,具备独立实现和调试复杂模型的能力;
- 4、具备较强的数学功底,理解强化学习核心原理(MDP、策略梯度、值函数估计等)。
- 加分项:
- 1、在 NeurIPS / ICML / ICLR / CVPR / ICCV / ACL / EMNLP 等顶会以第一作者发表过论文;
- 2、有 RL 或 RLHF 在大模型上的实际训练经验(PPO、GRPO、DPO 等);
- 3、复现或改进过主流多模态模型(LLaVA、InternVL、Qwen-VL、DALL-E 等);
- 4、参与过 GUI Agent、Web Agent、具身智能等 Agentic 方向的研究或工程项目;
- 5、有分布式训练经验(Megatron-LM、DeepSpeed、FSDP);
- 6、对scaling law、emergent ability、reward hacking 等前沿议题有独立的深度思考。
岗位描述
【岗位职责】
课题背景:
大模型正在从"会回答"走向"会行动"。
当 GPT-4o 能看懂图片、Sora 能生成视频,下一个真正的技术跃迁是:让多模态大模型在复杂的现实环境中自主决策、持续探索、完成长程任务——这正是 Agentic RL 的核心命题。我们相信,将强化学习的主动探索能力与多模态大模型的感知理解能力深度融合,将催生出新一代能够真正"做事"的智能体,而不仅仅是"对话"的助手。
课题挑战/具体工作:
- 1、面向多模态感知的 Agentic 决策建模
在图像、视频、UI 截图、文档等富视觉信息的环境中,研究 Agent 如何从原始多模态观测中提取任务相关信号,构建长程上下文下的状态表征,并做出可执行的行动规划。
- 2、多模态环境下的强化学习算法
探索适配大模型的新一代 RL 范式——从 RLHF 到 GRPO,从 PPO 到 offline RL,研究如何在稀疏奖励、长视野、多步推理的多模态 Agent 任务上实现高效、稳定的策略优化。
- 3、自主探索与世界模型
研究 Agent 在未知视觉环境中的自主探索机制,构建多模态世界模型以支持模拟推演与反事实推理,使 Agent 具备"先想后做"的能力。
- 4、工具调用与跨模态行动空间
研究 Agent 在复杂行动空间(点击、滑动、代码执行、API 调用、图像编辑等)下的策略学习,探索多模态感知与工具使用的协同建模。
- 5、可扩展的奖励设计与评估体系
突破人工标注的瓶颈,研究基于多模态大模型的自动奖励建模(Reward Modeling)方法,以及面向 Agentic 任务的系统性评估框架。
【任职要求】
硬性要求:
- 1、计算机科学、人工智能、自动化、统计学等相关专业博士在读或应届毕业;
- 2、深度学习基础扎实,熟悉 Transformer 架构及其在 LLM/VLM 中的应用;
- 3、熟练使用 PyTorch,具备独立实现和调试复杂模型的能力;
- 4、具备较强的数学功底,理解强化学习核心原理(MDP、策略梯度、值函数估计等)。
加分项:
- 1、在 NeurIPS / ICML / ICLR / CVPR / ICCV / ACL / EMNLP 等顶会以第一作者发表过论文;
- 2、有 RL 或 RLHF 在大模型上的实际训练经验(PPO、GRPO、DPO 等);
- 3、复现或改进过主流多模态模型(LLaVA、InternVL、Qwen-VL、DALL-E 等);
- 4、参与过 GUI Agent、Web Agent、具身智能等 Agentic 方向的研究或工程项目;
- 5、有分布式训练经验(Megatron-LM、DeepSpeed、FSDP);
- 6、对scaling law、emergent ability、reward hacking 等前沿议题有独立的深度思考。
【技术方向】
智能体、强化学习
你的简历匹配这个岗位吗?
上传简历,AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 算法 岗位的常见面试问题整理
请解释 Transformer 模型的自注意力机制(Self-Attention)
查看答题思路
1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力:多组 QKV 并行,拼接后线性变换,捕获不同子空间特征 5. 对比 RNN:可并行计算,捕获长距离依赖
你做过的最有深度的算法/模型项目是什么
查看答题思路
1. 一句话说清任务:分类/生成/检索/推荐 2. 模型选型:为什么选这个而非那个 3. 数据:数据量、来源、清洗策略 4. 创新点:你做的改进是什么(不是调参) 5. 结果:核心指标提升(准确率/召回/延迟)
过拟合是什么?怎么判断和解决
查看答题思路
1. 过拟合=训练集表现好、验证集表现差,模型记住了噪声 2. 判断:train loss 持续下降而 val loss 上升 3. 解决:更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度
解释梯度下降的原理,SGD 和 Adam 的区别
查看答题思路
1. 梯度下降:沿负梯度方向更新参数,使损失降低 2. SGD:每次用随机小批量估算梯度,引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp:自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD;CV 常用 SGD,NLP 多用 Adam
给你 10 万条未标注的文本数据,如何找出其中 10 个主题
查看答题思路
1. 预处理:分词、去停用词 2. 向量化:TF-IDF 或 Sentence Embedding 3. 聚类:K-Means(需指定 K=10)或 HDBSCAN(自动确定类数) 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估:看每个簇的高频词判断主题合理性,迭代调整
更多面试题库功能即将上线
信息来源:企业官方招聘页。投递前请以官网信息为准。