腾讯
实习微信-多模态感知大模型
深圳总部/北京 · 实习 · 博士
长期有效
任职要求
- 1、包含但不限于计算机、信息工程、模式识别、人工智能、自动化、软件工程、电子工程、统计学、应用数学、物理学/量子计算、信息安全、信号与信息处理等相关专业的优秀硕士和博士；
- 2、在CVPR、ICCV、ECCV、NeurIPS、 ICLR等顶会发表一作论文
- 3、有丰富的大模型方向项目或实习经验
- 此课题同时招聘应届实习生和低年级实习生。
岗位描述
【岗位职责】
课题背景：
随着多模态大模型进入规模化应用阶段，产业侧对模型能力的要求正由“图文语义理解”升级为“细粒度感知与复杂场景解析”。相比通用多模态问答模型，真实业务场景更加关注目标定位、区域理解、属性识别、OCR、grounding及时序跟踪等能力。当前主流模型虽具备一定图文理解能力，但在精细定位、跨模态对齐、复杂场景泛化和部署效率方面仍存在明显不足，难以直接支撑真实业务需求。因此，亟需构建面向真实场景的多模态感知基础模型，打通从感知到理解的统一建模链路，形成兼具精度、效率与落地能力的新一代视觉感知底座。
课题挑战：
- 1、细粒度感知与统一建模难兼顾
检测、分割、OCR、grounding、时序跟踪等任务输出形式差异大，现有方法往往采用多头拼接式设计，难以形成统一的感知表征与任务范式。
- 2、跨模态对齐停留在粗粒度语义层
现有多模态模型更擅长全局语义匹配，但在区域级、实例级、像素级对齐上能力不足，难以支撑复杂视觉场景中的精确定位与细粒度理解。
- 3、复杂场景下感知鲁棒性不足
在密集目标、小目标、遮挡、长尾类别、文本密集区域及多目标交互场景中，模型容易出现漏检、误检、边界不准和关系理解错误等问题。
- 4、感知精度与推理效率难以平衡
多模态感知任务普遍需要高分辨率输入、多尺度建模与跨模态交互，带来显著的计算与部署开销，难以满足业务侧对时延与成本的要求。
具体工作：
聚焦多模态感知基础模型构建，围绕统一感知表征、跨模态精细对齐与高效部署展开系统研究，全链路参与模型研发。
【任职要求】
- 1、包含但不限于计算机、信息工程、模式识别、人工智能、自动化、软件工程、电子工程、统计学、应用数学、物理学/量子计算、信息安全、信号与信息处理等相关专业的优秀硕士和博士；
- 2、在CVPR、ICCV、ECCV、NeurIPS、 ICLR等顶会发表一作论文
- 3、有丰富的大模型方向项目或实习经验
【加分项】
此课题同时招聘应届实习生和低年级实习生。
【技术方向】
多模态、视觉、语音
你的简历匹配这个岗位吗？
上传简历，AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 算法 岗位的常见面试问题整理
请解释 Transformer 模型的自注意力机制（Self-Attention）
查看答题思路
1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力：多组 QKV 并行，拼接后线性变换，捕获不同子空间特征 5. 对比 RNN：可并行计算，捕获长距离依赖
你做过的最有深度的算法/模型项目是什么
查看答题思路
1. 一句话说清任务：分类/生成/检索/推荐 2. 模型选型：为什么选这个而非那个 3. 数据：数据量、来源、清洗策略 4. 创新点：你做的改进是什么（不是调参） 5. 结果：核心指标提升（准确率/召回/延迟）
过拟合是什么？怎么判断和解决
查看答题思路
1. 过拟合=训练集表现好、验证集表现差，模型记住了噪声 2. 判断：train loss 持续下降而 val loss 上升 3. 解决：更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度
解释梯度下降的原理，SGD 和 Adam 的区别
查看答题思路
1. 梯度下降：沿负梯度方向更新参数，使损失降低 2. SGD：每次用随机小批量估算梯度，引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp：自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD；CV 常用 SGD，NLP 多用 Adam
给你 10 万条未标注的文本数据，如何找出其中 10 个主题
查看答题思路
1. 预处理：分词、去停用词 2. 向量化：TF-IDF 或 Sentence Embedding 3. 聚类：K-Means（需指定 K=10）或 HDBSCAN（自动确定类数） 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估：看每个簇的高频词判断主题合理性，迭代调整
更多面试题库功能即将上线
信息来源：企业官方招聘页。投递前请以官网信息为准。