字节跳动
实习【实习】基于多模态大模型与用户行为理解的下一代分发与交互技术-抖音智能对话(北京/上海/杭州/深圳)
上海 · 实习 · 2027 届 · 博士
长期有效
任职要求
- 2027届及以后毕业,博士在读,人工智能、计算机、数学相关专业优先
- 具备扎实的编码能力、数据结构和基础算法功底,熟练运用各种算法框架与工程框架
- 在国际会议或期刊发表论文者(包括但不限于ACL、EMNLP、NeurIPS、ICML、ICLR、CVPR等)优先
- 拥有扎实的机器学习基础,在深度学习、强化学习、NLP、多模态方向有深入的理解与研究经历
- 具备良好的沟通协作能力,能够与团队共同探索新技术,推动技术发展。
岗位描述
团队介绍:抖音智能对话团队负责抖音集团对话算法相关工作,通过使用最新的大模型等技术支持抖音创新业务探索、智能客服等方向相关需求。得益于抖音独特和丰富的多模态数据和业务应用需求,先后支持了抖音数字人模型、小说角色机器人、智能客服等落地场景的算法模型。团队一方面横向支持各个团队在对话场景的技术需求,同时也是抖音集团在大语言模型在对话场景落地应用的重要算法团队,承担了开创新业务方向和技术探索的重要角色。
课题介绍:
本课题旨在探索基于多模态大模型的模态理解与表征、世界知识、推理等能力,并深度的与信息分发(推荐、搜索等)中的用户行为理解和建模结合起来,构建支撑下一代分发与交互技术的基础模型和系统范式。通过基础技术突破和探索,既尝试解决原有分发技术中对长尾兴趣分发、用户复杂意图理解、多模态与行为协同融合、System Bias、分发系统的算力与推理分配等一系列关键问题,也探索基于新的多模态大模型与用户对齐的理解,支持全新的可对话性需求满足、可自然交互性的分发调节与个性化等能力和产品形态上的突破。
课题挑战:
- 1、多模态大模型的完整流程的训练,以及与大规模用户行为深度理解和对齐;
- 2、突破多模态大模型与长序列高并发高效推理的瓶颈;
- 3、实现大模型泛化推理能力与复杂推荐业务目标的深度对齐。
课题价值:
- 1、打破信息茧房,提供个性化可解释推荐,提升长尾/冷启分发效率;
- 2、沉淀大模型Scaling Up范式,重塑大模型时代的下一代推荐系统;
- 3、探索全新的支持下一代交互场景的分发基础技术突破。
你的简历匹配这个岗位吗?
上传简历,AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 算法 岗位的常见面试问题整理
请解释 Transformer 模型的自注意力机制(Self-Attention)
查看答题思路
1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力:多组 QKV 并行,拼接后线性变换,捕获不同子空间特征 5. 对比 RNN:可并行计算,捕获长距离依赖
你做过的最有深度的算法/模型项目是什么
查看答题思路
1. 一句话说清任务:分类/生成/检索/推荐 2. 模型选型:为什么选这个而非那个 3. 数据:数据量、来源、清洗策略 4. 创新点:你做的改进是什么(不是调参) 5. 结果:核心指标提升(准确率/召回/延迟)
过拟合是什么?怎么判断和解决
查看答题思路
1. 过拟合=训练集表现好、验证集表现差,模型记住了噪声 2. 判断:train loss 持续下降而 val loss 上升 3. 解决:更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度
解释梯度下降的原理,SGD 和 Adam 的区别
查看答题思路
1. 梯度下降:沿负梯度方向更新参数,使损失降低 2. SGD:每次用随机小批量估算梯度,引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp:自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD;CV 常用 SGD,NLP 多用 Adam
给你 10 万条未标注的文本数据,如何找出其中 10 个主题
查看答题思路
1. 预处理:分词、去停用词 2. 向量化:TF-IDF 或 Sentence Embedding 3. 聚类:K-Means(需指定 K=10)或 HDBSCAN(自动确定类数) 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估:看每个簇的高频词判断主题合理性,迭代调整
更多面试题库功能即将上线
信息来源:企业官方招聘页。投递前请以官网信息为准。