字节跳动
校招多模态大模型算法工程师 - 搜索
北京/上海/杭州 · 校招 · 2027 届 · 本科
长期有效
任职要求
- 2027届获得本科及以上学历,计算机、电子、数学等相关专业优先
- 在搜索广告推荐、NLP、多模态、AIGC、机器学习等一个或多个领域有较深入研究经验
- 具有出色的分析、解决问题的能力,能深入解决大模型训练、应用面临的技术挑战,具备自主探索解决方案的能力
- 具有良好的沟通协作能力,工作积极主动,能够与团队融洽合作,一起探索新技术,推进技术进步。
- 加分项:
- 具有优秀的基础算法、扎实的机器学习基础,熟悉NLP、搜索、广告计算、RL、ML、AIGC等领域的技术,在CVPR、ECCV、ICCV、NeurIPS、ICLR、SIGGRAPH或SIGGRAPH Asia等顶级会议/期刊上发表论文者优先
- 具有优秀的代码能力,熟练掌握C/C++或Python编程语言,ACM/ICPC、NOI/IOI、Top Coder、Kaggle等比赛获奖者优先
- 在LLM、多模态、大模型、基础模型、世界模型、RL领域,主导过大影响力项目者优先。
岗位描述
团队介绍:字节跳动搜索团队主要负责抖音、今日头条、红果短剧、番茄小说、AI搜索等产品以及电商、生活服务等业务的搜索算法创新和架构研发工作。
我们使用前沿的机器学习/大模型技术进行端到端建模并不断创新突破,同时专注于分布式系统、机器学习系统的构建和性能优化,从内存、Disk等优化到索引压缩、召回、排序等算法的探索,致力于支撑字节跳动持续多元化的产品创新和高速的业务增长、基于大模型革新和重塑下一代搜索技术体系,充分给同学们提供成长自我的机会。
主要工作方向包括:
- 1、探索前沿的NLP技术:全面基于LLM的Query分析、相关性、个性化预估、满意度评估、生成式检索等,全链路应用LLM/VLM,每个细节都充满挑战;
- 2、跨模态匹配技术:进行多模态预训练,在超大规模的多模态表征、匹配、生成等多个技术方向上持续突破,打造世界领先的多模态搜索系统;
- 3、大规模流式机器学习技术:应用大规模机器学习,解决搜索中的推荐问题,让搜索更加个性化更加懂你;
- 4、千亿级数据规模的架构:从大规模离线计算,分布式系统的性能、调度优化,到构建高可用、高吞吐和低延迟的在线服务的方方面面都有深入研究和创新;
- 5、推荐技术:基于超大规模机器学习、因果推断、大模型推理等技术手段,构建业界领先的搜索推荐系统,对搜索推荐技术进行探索和创新;
- 6、AI搜索技术:基于大模型(LLM/VLM)探索多轮、交互式等大模型原生的搜索产品体验。
- 1、负责业务基模的预训练体系建设,覆盖PreTrain与MidTrain全流程,围绕多模态模型训练,开展模型架构优化、训练目标设计、世界知识体系构建与注入、训练策略优化、千卡训练效率提升等探索,持续提升模型在视频与图文场景下的世界知识能力、多实体与细粒度识别能力,以及通用感知与理解能力;
- 2、负责业务基模的后训练体系建设,围绕SFT、RL、OPD等方向开展方法探索与落地,建设包含指令数据、偏好数据及业务推理数据在内的后训练数据体系,持续提升模型在业务场景下的指令跟随能力、通用推理能力与抗幻觉能力,实现模型效果与业务目标的持续对齐;
- 3、负责基模训练全阶段的数据与评估体系建设,覆盖预训练数据、后训练数据的数据清洗、标注、配比、合成与迭代,搭建全面的评估体系与质量监控机制,建立基模评估体系与业务表现之间的桥梁,提升离线评估对线上效果的预测能力;
- 4、跟踪基础模型领域最新技术进展,探索模型架构、训练范式、数据构建、知识强化和模型对齐等方向的前沿方法,并推动其在业务基模中的落地应用。
你的简历匹配这个岗位吗?
上传简历,AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 算法 岗位的常见面试问题整理
请解释 Transformer 模型的自注意力机制(Self-Attention)
查看答题思路
1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力:多组 QKV 并行,拼接后线性变换,捕获不同子空间特征 5. 对比 RNN:可并行计算,捕获长距离依赖
你做过的最有深度的算法/模型项目是什么
查看答题思路
1. 一句话说清任务:分类/生成/检索/推荐 2. 模型选型:为什么选这个而非那个 3. 数据:数据量、来源、清洗策略 4. 创新点:你做的改进是什么(不是调参) 5. 结果:核心指标提升(准确率/召回/延迟)
过拟合是什么?怎么判断和解决
查看答题思路
1. 过拟合=训练集表现好、验证集表现差,模型记住了噪声 2. 判断:train loss 持续下降而 val loss 上升 3. 解决:更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度
解释梯度下降的原理,SGD 和 Adam 的区别
查看答题思路
1. 梯度下降:沿负梯度方向更新参数,使损失降低 2. SGD:每次用随机小批量估算梯度,引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp:自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD;CV 常用 SGD,NLP 多用 Adam
给你 10 万条未标注的文本数据,如何找出其中 10 个主题
查看答题思路
1. 预处理:分词、去停用词 2. 向量化:TF-IDF 或 Sentence Embedding 3. 聚类:K-Means(需指定 K=10)或 HDBSCAN(自动确定类数) 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估:看每个簇的高频词判断主题合理性,迭代调整
更多面试题库功能即将上线
信息来源:企业官方招聘页。投递前请以官网信息为准。