字节跳动
实习【实习】基于预训练大模型的端到端生成式搜索技术研究-搜索（北京/上海）
上海 · 实习 · 2027 届 · 博士
长期有效
任职要求
- 2027届及以后毕业，博士在读
- 在人工智能领域顶级会议上有发表论文或有深入研究经历者优先
- 有扎实的机器学习/深度学习算法基础和代码能力，熟练C/C++或Python
- 聪明、自信，敢于突破，对技术有执着的追求和热爱
- 具备良好的团队沟通协作能力。
岗位描述
团队介绍：字节跳动搜索团队主要负责抖音、国际化短视频、今日头条、红果短剧、番茄小说、AI搜索等产品以及电商、生活服务等业务的搜索算法创新和架构研发工作。
我们使用前沿的机器学习\大模型技术进行端到端建模并不断创新突破，同时专注于分布式系统、机器学习系统的构建和性能优化，从内存、Disk等优化到索引压缩、召回、排序等算法的探索，致力于支撑字节跳动持续多元化的产品创新和高速的业务增长、基于大模型革新和重塑下一代搜索技术体系，充分给同学们提供成长自我的机会。
主要工作方向包括：
- 1、探索前沿的NLP技术：全面基于LLM的Query分析、相关性、个性化预估、满意度评估、生成式检索等，全链路应用LLM/VLM，每个细节都充满挑战；
- 2、跨模态匹配技术：进行多模态预训练，在超大规模的多模态表征、匹配、生成等多个技术方向上持续突破，打造世界领先的多模态搜索系统；
- 3、大规模流式机器学习技术：应用大规模机器学习，解决搜索中的推荐问题，让搜索更加个性化更加懂你；
- 4、千亿级数据规模的架构：从大规模离线计算，分布式系统的性能、调度优化，到构建高可用、高吞吐和低延迟的在线服务的方方面面都有深入研究和创新；
- 5、推荐技术：基于超大规模机器学习、因果推断、大模型推理等技术手段，构建业界领先的搜索推荐系统，对搜索推荐技术进行探索和创新。
课题介绍：
随着大模型技术的快速发展，AI搜索领域迎来了新的机遇和挑战。传统搜索技术在面对海量数据、多模态信息以及用户多轮复杂需求时，开始暴露出很多问题。因此需要基于大模型来构建下一代AI搜索系统，提升搜索系统的智能化水平，优化用户体验，具体目标包括：
- 1、探索大模型与排序算法的结合，提升个性化排序的精度和用户体验。
- 2、探索基于多模态预训练的端到端生成式搜索大模型
- 3、探索基于大模型Agent技术，提升复杂多义Query和多轮搜索下的用户满意度。
课题挑战：
- 1、个性化排序的挑战：传统排序算法难以充分利用多模态信息，且模型复杂度有限，无法满足用户对精准化和个性化搜索的需求；
- 2、超大规模检索排序的挑战：传统的基于判别式的级联排序系统，难以满足搜索千亿级别候选的检索排序效率需求；
- 3、搜索需求日益复杂的挑战：用户搜索需求的复杂度在不断增加，传统搜索框架难以在多轮对话下，准确理解长难、多义Query的语义，导致搜索结果满意度低。
课题价值：
- 1、技术价值：突破传统搜索技术瓶颈，构建大模型Agent驱动的下一代AI搜索架构，解决个性化排序、超大规模检索排序、复杂搜索需求理解满足等行业难题；
- 2、业务价值：大幅度提升搜索的用户体验和满意度，带动搜索场景LT和主动搜索心智的提升。
你的简历匹配这个岗位吗？
上传简历，AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 算法 岗位的常见面试问题整理
请解释 Transformer 模型的自注意力机制（Self-Attention）
查看答题思路
1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力：多组 QKV 并行，拼接后线性变换，捕获不同子空间特征 5. 对比 RNN：可并行计算，捕获长距离依赖
你做过的最有深度的算法/模型项目是什么
查看答题思路
1. 一句话说清任务：分类/生成/检索/推荐 2. 模型选型：为什么选这个而非那个 3. 数据：数据量、来源、清洗策略 4. 创新点：你做的改进是什么（不是调参） 5. 结果：核心指标提升（准确率/召回/延迟）
过拟合是什么？怎么判断和解决
查看答题思路
1. 过拟合=训练集表现好、验证集表现差，模型记住了噪声 2. 判断：train loss 持续下降而 val loss 上升 3. 解决：更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度
解释梯度下降的原理，SGD 和 Adam 的区别
查看答题思路
1. 梯度下降：沿负梯度方向更新参数，使损失降低 2. SGD：每次用随机小批量估算梯度，引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp：自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD；CV 常用 SGD，NLP 多用 Adam
给你 10 万条未标注的文本数据，如何找出其中 10 个主题
查看答题思路
1. 预处理：分词、去停用词 2. 向量化：TF-IDF 或 Sentence Embedding 3. 聚类：K-Means（需指定 K=10）或 HDBSCAN（自动确定类数） 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估：看每个簇的高频词判断主题合理性，迭代调整
更多面试题库功能即将上线
信息来源：企业官方招聘页。投递前请以官网信息为准。