字节跳动
实习推荐大模型系统研发实习生-Data AML
北京 · 实习 · 2027 届 · 本科
长期有效
任职要求
- 2027届本科及以上学历在读，计算机、软件工程、人工智能等相关专业优先
- 具有扎实的数据结构、算法和计算机体系结构基础，熟练掌握C++/Python/CUDA/Triton中至少一种语言，具备优秀的编程习惯和系统设计能力，能够编写高性能、可扩展的代码
- 深入理解TensorFlow、PyTorch、JAX等主流深度学习框架底层原理，有算子开发、性能调优或分布式训练实战经验
- 熟悉大规模分布式系统的设计与开发，了解常用的并行策略（数据并行、模型并行、专家并行、序列并行、流水线并行等）和并行库（DeepSpeed，Megatron等）
- 了解经典的搜广推算法（如DeepFM，DLRM，DIN等），了解主流的LLM技术（如Transformer，BERT，MoE，CLIP等）
- 对挑战性问题（如超长序列建模、万卡规模稳定性）有强烈的探索欲望，具备优秀的逻辑思维能力、独立解决问题的能力，以及团队合作精神。
- 加分项
- 大模型实战：具有100B+规模大模型的预训练、微调或强化学习经验，深度优化过分布式训练系统的性能
- 多模态经验：具有多模态表征学习经验（如CLIP，BLIP，VLM），能够将视觉/文本特征有效融入推荐系统
- 底层优化：熟悉GPU架构，具备CUDA/Triton/Pallas编程经验，深入研究NCCL、RDMA和网络通信优化
- 框架剖析：深入研究过一种机器学习框架（TensorFlow/PyTorch/JAX或其他自研框架）的代码和设计
- 顶会论文：在RecSys，MLSys，NeurIPS，ICML，ICLR，KDD，SIGIR，CVPR等AI顶会有高质量论文发表
- 开源贡献：知名开源项目（如训练框架、并行库、高性能计算库）的核心贡献者，或拥有高质量个人开源项目
- 竞赛经历：在ACM-ICPC、Kaggle、天池等顶级算法竞赛中，或RecSys Challenge、KDD Cup、NeurIPS Competitions等顶会竞赛中，获得过优异成绩。
岗位描述
ByteIntern：面向2027届毕业生（2026年9月-2027年8月期间毕业），为符合岗位要求的同学提供转正机会。
团队介绍：Data AML是字节跳动的机器学习中台，为抖音/今日头条/西瓜视频等业务提供推荐/广告/CV/语音/NLP的训练和推理系统。为公司内业务部门提供强大的机器学习算力，并在这些业务的问题上研究一些具有通用性和创新性的算法。同时，也通过火山引擎将一些机器学习/推荐系统的核心能力提供给外部企业客户。
- 1、扩大推荐模型的行为序列长度、参数规模和训练规模，验证推荐领域的Scaling Law；
- 2、在亿级用户产生的数据上，构建推荐专用生成式模型的训练系统和推理系统；
- 3、构建跨业务、跨端的推荐基座大模型，通过蒸馏的方式，赋能多个业务的下游模型；
- 4、引入文本、图片、视频等多模态信号，增强推荐模型的信息输入，与协同信号联合训练；
- 5、构建LLM的CPT/SFT/RL系统，与推荐模型深度融合、联合训练，推进LLM4Rec的落地；
- 6、构建ND-Parallel并行库，支持超大规模的并行训练，优化训练效率，提升万卡集群的训练稳定性，研究业界领先的高性能计算技术、分布式计算技术和深度学习技术，不断提升系统的规模和性能上限。
你的简历匹配这个岗位吗？
上传简历，AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 算法 岗位的常见面试问题整理
请解释 Transformer 模型的自注意力机制（Self-Attention）
查看答题思路
1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力：多组 QKV 并行，拼接后线性变换，捕获不同子空间特征 5. 对比 RNN：可并行计算，捕获长距离依赖
你做过的最有深度的算法/模型项目是什么
查看答题思路
1. 一句话说清任务：分类/生成/检索/推荐 2. 模型选型：为什么选这个而非那个 3. 数据：数据量、来源、清洗策略 4. 创新点：你做的改进是什么（不是调参） 5. 结果：核心指标提升（准确率/召回/延迟）
过拟合是什么？怎么判断和解决
查看答题思路
1. 过拟合=训练集表现好、验证集表现差，模型记住了噪声 2. 判断：train loss 持续下降而 val loss 上升 3. 解决：更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度
解释梯度下降的原理，SGD 和 Adam 的区别
查看答题思路
1. 梯度下降：沿负梯度方向更新参数，使损失降低 2. SGD：每次用随机小批量估算梯度，引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp：自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD；CV 常用 SGD，NLP 多用 Adam
给你 10 万条未标注的文本数据，如何找出其中 10 个主题
查看答题思路
1. 预处理：分词、去停用词 2. 向量化：TF-IDF 或 Sentence Embedding 3. 聚类：K-Means（需指定 K=10）或 HDBSCAN（自动确定类数） 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估：看每个簇的高频词判断主题合理性，迭代调整
更多面试题库功能即将上线
信息来源：企业官方招聘页。投递前请以官网信息为准。