字节跳动
校招新加坡 · 校招 · 2027 届 · 博士
长期有效
团队介绍:Data AML是字节跳动的机器学习中台,为抖音/今日头条/西瓜视频等业务提供推荐/广告/CV/语音/NLP的训练和推理系统。为公司内业务部门提供强大的机器学习算力,并在这些业务的问题上研究一些具有通用性和创新性的算法。同时,也通过火山引擎将一些机器学习/推荐系统的核心能力提供给外部企业客户。
课题介绍:大规模推荐系统正在越来越多的应用到短视频、文本社区、图像等产品上,期望进一步通过算法与工程Co-design,探索推荐算法和大语言模型/多模态理解的深度融合主要研究方向包括:LLM4Rec、跨端跨场景的Foundation Model、千亿级参数规模的模型 和 多模态大模型。工程上研究方向包括多模态样本的高效表征、基于PyTorch架构的高性能推理引擎与训练框架构建,以及异构硬件在推荐场景下的性能极限优化;算法侧研究方向包括LLM4Rec技术路径的设计、千亿级底座模型的研发以及多模态协同训练(Co-training)等核心课题,旨在通过技术创新定义下一代工业级推荐范式。
课题挑战
课题价值
Topic Content
In today’s global e-commerce landscape, intelligent systems must operate across increasingly complex and dynamic business environments. Yet existing approaches still face limitations in long-horizon forecasting, cross-Large-scale recommendation systems are being increasingly adopted across products such as short-video, text-based multimodal, and image platforms, with modality-specific in tremendous laying an ever-growing role in recommendations.
Leveraging our latest research breakthroughs and broad industry insights, we believe modality information serves effectively as generalizable features to support recommendation and other business scenarios. Research on ultra-large-scale multimodal recommendation systems holds significant potential.
Topic Challenges
Topic Value
上传简历,AI 会对照这份 JD 指出你的差距和需要补强的地方
基于 算法 岗位的常见面试问题整理
请解释 Transformer 模型的自注意力机制(Self-Attention)
1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力:多组 QKV 并行,拼接后线性变换,捕获不同子空间特征 5. 对比 RNN:可并行计算,捕获长距离依赖
你做过的最有深度的算法/模型项目是什么
1. 一句话说清任务:分类/生成/检索/推荐 2. 模型选型:为什么选这个而非那个 3. 数据:数据量、来源、清洗策略 4. 创新点:你做的改进是什么(不是调参) 5. 结果:核心指标提升(准确率/召回/延迟)
过拟合是什么?怎么判断和解决
1. 过拟合=训练集表现好、验证集表现差,模型记住了噪声 2. 判断:train loss 持续下降而 val loss 上升 3. 解决:更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度
解释梯度下降的原理,SGD 和 Adam 的区别
1. 梯度下降:沿负梯度方向更新参数,使损失降低 2. SGD:每次用随机小批量估算梯度,引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp:自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD;CV 常用 SGD,NLP 多用 Adam
给你 10 万条未标注的文本数据,如何找出其中 10 个主题
1. 预处理:分词、去停用词 2. 向量化:TF-IDF 或 Sentence Embedding 3. 聚类:K-Means(需指定 K=10)或 HDBSCAN(自动确定类数) 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估:看每个簇的高频词判断主题合理性,迭代调整
更多面试题库功能即将上线
信息来源:企业官方招聘页。投递前请以官网信息为准。