字节跳动
实习大模型与智能体安全——面向Agentic AI的攻防评估与可信安全防御（LLM Security）-安全与风控（北京/深圳）
深圳 · 实习 · 2027 届 · 博士
长期有效
任职要求
- 2027届毕业，获得博士学位，人工智能、计算机、数学相关专业优先
- 优秀的代码能力，有扎实的机器学习基础，在ICML/NeurIPS/ICLR等顶级会议上发表论文者优先
- 具有个人维护的相关开源项目的同学优先
- 出色的问题分析和解决能力，有自主探索解决方案的能力
- 良好的沟通协作能力，能和团队一起探索新技术，推进技术进步
- 出色的心理素质与应变能力，面对困难勇于迎接挑战；面对复杂局面沉着、冷静、灵活。
岗位描述
团队介绍：我们团队为字节跳动的大型语言模型（LLM）业务线提供端到端安全解决方案。
我们针对模型训练、推理及部署全流程识别并防控新型风险，同时研发工具与系统，保障 LLM 资产及相关应用的安全。
通过在实际业务场景中推进人工智能安全技术落地，构建了行业领先的防御体系，为人工智能技术的安全演进提供保障。
课题介绍：
智能体应用在爆发式增长同时，也引入了新的安全挑战。包括数据、决策、执行、供应链在内的更大攻击面，及其错综的交互特点和复杂的基础设施，使得传统安全技术纷纷失效，智能体、数据、模型等资产面临着失控、失窃和受损的风险。
本课题旨在系统研究Agentic AI时代下大模型与智能体的攻防测试评估技术，以及基于大模型可信隐私计算的全链路防御体系，保障公司大模型业务的安全平稳发展，包括：
- 1、多模态大模型与智能体的攻防检测与评估方法、测试基准以及工具链；
- 2、面向智能体应用的风险防御技术以及可信安全运行保障技术；
- 3、大模型以及海量样本下的训练与推理技术，保障数据与模型资产安全；
- 4、面向大模型的机密训推基础设施安全构建、性能优化以及国产卡适配。
课题挑战：
- 1、智能体高权限下提示注入、记忆投毒等新攻击难以检测，多模态为对抗样本攻击提供了新路径；
- 2、插件生态缺乏审计，供应链投毒规模蔓延，如何为智能体构建过程完整、数据机密、行为可信的防护体系；
- 3、在大模型上百B的参数以及海量样本场景下，训练与推理如何实现安全、性能与成本的均衡，可信、可运维、高性能的工业级机密大模型训推基础框架如何构建。
课题价值：
1、技术价值：
- 1.1构建Agentic AI多模态安全评估基准与红队测试工具链；
- 1.2构建领先的大模型安全训练与推理算法、系统以及智能体安全可信防护能力。
2、业务价值：
- 2.1为智能体产品提供运行时安全防护能力以及可信可证的用户隐私保护措施，保障Flow等大模型和智能体产品安全运行；
- 2.2面向第三方算力环境提供安全可信的大模型数据与资产保护能力。
你的简历匹配这个岗位吗？
上传简历，AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 算法 岗位的常见面试问题整理
请解释 Transformer 模型的自注意力机制（Self-Attention）
查看答题思路
1. Self-Attention = 序列中每个 token 与所有 token 计算相关性权重 2. Q=Wq·x, K=Wk·x, V=Wv·x; Attention(Q,K,V)=softmax(QK^T/√d_k)V 3. 除以 √d_k 防止点积过大导致 softmax 梯度消失 4. 多头注意力：多组 QKV 并行，拼接后线性变换，捕获不同子空间特征 5. 对比 RNN：可并行计算，捕获长距离依赖
你做过的最有深度的算法/模型项目是什么
查看答题思路
1. 一句话说清任务：分类/生成/检索/推荐 2. 模型选型：为什么选这个而非那个 3. 数据：数据量、来源、清洗策略 4. 创新点：你做的改进是什么（不是调参） 5. 结果：核心指标提升（准确率/召回/延迟）
过拟合是什么？怎么判断和解决
查看答题思路
1. 过拟合=训练集表现好、验证集表现差，模型记住了噪声 2. 判断：train loss 持续下降而 val loss 上升 3. 解决：更多数据 / 正则化(L1/L2) / Dropout / 早停 / 数据增强 / 降低模型复杂度
解释梯度下降的原理，SGD 和 Adam 的区别
查看答题思路
1. 梯度下降：沿负梯度方向更新参数，使损失降低 2. SGD：每次用随机小批量估算梯度，引入随机性帮助跳出局部最优 3. Adam = Momentum + RMSProp：自适应学习率 + 动量加速 4. Adam 收敛快但可能泛化不如 SGD；CV 常用 SGD，NLP 多用 Adam
给你 10 万条未标注的文本数据，如何找出其中 10 个主题
查看答题思路
1. 预处理：分词、去停用词 2. 向量化：TF-IDF 或 Sentence Embedding 3. 聚类：K-Means（需指定 K=10）或 HDBSCAN（自动确定类数） 4. 或 LDA 主题模型直接输出主题-词分布 5. 评估：看每个簇的高频词判断主题合理性，迭代调整
更多面试题库功能即将上线
信息来源：企业官方招聘页。投递前请以官网信息为准。