腾讯
校招混元基座模型-预训练数据效率优化研究
北京 · 校招 · 2027 届 · 硕士
长期有效
任职要求
- 学历和专业要求：
- 自然语言处理/机器学习/模式识别/人工智能/计算机等相关专业硕士以上学历；
- 技术技能要求：
- 1，相信 Scaling Law，认可数据、算力与模型规模化带来的长期价值，善于通过系统实验验证规律；
- 2，具备较强的工程能力，对于更高效更稳定的工具有持续追求；
- 软性素质要求：
- 认真仔细，对指标与数据中的蛛丝马迹高度敏感，不轻易放过任何异常与偏差。
- 此课题同时招聘应届实习生和低年级实习生。
岗位描述
【岗位职责】
课题背景：
预训练数据是基座模型能力的基石。随着模型参数量剧增，高质量自然语料濒临枯竭，单纯扩大规模的收益递减。现有清洗与静态配比方案难以高效剔除隐蔽噪声，且缺乏动态调度机制，导致长尾知识吸收不足，制约模型能力上限。因此，攻克大模型数据清洗与调度机制是破局关键。
课题挑战：
- 1. 规模与质量的博弈：在百TB级语料中进行深度清洗计算开销巨大，难以在过滤低质噪声的同时避免高价值长尾知识的误杀。
- 2. 配比空间的组合爆炸：数据领域繁杂，传统启发式搜索无法有效寻优，精准建立数据分布与模型下游维度的映射规律极具挑战。
- 3. 动态调度的指标盲区：训练过程中缺乏低成本、高置信度的即时评估指标，难以准确评估模型实时状态并实施精准的数据调度。
具体工作：
- 1. 负责在PB级预训练语料中筛选有价值的部分，设计数据策略并验证其效果；
- 2. 探究多领域数据科学配比规律；
- 3. 设计并落地符合大模型认知规律的训练数据动态调度策略。
【任职要求】
学历和专业要求：
自然语言处理/机器学习/模式识别/人工智能/计算机等相关专业硕士以上学历；
技术技能要求：
1，相信 Scaling Law，认可数据、算力与模型规模化带来的长期价值，善于通过系统实验验证规律；
2，具备较强的工程能力，对于更高效更稳定的工具有持续追求；
软性素质要求：
认真仔细，对指标与数据中的蛛丝马迹高度敏感，不轻易放过任何异常与偏差。
【加分项】
此课题同时招聘应届实习生和低年级实习生。
【技术方向】
大语言模型、NLP
你的简历匹配这个岗位吗？
上传简历，AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 数据 岗位的常见面试问题整理
请解释数据仓库的星型模型和雪花模型的区别
查看答题思路
1. 星型：事实表在中间，维度表直接关联，维度表非规范化（有冗余） 2. 雪花：维度表进一步规范化，减少冗余但增加 join 次数 3. 选择：星型查询快（join 少），雪花存储省，一般生产用星型更多
如何设计一个埋点体系来追踪用户行为
查看答题思路
1. 确定业务目标：留存/转化/活跃 2. 定义事件：页面浏览/点击/曝光/转化，每个事件带属性 3. 技术栈：前端 SDK 上报 → Kafka → Flink 实时清洗 → ClickHouse/Hive 存储 4. 数据分层：ODS（原始）→ DWD（明细）→ DWS（汇总）→ ADS（应用） 5. 质量：埋点测试 + 数据校验 + 异常告警
SQL：有一个用户登录表 user_login(user_id, login_date)，查询连续登录超过 7 天的用户
查看答题思路
1. 思路：用 login_date 减去排名序号（ROW_NUMBER），同组连续日期差值相同 2. 关键 SQL：SELECT user_id, login_date-ROW_NUMBER() OVER (PARTITION BY user_id ORDER BY login_date) AS grp 3. GROUP BY user_id, grp HAVING COUNT(*) >= 7 4. 强调：理解窗口函数和连续性问题的一般解法
你做过最有价值的数据分析项目是什么
查看答题思路
1. 业务背景：分析什么、为什么重要 2. 数据来源和量级 3. 分析方法：用了什么模型/统计方法 4. 核心发现：一句话说清洞察 5. 业务影响：做了什么决策、带来了什么改变（用数字）
解释 A/B 测试的原理和常见陷阱
查看答题思路
1. 原理：分流用户到对照组和实验组，对比核心指标差异 2. 统计基础：假设检验，p<0.05 表示差异显著 3. 陷阱：样本量不足、运行时间太短（未覆盖周期波动）、多重比较（同时做多组 A/B 需修正显著性水平） 4. 指标选择：北极星指标优先，避免虚荣指标
更多面试题库功能即将上线
信息来源：企业官方招聘页。投递前请以官网信息为准。