腾讯
实习混元-下一代大语言模型主要预训练数据提升空间
深圳总部 · 实习 · 博士
长期有效
任职要求
- 1、计算机/软件工程等相关专业硕士以上学历，拥有博士学位者优先；
- 2、熟悉大语言模型领域的相关研究工作和算法，拥有发表顶会论文、大模型研究工作、知名竞赛获奖、顶级研究机构或一线互联网工作经验者优先；
- 3、熟练使用Python、PyTorch和CUDA等语言及工具，具备快速阅读和复现论文的能力，熟练使用AI工具提效者优先；
- 4、具备优秀的分析和解决问题能力，良好的团队合作精神及沟通意识；
- 5、有大模型数据研发相关公司的实践经验或者科研成果，有丰富的通过数据优化提升LLM效果经验者优先。
岗位描述
【岗位职责】
课题背景：
当前业界大语言模型预训练阶段主要采用来自网页、文档、代码等互联网上的公开数据，经过精心解析、清洗、质量筛选后，结合模型训练效果构建成最佳的预训练数据集合；但公开研究较少提及诸如多模态数据、非公开域可直接抓取的数据在LLM预训练时对模型的价值。
课题挑战：
本课题偏数据前瞻性探索，需要实习生在充分了解当前业界常用的文本预训练数据源、加工方式、模型效果的基础上，创新性地探索更大范围的数据源对应的价值。
具体工作：
涉及的工作包括新数据集原型的构建，数据集质量优化，数据实验验证价值等。
【任职要求】
- 1、计算机/软件工程等相关专业硕士以上学历，拥有博士学位者优先；
- 2、熟悉大语言模型领域的相关研究工作和算法，拥有发表顶会论文、大模型研究工作、知名竞赛获奖、顶级研究机构或一线互联网工作经验者优先；
- 3、熟练使用Python、PyTorch和CUDA等语言及工具，具备快速阅读和复现论文的能力，熟练使用AI工具提效者优先；
- 4、具备优秀的分析和解决问题能力，良好的团队合作精神及沟通意识；
- 5、有大模型数据研发相关公司的实践经验或者科研成果，有丰富的通过数据优化提升LLM效果经验者优先。
【技术方向】
大语言模型、NLP
你的简历匹配这个岗位吗？
上传简历，AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 数据 岗位的常见面试问题整理
请解释数据仓库的星型模型和雪花模型的区别
查看答题思路
1. 星型：事实表在中间，维度表直接关联，维度表非规范化（有冗余） 2. 雪花：维度表进一步规范化，减少冗余但增加 join 次数 3. 选择：星型查询快（join 少），雪花存储省，一般生产用星型更多
如何设计一个埋点体系来追踪用户行为
查看答题思路
1. 确定业务目标：留存/转化/活跃 2. 定义事件：页面浏览/点击/曝光/转化，每个事件带属性 3. 技术栈：前端 SDK 上报 → Kafka → Flink 实时清洗 → ClickHouse/Hive 存储 4. 数据分层：ODS（原始）→ DWD（明细）→ DWS（汇总）→ ADS（应用） 5. 质量：埋点测试 + 数据校验 + 异常告警
SQL：有一个用户登录表 user_login(user_id, login_date)，查询连续登录超过 7 天的用户
查看答题思路
1. 思路：用 login_date 减去排名序号（ROW_NUMBER），同组连续日期差值相同 2. 关键 SQL：SELECT user_id, login_date-ROW_NUMBER() OVER (PARTITION BY user_id ORDER BY login_date) AS grp 3. GROUP BY user_id, grp HAVING COUNT(*) >= 7 4. 强调：理解窗口函数和连续性问题的一般解法
你做过最有价值的数据分析项目是什么
查看答题思路
1. 业务背景：分析什么、为什么重要 2. 数据来源和量级 3. 分析方法：用了什么模型/统计方法 4. 核心发现：一句话说清洞察 5. 业务影响：做了什么决策、带来了什么改变（用数字）
解释 A/B 测试的原理和常见陷阱
查看答题思路
1. 原理：分流用户到对照组和实验组，对比核心指标差异 2. 统计基础：假设检验，p<0.05 表示差异显著 3. 陷阱：样本量不足、运行时间太短（未覆盖周期波动）、多重比较（同时做多组 A/B 需修正显著性水平） 4. 指标选择：北极星指标优先，避免虚荣指标
更多面试题库功能即将上线
信息来源：企业官方招聘页。投递前请以官网信息为准。