腾讯
实习混元-大语言模型数据质量优化与数据实验
深圳总部 · 实习 · 博士
长期有效
任职要求
- 1、计算机/软件工程等相关专业硕士以上学历,拥有博士学位者优先;
- 2、熟悉大语言模型领域的相关研究工作和算法,拥有发表顶会论文、大模型研究工作、知名竞赛获奖、顶级研究机构或一线互联网工作经验者优先;
- 3、熟练使用Python、PyTorch和CUDA等语言及工具,具备快速阅读和复现论文的能力,熟练使用AI工具提效者优先;
- 4、具备优秀的分析和解决问题能力,良好的团队合作精神及沟通意识;
- 5、有大模型数据研发相关公司的实践经验或者科研成果,有丰富的通过数据优化提升LLM效果经验者优先。
岗位描述
【岗位职责】
课题背景:
大语言模型的预训练数据集优化是持续性的工作,包括对海量网页、文档、代码数据的通用改造、低质清洗、优质数据筛选、数据多样性分布优化等工作。
课题挑战:
本课题需要实习生对数据质量有非常深刻的理解,包括单样本质量、数据集整体多样性/分布等,并且能创新性地引入或优化大语言模型数据处理过程中前沿的NLP算法,如语义去重、聚类、质量分类模型等,结合实验验证,持续优化千亿数据的质量。
具体工作:
本课题需要实习生在以上1~2个方向上,能引入创新性的算法优化,对大语言模型数据的处理能带来数据效果上显著的提升,最终数据算法落地到混元LLM正式版本的数据生产中,带来实际的线上效果提升。
【任职要求】
- 1、计算机/软件工程等相关专业硕士以上学历,拥有博士学位者优先;
- 2、熟悉大语言模型领域的相关研究工作和算法,拥有发表顶会论文、大模型研究工作、知名竞赛获奖、顶级研究机构或一线互联网工作经验者优先;
- 3、熟练使用Python、PyTorch和CUDA等语言及工具,具备快速阅读和复现论文的能力,熟练使用AI工具提效者优先;
- 4、具备优秀的分析和解决问题能力,良好的团队合作精神及沟通意识;
- 5、有大模型数据研发相关公司的实践经验或者科研成果,有丰富的通过数据优化提升LLM效果经验者优先。
【技术方向】
大语言模型、NLP
你的简历匹配这个岗位吗?
上传简历,AI 会对照这份 JD 指出你的差距和需要补强的地方
该岗位可能会问的问题
基于 数据 岗位的常见面试问题整理
请解释数据仓库的星型模型和雪花模型的区别
查看答题思路
1. 星型:事实表在中间,维度表直接关联,维度表非规范化(有冗余) 2. 雪花:维度表进一步规范化,减少冗余但增加 join 次数 3. 选择:星型查询快(join 少),雪花存储省,一般生产用星型更多
如何设计一个埋点体系来追踪用户行为
查看答题思路
1. 确定业务目标:留存/转化/活跃 2. 定义事件:页面浏览/点击/曝光/转化,每个事件带属性 3. 技术栈:前端 SDK 上报 → Kafka → Flink 实时清洗 → ClickHouse/Hive 存储 4. 数据分层:ODS(原始)→ DWD(明细)→ DWS(汇总)→ ADS(应用) 5. 质量:埋点测试 + 数据校验 + 异常告警
SQL:有一个用户登录表 user_login(user_id, login_date),查询连续登录超过 7 天的用户
查看答题思路
1. 思路:用 login_date 减去排名序号(ROW_NUMBER),同组连续日期差值相同 2. 关键 SQL:SELECT user_id, login_date-ROW_NUMBER() OVER (PARTITION BY user_id ORDER BY login_date) AS grp 3. GROUP BY user_id, grp HAVING COUNT(*) >= 7 4. 强调:理解窗口函数和连续性问题的一般解法
你做过最有价值的数据分析项目是什么
查看答题思路
1. 业务背景:分析什么、为什么重要 2. 数据来源和量级 3. 分析方法:用了什么模型/统计方法 4. 核心发现:一句话说清洞察 5. 业务影响:做了什么决策、带来了什么改变(用数字)
解释 A/B 测试的原理和常见陷阱
查看答题思路
1. 原理:分流用户到对照组和实验组,对比核心指标差异 2. 统计基础:假设检验,p<0.05 表示差异显著 3. 陷阱:样本量不足、运行时间太短(未覆盖周期波动)、多重比较(同时做多组 A/B 需修正显著性水平) 4. 指标选择:北极星指标优先,避免虚荣指标
更多面试题库功能即将上线
信息来源:企业官方招聘页。投递前请以官网信息为准。