← 返回面经子恢增长酒馆
字节跳动

产品经理(模型训练)面经

按实际面试轮次整理的问题清单

校招1 个轮次16 道题
01
面试轮次

一面

16 道
  1. 从大模型训练角度看,如果模型在某类任务上的表现明显不足,你如何判断应该优化预训练数据、SFT数据,还是RLHF/后训练数据?
  2. 如果负责LLM预训练数据策略,你会如何设计数据筛选、清洗、去重和质量评估方案?
  3. 在大模型训练中,如何判断一批新增数据是否真正提升了模型能力,而不是简单增加训练数据规模?
  4. 如果训练数据规模扩大10倍,但模型效果提升有限,你会如何分析数据策略是否存在问题?
  5. 对于SFT数据构建,你认为高质量instruction-response数据应该具备哪些特征?如何验证数据有效性?
  6. 如果模型在benchmark数据集上效果提升,但线上真实任务表现下降,可能有哪些技术原因?
  7. 如何设计一个覆盖LLM核心能力的大模型评测集?你会如何划分能力维度?
  8. 在构建模型评测数据集时,如何避免测试集污染(data leakage)导致评测结果失真?
  9. 如果两个模型在自动评测指标上差异很小,你如何设计人工评测体系进一步判断模型优劣?
  10. 对于 RLHF数据生产,你如何设计 reward model的训练数据和人工偏好标注体系?
  11. 如果 reward model 优化后,模型在人工评分上提升,但用户满意度下降,你认为可能是什么原因?
  12. 如何定位一个大模型产生幻觉(Hallucination)的主要原因?从数据、训练和推理三个角度分别有哪些优化方式?
  13. 在多模态模型(VLM)训练中,图文对齐数据、视频数据、指令数据分别解决什么能力问题?如何设计数据配比?
  14. 如果负责Agent模型训练数据建设,你认为需要采集哪些类型的数据?如何评价Agent的任务完成能力?
  15. 假设一次数据优化项目投入大量标注成本,但模型指标只提升1%,你会如何判断项目是否值得继续?
  16. 请介绍大模型从预训练、监督微调到后训练和评测的主要流程,并说明各阶段的目标。

本页由用户经历或公开材料匿名整理,仅供求职准备参考,不代表相关公司的官方题库或招聘承诺。如内容涉及个人信息、保密材料或权利争议,请联系网站备案主体申请更正或删除。