04 请说明DPO、SFT、GRPO三者的区别,并判断DPO更像SFT还是更像GRPO。考察对主流对齐训练范式的理解:SFT的监督学习本质、DPO的偏好优化目标、GRPO的组内相对策略优化,以及它们在线/离线、是否需要奖励模型、优化信号来源的差异。 查看学习思路
09 请沿着“业务目标→数据与任务定义→模型方案→训练/推理→评测→上线约束”的主线,完整介绍一个你真正负责过的多模态大模型项目,并说明你个人负责的模块。考察候选人能否把项目讲成可验证的设计与工程归因链条,而不是罗列技术栈;同时验证其对数据、技术选型、上线约束和效果证据的真实掌握程度。 查看学习思路
10 PPO 和 GRPO 的核心区别是什么?在实际训练中你会如何选择,并监控哪些指标?考察候选人对策略优化方法中优势估计、Critic 依赖、Rollout 成本和奖励设计的理解,以及能否结合任务特性做工程选型。 查看学习思路
11 为什么要做 DPO?它解决了 PPO 链路中的哪些问题,又存在哪些局限?考察候选人对 DPO 动机、训练目标和适用边界的理解,以及能否根据任务选择 DPO、IPO、KTO、ORPO 或在线 RL。 查看学习思路
12 持续学习方法可以如何分类?面对知识更新、行为变化和输入分布漂移,你会如何选型并做回归评估?考察候选人对持续学习分类体系的掌握,以及能否根据变化类型选择回放、正则化、适配器、架构扩展、检索或重训,并设计遗忘评估。 查看学习思路