职位题库

多模态大模型算法工程师面试题库

面向多模态大模型算法工程师相关面试,围绕GRPO、DPO、强化学习、偏好数据、RLHF等主题展开练习,结合题目考察点、回答思路、参考答案和常见误区,梳理知识要点并练习清晰表达。

13 道题目建议用时 39 分钟专项面试练习

全部题目 13 道题

01

请解释LoRA微调的原理,并说明Transformer的核心思想及自注意力机制。

考察候选人对大模型微调技术和Transformer基础架构的理解深度。
02

请比较Transformer与LLaMA在层归一化(LN)上的区别,并说明BERT和GPT的区别。

考察候选人对不同模型架构细节的掌握,特别是归一化位置和模型设计差异。
03

请解释RLHF和DPO是什么,并写出DPO的损失函数。

考察候选人对大模型对齐技术的理解,特别是RLHF和DPO的原理及数学细节。
04

请说明DPO、SFT、GRPO三者的区别,并判断DPO更像SFT还是更像GRPO。

考察对主流对齐训练范式的理解:SFT的监督学习本质、DPO的偏好优化目标、GRPO的组内相对策略优化,以及它们在线/离线、是否需要奖励模型、优化信号来源的差异。
05

DPO在筛选训练数据时需要注意什么?

考察对DPO数据质量的敏感度:偏好对的区分度、标注一致性、长度偏置、分布覆盖与噪声对隐式奖励的影响。
06

GRPO训练中如果样本全对或全错会导致什么?为什么梯度会为0?

考察对GRPO组内优势估计的理解:当组内奖励方差为0时,归一化优势为0,策略梯度消失,训练无有效信号。
07

你项目中的奖励函数是如何设计的?这样设计可能存在什么问题?

考察候选人对奖励函数的工程理解:奖励拆解、可验证性、奖励黑客、权重平衡与方差控制,以及自我批判能力。
08

训练时是否关注奖励方差?是否了解DVPO?

考察对奖励方差在RL训练中作用的认知,以及对DVPO这类方差相关方法的了解程度与迁移思考能力。
09

请沿着“业务目标→数据与任务定义→模型方案→训练/推理→评测→上线约束”的主线,完整介绍一个你真正负责过的多模态大模型项目,并说明你个人负责的模块。

考察候选人能否把项目讲成可验证的设计与工程归因链条,而不是罗列技术栈;同时验证其对数据、技术选型、上线约束和效果证据的真实掌握程度。
10

PPO 和 GRPO 的核心区别是什么?在实际训练中你会如何选择,并监控哪些指标?

考察候选人对策略优化方法中优势估计、Critic 依赖、Rollout 成本和奖励设计的理解,以及能否结合任务特性做工程选型。
11

为什么要做 DPO?它解决了 PPO 链路中的哪些问题,又存在哪些局限?

考察候选人对 DPO 动机、训练目标和适用边界的理解,以及能否根据任务选择 DPO、IPO、KTO、ORPO 或在线 RL。
12

持续学习方法可以如何分类?面对知识更新、行为变化和输入分布漂移,你会如何选型并做回归评估?

考察候选人对持续学习分类体系的掌握,以及能否根据变化类型选择回放、正则化、适配器、架构扩展、检索或重训,并设计遗忘评估。
返回面试题库