职位题库

大模型算法工程师面试题库

面向大模型算法工程师相关面试,围绕强化学习、GRPO、Transformer、PPO、SFT等主题展开练习,结合题目考察点、回答思路、参考答案和常见误区,梳理知识要点并练习清晰表达。

157 道题目建议用时 471 分钟专项面试练习

全部题目 157 道题

133

Transformer 中为什么要用多头注意力?单头注意力有什么局限性?

考察对多头注意力设计动机的理解,以及能否从表达能力、子空间、梯度等角度分析单头注意力的局限。
134

GRPO 和 PPO 在 RLHF 中的核心区别是什么?

考察对 RLHF 中 PPO 与 GRPO 算法差异的理解,重点在优势估计、价值网络和采样方式。
135

vLLM 的核心优势是什么?

考察对 vLLM 推理引擎关键机制的理解,尤其是 PagedAttention 与 KV Cache 管理。
136

为什么在推荐系统中引入 RAG?知识库的数据来源和构建流程是怎样的?

考察将 RAG 用于推荐系统的动机,以及知识库从数据源到可检索索引的完整构建流程。
137

嵌入模型为什么选 BGE?FAISS 索引是如何构建的?

考察嵌入模型选型依据与 FAISS 索引构建、参数选择的实践理解。
138

Agentic RL 和传统大模型 RL 的核心差异在哪?长时序任务下 Agent RL 训练为什么容易崩?

考察候选人对 Agent 场景 RL 与单轮 RL 本质差异的理解,以及能否从 horizon、状态表示、off-policy 程度等底层机制解释训练崩溃,而非停留在 reward 稀疏等表层原因。
139

PPO 和 GRPO 在信用分配上的核心区别是什么?没有 critic,GRPO 怎么估优势,组内归一化的前提又是什么?

考察对 PPO 与 GRPO 机制差异的精确理解,尤其是 critic 在信用分配中的作用、GRPO 用组内相对奖励替代 value baseline 的假设与偏差来源。
140

PPO 的 clip 和 KL 约束等价吗?各自什么时候用?clip 系数调大调小分别会发生什么?

考察对 PPO 中两种策略约束机制的理解:clip 是比率截断,KL 是分布惩罚,二者作用对象和失效模式不同,并考察对超参敏感性的直觉。
141

Reward Hacking 在 Agent 场景为什么比单轮更严重?你会用哪些具体信号检测它?

考察对 Agent 场景奖励漏洞的理解,以及能否给出可观测的检测信号而非泛泛而谈,同时考察工程经验中的真实案例意识。
142

如果只有 8 张卡,这套 Agent RL 训练流程你会怎么砍?

考察在算力受限下的工程取舍能力,能否区分训练流程中的必要环节与可裁剪环节,并给出有优先级的方案。
143

请用一句话说清你核心优化方案具体改了什么,并说明它对应哪个指标、涨了多少,以及你如何把增长归因到自己的改动、排除了同期其他上线的干扰。

考察候选人能否把项目讲成可验证的因果链,而不是罗列工作内容;重点看指标定义、归因方法和排除混杂因素的能力。
144

给定头数 H、序列长度 N、嵌入维度 D、层数 L,推导 Transformer 的整体计算复杂度,并说明在长序列下哪一项先成为瓶颈、你会怎么改。

考察能否从模块级推导出整体成本结构,并据此判断架构瓶颈,而不是背结论。
返回面试题库