职位题库

大模型算法岗面试题库

面向大模型算法岗相关面试,围绕LoRA、强化学习、GRPO、RAG、PPO等主题展开练习,结合题目考察点、回答思路、参考答案和常见误区,梳理知识要点并练习清晰表达。

40 道题目建议用时 120 分钟专项面试练习

全部题目 40 道题

01

介绍一下你做过的一个项目

考察候选人对自身项目的理解深度、技术选型逻辑、个人贡献与结果量化能力,同时评估表达是否清晰、有结构。
02

LoRA 的原理以及初始化方法是什么

考察对 LoRA 低秩适配原理的理解,包括低秩分解、冻结原参数、初始化策略及其对训练稳定性的影响。
03

LoRA 里的几个关键参数分别是什么意思

考察对 LoRA 超参数(如 r、α、dropout、target_modules)的含义、作用及调参经验的理解。
04

QLoRA 和 LoRA 的区别是什么

考察对 QLoRA 量化增强的理解,包括 4-bit 量化、双重量化、分页优化器等,以及与 LoRA 的显存和精度差异。
05

DeepSpeed 的 ZeRO 三个阶段分别做了什么

考察对 ZeRO 显存优化原理的理解,包括优化器状态、梯度、参数的分片策略及通信开销。
06

请做一下自我介绍

考察候选人的背景、项目经验与岗位匹配度,以及表达和总结能力。
07

介绍项目中算子优化工作的整体方案和实现原理

考察候选人对算子优化技术的掌握程度,包括方案设计、实现细节和底层原理。
08

如何验证算子优化效果?

考察候选人对算子优化效果评估方法的掌握,包括性能指标、测试方法和工具。
09

GEMM 的矩阵尺寸是多少?

考察候选人对GEMM(通用矩阵乘法)在具体项目中的参数了解程度,以及是否关注计算细节。
10

介绍一种熟悉的 GPU 或 DCU 架构

考察候选人对GPU或DCU硬件架构的理解,包括计算单元、内存层次、并行机制等。
11

大模型数据如何清洗,数据集如何构建?

考察候选人对大模型训练数据预处理流程的理解,包括数据清洗方法、去重、过滤、格式统一以及数据集构建策略。
12

LoRA 微调的原理是什么?

考察候选人对LoRA(Low-Rank Adaptation)微调技术的理解,包括其动机、数学原理、实现方式以及优缺点。
返回面试题库