职位题库

大模型算法岗面试题库

面向大模型算法岗相关面试,围绕LoRA、参数高效微调、DeepSpeed、ZeRO、分布式训练等主题展开练习,结合题目考察点、回答思路、参考答案和常见误区,梳理知识要点并练习清晰表达。

5 道题目建议用时 15 分钟专项面试练习

全部题目 5 道题

01

介绍一下你做过的一个项目

考察候选人对自身项目的理解深度、技术选型逻辑、个人贡献与结果量化能力,同时评估表达是否清晰、有结构。
02

LoRA 的原理以及初始化方法是什么

考察对 LoRA 低秩适配原理的理解,包括低秩分解、冻结原参数、初始化策略及其对训练稳定性的影响。
03

LoRA 里的几个关键参数分别是什么意思

考察对 LoRA 超参数(如 r、α、dropout、target_modules)的含义、作用及调参经验的理解。
04

QLoRA 和 LoRA 的区别是什么

考察对 QLoRA 量化增强的理解,包括 4-bit 量化、双重量化、分页优化器等,以及与 LoRA 的显存和精度差异。
05

DeepSpeed 的 ZeRO 三个阶段分别做了什么

考察对 ZeRO 显存优化原理的理解,包括优化器状态、梯度、参数的分片策略及通信开销。
返回面试题库