职位题库

AI基础设施工程师面试题库

面向AI基础设施工程师相关面试,围绕张量并行、模型并行、MoE、性能分析、算法等主题展开练习,结合题目考察点、回答思路、参考答案和常见误区,梳理知识要点并练习清晰表达。

34 道题目建议用时 102 分钟专项面试练习

全部题目 34 道题

25

流水线并行如何切分模型 Stage?流水线 Bubble 气泡如何产生、怎么优化降低损耗?

考察候选人对流水线并行的理解,包括模型切分、气泡产生原因及优化策略。
26

上下文并行为什么适配超长序列场景?序列切块后,跨卡如何完成完整的 Attention 计算?

考察候选人对上下文并行的理解,特别是在超长序列下如何切分序列并完成跨卡 Attention 计算。
27

大模型 QKV 矩阵与多头注意力头,具体如何做张量并行切分?

考察候选人对多头注意力机制中张量并行切分细节的掌握程度。
28

FFN 两层网络为什么通常采用「列并行+行并行」的组合方式?

考察候选人对 FFN 中张量并行组合策略的理解,特别是通信与计算效率的权衡。
29

张量并行中 All-Gather、Reduce-Scatter、All-Reduce 分别解决什么问题?如何根据 Tensor Shape 计算实际通信量?

考察候选人对集合通信操作的理解及其在张量并行中的应用和通信量计算。
30

请讲一讲你之前的工作,以及你对模型训练有哪些认知。

考察候选人对过往工作的真实参与深度,以及对模型训练流程、资源瓶颈和工程权衡的理解,而不是只背概念。
31

蚂蚁从0出发需要走到x,每次可以向右走a或向左走b,不能走到负数,也不能走到被ban的位置,求最小步数。

考察候选人将实际问题抽象为图搜索最短路径的能力,以及边界条件、状态空间和复杂度分析。
32

请介绍一下你自己,并说明你的经历与AI基础设施岗位的匹配点。

考察候选人的自我认知、表达结构和岗位匹配度,尤其是能否把过往经历与AI基础设施需求建立联系。
33

请谈谈你对不同算力硬件的了解,以及它们对训练和推理 workload 的影响。

考察候选人对GPU、CPU、NPU等算力硬件的理解,以及能否从显存、带宽、互联和生态角度分析实际影响。
34

如果你对AI基础设施并不完全熟悉,你会如何快速补齐并参与实际工作?

考察候选人在方向不完全匹配时的学习路径、诚实态度和落地能力,避免空谈热情。
返回面试题库