职位题库

AI基础设施工程师面试题库

面向AI基础设施工程师相关面试，围绕张量并行、模型并行、MoE、性能分析、算法等主题展开练习，结合题目考察点、回答思路、参考答案和常见误区，梳理知识要点并练习清晰表达。

34 道题目建议用时 102 分钟专项面试练习

全部题目 34 道题

考察候选人对MoE推理与训练之间路由信息传递机制的理解，包括记录方式、数据格式以及训练侧消费方式。

考察候选人对多节点MoE训练中路由数据通信开销来源的分析能力。

考察候选人设计数据分发策略、减少不必要数据传输的能力。

考察候选人对GPU通信栈中软件库与硬件互联层次关系的理解。

考察候选人对LLM推理两阶段特性差异及分离设计动机的理解。

考察候选人对按需分发、路由过滤和通信调度的设计能力，能否在训练侧只获取所需数据。

考察候选人对TP并行与CUDA Graph结合时可能出现的稳定性问题的排查思路，包括最小复现、对比实验、根因分析等。

考察候选人对GEMM计算确定性问题的理解，特别是Split-K策略对确定性的影响及解决方案。

考察候选人对Persistent Kernel在小M维度下性能问题的理解，以及自适应计算路径和降级策略的设计能力。

考察候选人对Decode阶段性能瓶颈的识别和优化能力，特别是减少CPU/GPU同步和托管计算到GPU的策略。

考察候选人对NCCL通信算法的理解，以及不同拓扑在高低延迟场景下的适用性。

考察候选人对实习项目的总结能力、效果量化意识以及测试验证方法的掌握程度。