职位题库

AI基础设施工程师面试题库

面向AI基础设施工程师相关面试,围绕MoE、数据分发、通信优化、推理优化、Prefill等主题展开练习,结合题目考察点、回答思路、参考答案和常见误区,梳理知识要点并练习清晰表达。

6 道题目建议用时 18 分钟专项面试练习

全部题目 6 道题

01

Rollout阶段的Top-K路由信息如何记录,训练侧如何使用该信息?

考察候选人对MoE推理与训练之间路由信息传递机制的理解,包括记录方式、数据格式以及训练侧消费方式。
02

扩展至多节点环境,额外路由数据会放大通信开销的原因是什么?

考察候选人对多节点MoE训练中路由数据通信开销来源的分析能力。
03

训练节点只需要部分数据,如何规避rollout数据全量搬运?

考察候选人设计数据分发策略、减少不必要数据传输的能力。
04

NCCL、NVLink、PCIe、RDMA相互之间的关系是什么?

考察候选人对GPU通信栈中软件库与硬件互联层次关系的理解。
05

Prefill和Decode阶段做分离设计的原因是什么?

考察候选人对LLM推理两阶段特性差异及分离设计动机的理解。
06

训练节点只需要部分数据时,如何规避rollout数据全量搬运?

考察候选人对按需分发、路由过滤和通信调度的设计能力,能否在训练侧只获取所需数据。
返回面试题库