职位题库

AI Infra 算法工程师面试题库

面向AI Infra 算法工程师相关面试，围绕分布式计算、分布式训练、推理优化、KV Cache、DCP等主题展开练习，结合题目考察点、回答思路、参考答案和常见误区，梳理知识要点并练习清晰表达。

12 道题目建议用时 36 分钟专项面试练习

全部题目 12 道题

考察候选人的背景与实习经历，评估其与AI Infra算法岗位的匹配度，以及表达和总结能力。

考察候选人对Attention架构优化的理解深度和实际经验，包括对KV Cache、GQA、MLA等技术的掌握。

考察候选人对KV Cache管理机制的理解，包括显存分配、复用、以及适配新架构的能力。

考察候选人对流水线调度的优化经验，包括动机、具体做法、解决的问题以及未来优化方向。

考察候选人的CUDA编程能力，以及对常见算子的底层实现原理的理解。

考察候选人对长序列定义的理解，以及对 Attention 聚合阶段计算特性的掌握程度。

考察候选人对 DeepEP 两种模式在设计和适用场景上的理解，以及在不同负载下的优化取舍能力。

考察候选人对两种主流序列并行架构的理解，包括通信模式、计算特点和适用场景。

考察候选人对 Online Softmax 和 LSE 合并原理的掌握，以及在分布式注意力中的实现细节。

考察候选人对英伟达 GPU 架构演进的理解，特别是对 AI 计算关键特性的把握。

考察候选人对 Grouped GEMM 内存排布和调度优化的理解，以及如何利用 L2 缓存提升性能。

考察候选人对 DCP 分片注意力实现细节的掌握，包括分片策略、局部计算和结果合并，评估其分布式注意力算法的设计能力。