02 如果一个 SIMD 寄存器一次能算 32 个数,而这一批只需要计算 100 个数——占不满这个寄存器,你对尾部会怎么处理?考察候选人对 SIMD 向量化中尾部数据处理的工程实践能力。 查看学习思路
06 请选择一个最能代表你能力的项目,说明问题定位、稳定复现和修复验证的完整过程。考察候选人能否把项目讲成可验证的排查闭环:问题定义、模型级到算子级定位、复现条件、关键证据与修复验证,而非只讲结论。 查看学习思路
07 你平时怎样与 AI 协作完成开发任务?讨论、实施、审核如何分配,如何避免方案只记住几个输入?考察候选人使用 AI 辅助开发时的流程设计、审核意识与边界覆盖能力,重点看能否识别“特判式修复”并建立验证闭环。 查看学习思路
08 FlashInfer 相关通信卡死问题:请完整说明状态初始化、更新、读取与比较的流程,以及修复前后差异。考察候选人能否把并发通信问题讲成完整的状态机流程,解释短跑偶现、长跑更易出现的原因,以及位宽与比较方式各自解决什么问题。 查看学习思路
09 国产 GPU 算子适配中,你如何区分库调用适配、融合算子实现和底层 kernel 开发?长跑崩溃如何定位?考察候选人对适配工作边界的准确认知,以及在崩溃位置不固定时,通过日志、注册信息与调用路径定位根因的能力。 查看学习思路
10 请说明标准 Attention 的计算过程,以及 FlashAttention 如何通过 Tiling 和 Online Softmax 减少访存并完成全局 softmax。考察候选人对 Attention 公式、内存层次、分块数据流和 Online Softmax 更新过程的理解,能否解释输入总量不变时减少的访存是什么。 查看学习思路
11 矩阵乘规模多大?性能提升主要来自哪些优化点?用什么写的?用什么卡跑的?考察候选人对矩阵乘优化项目的熟悉程度,包括问题规模、优化手段、实现工具和硬件平台,评估其实际动手能力和性能优化思维。 查看学习思路
12 懂 OpenMP 和 MPI 吗?CUDA 呢?考察候选人对常用并行编程模型的掌握程度,包括共享内存并行(OpenMP)、分布式内存并行(MPI)和GPU加速(CUDA),评估其技术广度。 查看学习思路