职位题库

AI Infra工程师面试题库

面向AI Infra工程师相关面试，围绕强化学习、多轮对话、Triton、算子开发、低延迟等主题展开练习，结合题目考察点、回答思路、参考答案和常见误区，梳理知识要点并练习清晰表达。

13 道题目建议用时 39 分钟专项面试练习

全部题目 13 道题

考察候选人对TP并行与CUDA Graph结合时可能出现的稳定性、超时问题的排查思路，包括问题定位、最小复现、根因分析等。

考察候选人对GEMM计算确定性问题的理解，特别是Split-K策略对确定性的影响及解决方案。

考察候选人对Persistent Kernel在动态shape下性能问题的理解，以及自适应计算路径和降级策略的设计能力。

考察候选人对Decode阶段性能瓶颈的分析和优化能力，特别是CPU/GPU同步阻塞的解决和计算托管策略。

考察候选人对NCCL通信拓扑的理解，包括Ring和Tree AllReduce的原理及在高吞吐、低延迟场景下的选择。

考察候选人对多轮对话RL中奖励分层设计、用户模拟器构建及过拟合防控的系统性理解，评估其能否将训练目标与真实业务分布对齐。

考察候选人能否以完整会话为单位设计多轮评测体系，正确区分必要与可避免转人工，并规范开展A/B测试。

考察候选人对多轮对话系统冷启动训练与上线策略、以及软硬业务约束分层治理的理解。

考察候选人对Verl框架中AgentLoop抽象的理解，包括其定位、核心接口、工程特点与局限。

考察候选人对On-Policy Distillation动机、数据筛选策略以及错误轨迹处理的理解，评估其能否平衡纠错能力与训练噪声。

考察候选人对Attention模块重构的实际经验与优化手段，评估其技术深度。

考察候选人对小模型低延迟部署的理解，特别是prefill阶段的优化策略。