26 请说明自注意力层在输入序列长度为 n、每个 token 为 d 维时,注意力得分矩阵的计算复杂度,并解释复杂度来源。考察对自注意力计算过程与复杂度推导的掌握,能否从矩阵形状和点积次数解释复杂度。 查看学习思路
28 关于主成分分析(PCA)降维,哪些说法正确?请说明 PCA 的监督性质、优化目标以及对量纲的敏感性。考察对 PCA 基本性质的理解,包括无监督属性、方差最大化目标、主成分线性组合以及标准化必要性。 查看学习思路
29 评测大模型数学解题能力时,面对约 5200 道带唯一标准答案的中学数学题,最常用的评测指标是什么?为什么不是困惑度?考察能否根据任务特点选择合适的评测指标,并理解准确率与困惑度衡量对象的差异。 查看学习思路
30 Transformer 解码器自注意力中的因果掩码主要解决什么问题?它与 padding mask 有什么区别?考察对解码器自注意力中掩码机制的理解,能否区分因果掩码与 padding mask 的不同用途。 查看学习思路