01 详细解释困惑度PPL的物理意义;拓展说明模型预训练阶段常见的概率类评估指标与计算公式。考察对语言模型评估指标的理解深度,包括困惑度的定义、物理意义以及预训练中其他概率类指标的计算方式。 查看学习思路
02 阐述 Mid-Train 中间训练阶段的核心作用,对比该阶段与预训练、微调阶段在参数配置、训练策略上的差异。考察对大模型训练全流程中中间训练阶段的理解,包括其定位、目标以及与前后阶段的区别。 查看学习思路