吴恩达在10.4讨论到泛化能力和拟合之间的关系,其中提到了方差和偏差的概念

  • 方差 Variance
  • 偏差 Bias

与之对应的是高偏差时结果是欠拟合,高方差结果是过拟合,但是课中并没有讲清楚方差和偏差的严格数学定义,也没有定性分析,于是参阅了周志华老师的《机器学习》,书中给出了准确的数学定义,整理如下:

fig1 fig2