• Model.eval 的作用是禁止批正则化层更新均值和方差。
  • 当数据以个为单位进入，不存在均值，为避免均值和方差更新，因此需要开启。
  • 实际中发现:
    • 测试模型的时候是以Batch为单位测试，因此理论上可以不开启。
    • 在训练的前期不开启有助于实现更高的指标。
    • 准确率到达92以后，如果不关闭，准确率将不会再提升。

结论，请默认开启！