pytorch掉坑记录:model.eval的作用说明
训练完train_datasets之后,model要来测试样本了。在model(test_datasets)之前,需要加上model.eval().否则的话,有输入数据,即使不训练,它也会改变权值。
这是model中含有batchnormalization层所带来的的性质。
在做oneclassification的时候,训练集和测试集的样本分布是不一样的,尤其需要注意这一点。
补充知识:pytorch测试的时候为何要加上model.eval()
Doneedtousemodel.eval()whenItest?
Sure,Dropoutworksasaregularizationforpreventingoverfittingduringtraining.
ItrandomlyzerostheelementsofinputsinDropoutlayeronforwardcall.
Itshouldbedisabledduringtestingsinceyoumaywanttousefullmodel(noelementismasked)
使用PyTorch进行训练和测试时一定注意要把实例化的model指定train/eval,eval()时,框架会自动把BN和DropOut固定住,不会取平均,而是用训练好的值,不然的话,一旦test的batch_size过小,很容易就会被BN层导致生成图片颜色失真极大!!!!!!
以上这篇pytorch掉坑记录:model.eval的作用说明就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持毛票票。
热门推荐
10 儿子立冬祝福语简短独特
11 对当兵的祝福语简短
12 侄儿高考试祝福语简短
13 伴郎红包祝福语朋友简短
14 媳妇生日简短祝福语朋友
15 公司年会祝福语简短最好
16 元旦感恩祝福语简短大全
17 红包祝福语简短10字
18 周六早晨祝福语简短