ResNet的第二个版本,论文最终版发表于2016年7月。读完这篇论文,第一感觉就是ResNet V1版本仅仅是作者用来尝鲜,在体验到y=x的无穷魅力后,这个版本将恒等映射的作用发挥到了极致。
首先就是模型中的Block江山易主,V1版本时作者将恒等映射称为“铺路策略”,而在这个版本作者则认为恒等映射才是王道,并且通过不断的研究实验最终证明Block的最后激活使用恒等映射是最佳选择,使用这样的方式来改变ResNet模型,作者在Cifar10数据上建立了1001层深度的ResNet,并将成绩(错误率)降低到了4.92%
넶1512
19-01-15