关于一个block中BN-ReLU-Conv的顺序问题

nn.BatchNorm2d nn.ReLU nn.Conv2d

or

nn.Conv2d nn.BatchNorm2d nn.ReLU

这两种方式都是可用的，但是第一种排列方式可以加快网络训练速度，效率会高一些。 此外，Denseblock 中所用的排列顺序也是BN-ReLU-Conv。 此前纠结过很久，问题不大。