group normalization

    技术2023-04-08  101

    在BN中训练的效果会受到batch影响,大的batch效果自然好,但是小的batch求出来的均值,方差不足以表达整体样本的分布特性,所以在测试阶段误差就会很大 GN的做法则是在通道上进行划分,在划分后的通道上进行normalization https://blog.csdn.net/u013289254/article/details/99690730

    Processed: 0.020, SQL: 9