complex neural network

    技术2022-07-10  97

    complex neural network

    近年来,复数卷积神经网络在图像,语音等领域受到重视,在这里分享一些自己的理解,若有错误,请指出! 复数的各个模块,绝大多数还是在实数模块上进行改编,我们可以考虑复数z=a+bi这个值,单把实部和虚部拿出来看,就是两个实数,所以我们的复数模块也可以按照这个思路去做改编!

    复数卷积 复数激活

    复数激活函数目前主流是有三种,zrelu,crelu,modrelu 区别就是zrelu是激活第一象限的值,crelu是激活第一象限的值,并且激活第一象限的虚部和第四象限的实部,modrelu就是激活幅值大于某个值的所有,如下图所示: 其他的批标准化和池化等,下一篇分享

    Processed: 0.020, SQL: 9