颜色分类leetcode-Group-Normalization-Tensorflow:图像分类任务中组归一化的TensorFl...

颜色分类leetcode 组归一化 作为 实施系列的一部分，我们的动机是通过推广开源项目来加速（或有时延迟）人工智能社区的研究。 为此，我们实施了最先进的研究论文，并以简明的报告公开分享。 请访问我们的其他项目。 该项目由 实施，代码在发布前已经过审核。 说明 该项目包括 Wu 等人在论文中提出的 Group Normalizations 的 Tensorflow 实现。 (BN) 已广泛用于深度神经网络的训练以减轻内部协变量偏移 [1]。 具体而言，BN 旨在以这样的方式转换每一层的输入，使它们的平均输出激活为零和标准偏差一。 虽然 BN 在包括计算机视觉、自然语言处理、语音处理、机器人等在内的多个领域都证明了它的有效性，但当训练批量变小时，BN 的性能会大幅下降，这限制了将 BN 用于需要很小的任务的收益。受内存消耗限制的批次。 受这种现象的启发，提出了组归一化 (GN) 技术。 GN 不是沿着批次维度进行归一化，而是将通道分成组并在每组内计算均值和方差。 因此，GN 的计算与批量大小无关，其准确性也是如此。 论文的实验部分展示了 GN 在广泛的视觉任务中的有效性，包括图像分类 (