ACCV_TinyGAN:BigGAN; 知识提炼； 黑盒子; 快速培训； 16倍压缩

TinyGAN BigGAN; 知识提炼； 黑盒子; 快速培训； 16倍压缩 该存储库包含以下论文的官方PyTorch实现： TinyGAN：提取BigGAN进行条件图像生成（ACCV 2020） 张婷云和陆志仁 摘要：生成对抗网络（GAN）已成为生成图像建模的强大方法。 但是，GAN的训练不稳定（尤其是在大规模，复杂的数据集上）是众所周知的。 尽管BigGAN的最新工作显着提高了ImageNet上图像生成的质量，但它需要一个庞大的模型，这使其很难在资源受限的设备上进行部署。 为了减小模型的大小，我们提出了一种用于压缩GAN的黑匣子知识蒸馏框架，该框架强调了稳定而有效的训练过程。 以BigGAN作为教师网络，我们设法训练一个更小的学生网络来模仿其功能，从而在Inception和FID分数上实现有竞争力的表现，但生成器的参数减少了16倍。 训练后的模型位于gan / models（