Efficient super-resolution with knowledge distillation of GANs

Abstract

Нейросети, основанные на GAN фреймворке, в последнее время демонстрируют высокое качество в решении задачи Super Resolution. Однако данный класс алгоритмов страдает от ряда недостатков, таких как: большой размер, как следствие медленная скорость, нестабильный и долгий тренировочный процесс. Данная работа предлагает использовать метод дистилляции знаний для решения вышеописанных проблем. В результате был реализован фреймворк, который позволяет производить данный процесс для модели ESRGAN и получены несколько конкурентоспособных моделей с точки зрения соотношения качества и скорости.

Neural networks based on the GAN framework have recently demonstrated high-quality results in Super Resolution task. However, this class of algorithms suffer from a variety of limitations such as their size leading to slow inference speed, unstable and slow training process. This work suggests using knowledge distillation method to deal with aforementioned problems. As a result, a framework for knowledge distillation based on ESRGAN model was implemented, as well as a couple of models trained by it competitive in terms of accuracy and speed trade off.