和慧政大佬交流当面交流过后很受启发，今天拜读两篇他做快速SR的两篇论文。

Fast and Accurate Single Image Super-Resolution via Information Distillation Network

CVPR2018论文。
网络整体的pipeline不是很难。如图

网络的重点在于IDN模块，

IDN模块的核心操作是，其在上面部分和下面部分之间引入一个slice操作，这个操作将特征给分成了原来部分的1-1/s送入下面的模块，以及1/s和上一个Block的信息concat在一起，然后再加到增强模块的最后。论文说这样做的目的是为了保留部分上面的模块的信息，并且重利用前面Block的信息。

然后就是压缩模块，就是1x1的卷积进行通道压缩，论文说这里是去除对于后面网络来说多余的信息。在具体训练时，这里D3,d和s分别设成64,16和4，而且对增强模块的第四层和第二层使用分组为4的分组卷积用于减少参数量。最后是实验结论，简要来说就是增强模块学习图像的轮廓信息，压缩模块继续减小像素值。

使用IDN的网络确实很快，测试时间如下：

Lightweight Image Super-Resolution with Information Multi-distillation Network

这篇是上一篇的加强版，最大的亮点在于使用了multi-distillation模块和CCALayer。在我们的4K AI HDR的比赛中，均使用到了CCALayer，可以证明这个模块的设计非常成功。

这里使用了更多的distillation进行concat。

CCALayer使用均值方差的计算达到更好的PSNR和SSIM值。

网络整体的pipieline如下：

两篇论文是很早的从轻量级网络设计角度切入SR的，占坑比较早。