在图像处理领域中，从质量较差的面部照片中恢复高清信息仍然是一项困难的任务。由于这些图像经历了许多降级，经常导致关键信息的丢失，这些活动本质上很困难。这个问题凸显了低质量和高质量照片之间的质量差异。接下来的问题是是否可以利用低质量领域的固有特性来更好地理解和改善面部修复的过程。
最近的方法已经融入了码本先验、自动编码器和高质量特征集来解决这个问题。然而，这些方法仍然有一个显著的弱点。它们通常依赖于一个仅在高质量数据上训练的单个编码器，忽略了低质量图像所具有的特殊复杂性。虽然创新，但这种方法可能无意中扩大了领域差距，错过了低质量数据的细微差别。
最近有一篇新的论文提出了一个新的解决方案来解决这些问题。这种方法使用额外的“低质量”分支从模糊或不清晰的图像中提取重要细节，将其与更清晰的图像细节结合起来，以改善面部图像恢复。
他们的工作有以下几个突出之处：
1. 他们添加了一个特殊的工具来捕捉低质量图像的独特特征，弥合了清晰和不清晰图像之间的差距。
2. 他们的方法混合了低质量和高质量图像的细节。这种混合有助于克服图像恢复中的常见问题，导致更清晰、更好的结果。
3. 他们引入了一种称为DAEFR的技术来处理模糊或不清晰的面部图像。
具体而言，他们的方法包括以下几个关键步骤：
- 离散码本学习阶段：他们为HQ和LQ图像建立码本。使用向量量化，他们训练一个自编码器进行自重构，以捕捉领域特定的信息。这个阶段产生了HQ和LQ领域的编码器和码本。
- 关联阶段：他们借鉴了CLIP模型的灵感，将HQ和LQ领域的特征进行关联。来自领域特定编码器的特征被展平成补丁，构建相似性矩阵。该矩阵以空间位置和特征级别的接近度来衡量这些补丁之间的接近程度。目标是最小化领域差距，产生两个整合了来自两个领域信息的关联编码器。
- 特征融合和编码预测阶段：在获得关联编码器后，使用这两个编码器对LQ图像进行编码。一个多头交叉注意力模块将这些编码器的特征进行融合，生成一个融合特征，包含来自HQ和LQ领域的信息。随后，一个Transformer预测HQ码本的相关编码元素，这些元素由解码器用于生成恢复的HQ图像。
作者通过一系列实验评估了他们的方法。他们使用PyTorch框架在70,000张高质量人脸图像的FFHQ数据集上训练了他们的模型。这些图像经过调整大小和合成降级以供训练。对于测试，他们选择了四个数据集：CelebA-Test和三个真实世界的数据集。他们的评估指标包括具有真实值的数据集的PSNR和SSIM，以及没有真实值的真实世界数据集的FID和NIQE。与最先进的方法相比，他们的DAEFR模型在真实世界数据集上展现出了更好的感知质量，并在合成数据集上展现出了竞争性的性能。此外，消融研究表明使用两个编码器是最优的，他们提出的多头交叉注意力模块改善了特征融合，突显了该方法在恢复退化图像方面的有效性。
总而言之，本文介绍了一篇新的论文，旨在解决图像恢复的挑战，特别是针对低质量的面部照片。研究人员引入了一种新颖的方法DAEFR，利用高质量和低质量图像特征来产生更清晰、更精细的恢复结果。这种方法独特地使用了一个双编码器系统，一个用于高质量图像，一个用于低质量图像，弥合了两个领域之间的差距。该解决方案经过了严格的评估，显示出比以前的方法有显著的改进。该论文的研究结果强调了DAEFR在提高图像处理领域的潜力，为更准确的面部图像恢复铺平了道路。