新论文：使用深度学习超分辨率技术提升基于计算机视觉的位移测量精度

原创孙楚津等陆新征课题组

2022年07月18日 12:01

DOI：http://doi.org/10.1002/stc.3048

【3分钟视频介绍本文工作】

太长不看版

随着计算机视觉技术的发展，越来越多的研究尝试使用基于视觉的方法测量建筑与基础设施的位移响应，但是往往需要采用成像质量良好的专用设备，限制了视觉方法的应用。与此同时，城市中分布着大量的监控摄像头，在识别人员、车牌以及高空坠物等任务中大展身手，于是一个很自然的联想是如此众多的监控摄像头是否可以胜任结构位移测量这一更加精细的任务。然而事与愿违的是，监控摄像头并非为这一任务而生，存在距离目标远、成像质量差等问题。因此，本文尝试使用超分辨率技术解决这一问题，通过补充拍摄高清照片实现低清监控图像与视频的细节提升，进而提高位移测量的精度。试验验证了方法的有效性和稳定性。可为基于城市监控摄像头开展建筑与基础设施位移响应监测提供参考。

研究背景

我们课题组此前介绍过很多利用生成对抗深度学习方法（即GAN方法）来做结构设计的例子(参见：报告视频：《结构生成式智能设计》)，其实GAN除了做结构设计，还可以做很多其他的事情。

对于我们这些生于上世纪的人，经常感慨由于当时技术的限制，小时候的照片分辨率太差，人都模糊不清。针对这一问题，超分辨率技术应运而生。它可以通过多种算法，提升照片的清晰度。比如SRGAN算法就利用生成对抗深度学习方法，可以有效提升照片的清晰度。下图就是用超分辨率修复的老照片，大家可以猜猜照片里面的小男孩是谁？

猜猜我是谁？

既然超分辨率技术有如此神奇的能力，那我们能不能在土木领域找到它的应用场景呢？

建筑或基础设施的位移监控是保障建筑安全的重要途径，现在城市里面为了安保、交通等需求，设置了大量的监控摄像头。这些监控摄像头获取了很多结构事故的重要信息。但是，由于这些监控摄像头并非是结构位移监测的专用设备，因此往往苦于分辨率不足而不能满足建筑位移监测的需要。

监控摄像头记录的工程事故

那有没有可能通过深度学习超分辨率技术提升监控摄像头的分辨率进而提升位移测量精度呢？为此，本文提出了一种利用基于GAN的深度学习超分辨率模型提升静态动态位移测量精度的方法。该方法通过补充拍摄目标对象的高清照片，实现了低清图像与视频的细节提升，进而提高了位移测量的精度。

方法

本文所提方法的技术路线主要包括5个步骤：低清图像获取、高清图像拍摄、图像对齐构造数据集、超分辨率、位移测量，如图1所示。

图1. 本文所提方法的技术路线

首先，本文的应用场景主要针对城市中固定式视频监控设备拍摄的影像，由于拍摄设备自身硬件分辨率不足或待位移测量物体距离较远等原因，导致目标清晰度不足，从而影响位移测量的精度。

理想的超分辨率图像难以由单张低分辨率图像凭空生成，因此需要拍摄目标物体的高清图像，从而利用其丰富的纹理特征，实现低清图像的解析度提升。对于建筑、桥梁等城市基础设施，在利用监控图像或视频开展工程调查时拍摄其高清图像具有可行性。

接下来，利用低清图像和高清图像构造深度学习数据集。这里需要采用人工选择参考点进行图像变换的方法将二者进行配准。因为深度学习超分辨率模型旨在表征低清图片到高清图片的映射关系，且位移测量方法求解的是相对变化，故这种配准偏差对于位移测量的结果影响有限。对于配准后的数据，确定兴趣区域ROI，经过随机平移、旋转增强，即可得到成对的低清-高清数据集。

本文采用SRGAN作为超分辨率的网络。经过训练的SRGAN即可应用于目标对象低清图像的ROI得到超分辨率图像。

最后是位移测量，本文在试验中测试了多个经典的基于视觉的位移测量方法在超分辨率图像上的有效性，包括Shi-Tomasi角点检测、SIFT特征点检测与匹配、KLT光流追踪等。

试验验证

本文首先开展了静态试验验证方法的有效性。将窗户图案以预设间距打印张贴，利用相机拍摄其低清和高清照片，采用上述方法测量彼此的间距并与实际值相比较。试验对比了三组不同的影响因素：分辨率(D)、光照(L)与模糊(B)。静态试验设置如图2所示。

图2. 静态试验设置

各工况的超分辨率结果如图3所示，可见拍摄的低清照片的纹理细节得到了极大丰富。需要注意的是，与传统超分辨率任务关注低清图片的原样细节提升不同，本文超分辨率任务重点关注纹理细节的位置信息。因此，尽管超分辨率后的图片与原低清图片存在明度、色调等差异，但实现纹理细节的原位替换即可服务于测量任务。

图3. 静态试验超分辨率结果

试验分别对比了位移测量方法在低清原图(ORI)、8倍双立方插值超分辨率图像(BIC)和8倍深度学习超分辨率图像(GAN)上的效果。Shi-Tomasi角点检测的结果如图4所示，SIFT特征点检测与匹配的结果如图5所示。

图4. Shi-Tomasi角点检测的结果

图5. SIFT特征点检测与匹配的结果

最终，定量误差分析表明，在超分辨率图像上应用位移测量方法，可以一定程度提高精度并且对于暗光和模糊具有一定的稳定性，如图6和图7所示。

图6. 边缘角点检测与内部角点检测的测量结果

图7. SIFT特征点检测与匹配的位移测量结果

接下来，本文在动态试验上验证方法的有效性。动态试验使用2018年UCSD开展的振动台试验。试验过程中，试件南侧一架固定的DVR相机记录了动态测试过程。此外，在试件安装完成后振动台测试开始前，试验人员在多个位置拍摄了多张试件的高清照片。本文选择了其中一张视角与DVR相近的照片作为超分辨率的高清信息提供者。动态试验设置如图8所示。