基于UCD-PatchmatchNet模型的航空发动机损伤叶片重建方法

蔡舒妤 ,  田壮 ,  何冲 ,  范杰

科学技术与工程 ›› 2026, Vol. 26 ›› Issue (27) :11938-11952

PDF (38069KB)
科学技术与工程 ›› 2026, Vol. 26 ›› Issue (27) :11938-11952 DOI: 10.12404/j.issn.1671-1815.2507497
航空、航天

基于UCD-PatchmatchNet模型的航空发动机损伤叶片重建方法

作者信息 +

Reconstruction Method for Damaged Blades of Aircraft Engines Based on UCD-PatchmatchNet Model

Author information +
文章历史 +

摘要

针对航空发动机损伤叶片三维点云重建完整性差、准确性低的问题,提出一种基于UCD-PatchmatchNet模型的航空发动机损伤叶片三维重建方法。首先,引入U-Net网络重构PatchmatchNet模型的多尺度特征提取结构,提升模型的特征提取能力。其次,采用卷积块注意力模块(convolutional block attention module,CBAM)对特征提取模块进行优化,使模型聚焦于关键区域,强化模型特征提取能力。同时,将随机初始化深度图模块替换为基于深度梯度采样的Delaunay三角剖分方法生成初始深度图,提高模型预测深度图的精度。最后,在公开数据集和建立的航空发动机损伤叶片数据集上进行验证。结果表明,与PatchmatchNet模型相比,UCD-PatchmatchNet模型重建准确性误差降低了12.9%,完整性误差降低了4.0%,整体性误差降低了9.4%,重构的损伤叶片点云具有良好的完整性和准确性,能更好地满足航空发动机叶片损伤分析的需求。

Abstract

To address the issues of poor completeness and low accuracy in 3D point cloud reconstruction of damaged aero-engine blades, a 3D reconstruction method based on the UCD-PatchmatchNet model was proposed. First, the U-Net network was introduced to reconstruct the multi-scale feature extraction structure of the PatchmatchNet model, thereby enhancing its feature extraction capability. Second, the convolutional block attention module (CBAM) was employed to optimize the feature extraction module, enabling the model to focus on key regions and strengthening its feature extraction ability. Meanwhile, the randomly initialized depth map module was replaced with a Delaunay triangulation method based on depth gradient sampling to generate the initial depth map, improving the accuracy of the predicted depth map. Finally, validation was conducted on both public datasets and a self-established dataset of damaged aero-engine blades. The results show that, compared to the PatchmatchNet model, the proposed UCD-PatchmatchNet model reduces the accuracy error by 12.9%, the completeness error by 4.0%, and the overall error by 9.4%. The reconstructed point clouds of damaged blades exhibit good completeness and accuracy, better meeting the requirements for damage analysis of aero-engine blades.

Graphical abstract

关键词

航空发动机叶片 / 损伤分析 / 三维点云重建 / CBAM注意力 / Delaunay三角剖分

Key words

aero engine blades / damage analysis / 3D point cloud reconstruction / CBAM attention / delaunay triangulation

引用本文

引用格式 ▾
蔡舒妤, 田壮, 何冲, 范杰. 基于UCD-PatchmatchNet模型的航空发动机损伤叶片重建方法[J]. 科学技术与工程, 2026, 26(27): 11938-11952 DOI:10.12404/j.issn.1671-1815.2507497
CAI Shu-yu, TIAN Zhuang, HE Chong, FAN Jie. Reconstruction Method for Damaged Blades of Aircraft Engines Based on UCD-PatchmatchNet Model[J]. Science Technology and Engineering, 2026, 26(27): 11938-11952 DOI:10.12404/j.issn.1671-1815.2507497

登录浏览全文

4963

注册一个新账户 忘记密码

随着中国民航业的快速发展,民航企业运营的飞机数量与航班起降频次都呈现出大幅增长的态势。航空发动机作为飞机的核心部件,长期在高温、高压、高转速的恶劣工况下持续运转,它的关键零部件极易产生裂纹、烧蚀等各类损伤[1]。这些损伤不仅会直接影响发动机的工作性能,情况严重时甚至会引发重大安全事故。因此,对航空发动机零部件开展精准损伤检测与分析,并制定对应的维护方案,是保障民航飞机安全运行的关键环节。
高精度损伤模型是开展航空发动机零部件损伤分析的基础。当前,航空发动机零部件的损伤分析主要依托部件图像、视频等数据开展,这类数据仅能提供缺陷的表面形貌特征,无法反映损伤的深度与空间分布信息。而完整精确的航空发动机损伤结构三维数据,既可以表征更丰富全面的损伤特征,又能为先进损伤分析算法提供高信息量的三维损伤结构输入,为损伤维修决策提供重要的数据支撑。
航空发动机零部件的三维重建方法可以分为传统重建方法与基于深度学习的重建方法两大类。
基于传统技术路线的航空发动机叶片类零件三维重建,可进一步划分为主动式重建与被动式重建两类。在主动重建方法中,激光扫描法[2]的重建精度更高,但该方法高度依赖专用精密设备,不仅设备结构复杂,购置成本也十分高昂;结构光法[3]、Kinect技术[4]、TOF(time of flight)技术[5]这类方法对设备的要求更低,但普遍存在重建精度不足的问题,无法适配大规模复杂场景的重建需求。在被动式重建方法中,目前主要采用搭载相机设备的多(双)目立体视觉重建系统完成重建,这类方法难以处理叶片的弱纹理区域,无法很好地满足当前航空发动机叶片重建对高精度、高效率、高自动化的要求。
近年来,深度学习在图像处理领域展现出优异性能,目前已经被广泛应用于三维重建领域。基于深度学习的多视图立体视觉(multi-view stereo matching,MVS)方法对多张来自不同连续视角的RGB(red,green,blue)图像进行特征提取与深度预测,再通过融合网络生成三维点云模型。该方法既降低了对训练数据的需求,又能借助多视图产生的视差减少遮挡区域带来的影响,最终可以输出精度更高的重建结果。而基于深度学习的多视图三维重建方法,还可以进一步划分为隐式重建与显式重建[6]两类。
隐式重建方法指通过符号距离函数(sign distance function,SDF)、神经辐射场(neural radiance fields,NeRF)、占用场(occupancy)等函数关系,将三维空间坐标与视图映射为体密度与颜色,从而实现对三维场景的连续隐式表达。例如,NeuS[7]将曲面表示为SDF,提升了渲染图像与输入图像的一致性;RayMVSNet[8]将MVS问题简化为基于射线的深度优化,实现了模型轻量化;RC-MVSNet[9]引入深度渲染一致性与参考视图合成损失,解决了视图间对应关系模糊的问题;而SparseNeuS[10]引入几何编码体学习先验知识,不仅可以很好地处理稀疏图像,还具备优良的泛化性能;GaussianPro[11]采用新的高斯分布与渐进式传播策略引导3D Gaussian Splatting(3D GS)分布的稠密化,实现了高质量场景渲染。尽管隐式函数重建的渲染质量较高,但该方法缺乏对几何表面的约束,存在训练与推理速度慢、重建结果难以编辑的不足。
显式重建方法指通过点云、网格、体素等形式,直接表现重建目标的点、线、面等几何元素,虽然内存消耗较大,但实时渲染速度快、结果容易编辑,更适用于航空发动机损伤叶片的三维重建。
基于体素的重建方法首先对单幅图像分别进行二维特征提取,再通过联合处理完成三维特征融合生成粗体素,最终借助精细化策略得到最终的体素网格,代表方法包括Pix2Vox[12]、SurfaceNet+[13]、 SurfaceNet[14]等,但体素融合过程会占用大量内存,耗费大量计算时间,因此无法很好地满足航空发动机损伤叶片重建的实时性要求。
基于网格的重建方法通常以椭球形网格作为初始形态,通过逐步添加三角网格顶点完成形变,最终生成和场景或物体匹配的三角网格形式。如Pixel2Mesh[15]、Pixel2Mesh++[16]等,基于网格的重建方法可以支持复杂的拓扑结构,但依赖高质量的点云输入,且计算量大,并不适用于航空发动机损伤叶片的重建。
基于点云的重建方法和基于体素的方法思路类似,首先对多视角图像分别进行卷积操作,预测各视角的3D结构,再通过融合网络得到最终场景或目标物体的点云。文献[17]提出了多视图系列的开山之作MVSNet网络,实现了端到端的目标三维重建,但该模型在低分辨率图像上进行处理,构建匹配代价体等步骤需要占用大量内存资源,因此后续的MVS改进算法如UCS-Net[18]、CVP-MVSNet[19]、Fast-MVSNet[20]等,在提升重建性能的同时,也致力于推进模型的实时性和轻量化改进。AA-RMVSNet[21]、MFNet[22]、SuperMVS[23]等其他模型提出了实现特征金字塔的策略,从粗到细地提取高层和低层语义信息,构建级联代价体,融合多尺度信息;为解决不同尺度特征图之间存在语义差异,直接融合特征图会降低多尺度特征图表达能力的问题,文献[24]提出了D2HC-RMVSNet,采用轻量化的DRENet结构提取特征,融合多尺度上下文信息,能够恢复更多场景细节。为了能在资源有限的设备上处理高分辨率图像,研究者首次将经典的随机优化算法PatchMatch与深度学习结合,提出了一种不依赖3D代价体正则化的新范式,PatchmatchNet[25]采用“随机初始化、传播、评估”的迭代优化方式,替代了传统“构建代价体、代价体正则化”的流程,在多个尺度的图像上逐步精细化深度图,在保证重建效果的同时,显著降低了内存占用和计算耗时;随着Transformer[26]网络的兴起,研究者提出了MVSTER[27]和MVSFormer[28]网络,MVSTER网络设计极线Transformer实现跨视图的特征聚合,将深度估计问题转化为深度感知分类问题,提高了重建精度;MVSFormer直接使用预训练的视觉Transformer(vision transfoemer,ViT)结合特征金字塔网络(feature pyramid networks,FPN)作为特征提取的主干网络,通过多尺度训练策略提高泛化能力,实现对不同分辨率数据的处理,显著提升了特征匹配的质量;SeedFormer[29]网络首先生成稀疏的种子点,再通过局部细节增强模块变形得到稠密、细节丰富的点云,适用于大尺度缺失的点云补全;PointTr[30]是基于Transformer的稠密点云补全框架,可直接处理原始点云,减少了信息损失,保证了重建精度。基于点云的重建结果能够保留原始几何细节,虽然表面不连续,但可以便捷地将点云数据转换为网格数据,计算速度快,内存效率高,能更好地满足航空发动机损伤叶片重建对实时性和高精度的需求。
在“工业4.0”的浪潮下,深度学习技术正在革新叶片重建的传统范式。苏建宇[31]针对叶片重建过程中,因复杂曲面反光导致重建质量下降的问题,提出了一种基于残差结构与轻量级通道-空间注意力机制的图像融合算法RAF-Net,能够有效抑制反光,提升后续叶片重建的完整性;唐渝钦[32]基于深度学习改进了面向涡轮叶片三维重建的逆向工程方法,使用基于深度学习的极大似然估计法对涡轮叶片点云进行去噪,通过AtlasNet[33]网络对稀疏点云进行初步曲面重建,得到非闭合模型,最终生成闭合水密的叶片模型;谢佳珂[34]提出了一种融合接触式测量和视觉传感的混合三维重建方法,通过ORB-SLAM3算法获取关键帧的相机位姿和稀疏特征点地图,结合原始图像,生成稠密的叶片点云;Xiao等[35]设计了一种基于复杂网格理论的航空发动机叶片背景滤波网络,用于滤除2D图像中的噪声信息,并提出了联合优化损失函数,该方法解决了三维重建中的误差累积问题,提高了在航空发动机叶片三维重建领域,重建结果的逼真度提升始终是核心目标之一。尽管目前针对该方向的各项优化研究已经取得了一定进展,但整体研究仍处于“点状突破”阶段,距离构建一套鲁棒、高效、可落地工程应用的完整技术体系,仍有待深入探索。
近年来,基于深度学习的多视图三维重建方法发展迅速,为航空发动机损伤叶片的三维重建提供了扎实的研究基础。以PatchmatchNet作为基础模型,旨在实现叶片稠密点云的精确重构。然而,直接使用该方法仍然面临诸多挑战:一方面,航空发动机叶片表面往往存在大面积弱纹理区域,会导致特征提取与匹配的失败率显著升高,无法保证叶片重建的完整性,最终影响整体重建效果;另一方面,航空发动机损伤叶片的三维重建对重建效率有明确要求,现有重建速度较快的多视图三维重建模型,大多采用基于随机搜索的迭代方式预测深度图,随机性对模型重建效果影响较大,最终会导致重建模型的准确度降低。
针对深度学习模型应用于航空发动机损伤叶片三维重建时存在的上述问题,提出基于UCD-PatchmatchNet的航空发动机损伤叶片重建模型,以实现对损伤叶片完整、精确的三维重建。

1 PatchmatchNet模型理论

PatchmatchNet模型以多张连续视角的图像为输入,经模型匹配后获得重建目标的稠密点云。PatchmatchNet模型主要由特征提取模块、基于可学习的PatchMatch、基于迭代的由粗到细的框架和一个空间精细化模块组成[25],模型结构如图1所示。

特征提取模块主要是基于特征金字塔网络的多尺度特征提取结构,由10个基础卷积块和5个卷积层组成,通过双线性插值和1×1卷积进行多尺度特征的上采样和融合,输出分辨率为原始图像分辨率1/8、1/4、1/2的多尺度特征图。特征以多种分辨率分层提取,有助于由粗到细的预测深度图。

基于可学习的PatchMatch模块主要包含以下三个步骤。

(1)初始化和局部扰动:生成随机假设。在第一次迭代中随机初始化48个深度假设样本,后续迭代中通过在归一化逆深度范围内单独生成每个像素的假设来进行局部扰动。

(2)自适应传播:在邻域内自适应传播假设。深度值的空间相干性通常来自同一物理表面的像素,因此相较于经典静态传播假设的采样方式,自适应传播倾向于在同一表面内收集假设,有助于提供更准确的深度图。采样位置对比如图2所示,自适应传播采样位于图像边界(黄色)的像素来自采样邻域(绿色)的深度假设。

(3)自适应评估:计算所有假设的匹配成本并选择最佳解决方案。

空间精细化模块优化深度图时直接在stage 1的预测结果上进行上采样,然后结合深度回归网络和参考图像对输出的深度图进行细化得到最终深度图,在stage k,输出的深度图尺寸为H/2k×W/2k(H表示图像高度,W表示图像宽度,k表示阶段数);最后通过融合网络生成稠密点云。

2 基于UCD-PatchmatchNet的航空发动机损伤叶片重建模型

相较于PatchmatchNet,UCD-PatchmatchNet针对技术局限主要进行了三方面改进:①针对模型在叶片弱纹理区域特征提取失败率高、导致重建完整性差的问题,采用基于U-Net[36]改进了PatchmatchNet模型的特征提取网络,跳跃连接和转置卷积(transposed convolutional,T-Conv)恢复多尺度特征分辨率并进行特征融合,减少下采样导致的信息丢失,提升模型的特征提取能力。②采用CBAM[37]注意力机制,引入通道注意力和空间注意力优化特征提取模块,以获取更丰富的语义信息,增强不同通道的特征表示能力和提取不同空间位置的关键信息。③针对随机生成初始深度图导致重建准确性低的问题,采用基于深度梯度采样的Delaunay三角剖分结构生成初始深度图,提升模型的重建精度。本文模型的名称UCD-PatchmatchNet来自上述三个改进,其中U代表U-Net结构,C代表CBAM注意力机制,D代表Delaunay算法。结构如图3所示。

2.1 基于U-Net网络的特征提取模块改进

PatchmatchNet中基于FPN的多尺度特征提取结构主要负责提取输入图像的特征并将特征图下采样至不同的分辨率,能通过不同感受野捕捉上下文信息。但叶片表面存在大面积弱纹理区域,这些区域的局部像素值变化平缓,特征差异不明显,同时损伤区域本身对原有的连续纹理造成了破坏,引入了非规则且不可预测的干扰信息,此时,简单的多尺度下采样与融合操作难以提取出具有足够判别力的特征描述符,不同的特征图之间可能保持较高的相似性,后续的匹配代价计算、传播等步骤建立在脆弱的特征信息上,使深度估计无法做出高置信度的决策。在重建结果中,深度图或三维点云中会形成孔洞、异常噪声点以及不连贯的表面,损害重建模型的完整性。

针对这一问题,基于U-Net网络构建新的特征提取和融合结构,增强模型对全局上下文信息的感知能力。与基于FPN的多尺度特征提取结构自上而下的单向信息流动不同,基于U-Net网络的特征提取结构主要由编码器-解码器架构与跳跃连接组成,结构如图4所示。每个编码器块包含2个卷积块ConvBnReLU(convolution-batch normalization-rectified linear unit)和1个下采样层Subsampling(第1个编码器块只包含2个卷积块),特征图通过卷积改变通道数并保持图像尺寸不变,同时为了防止ConvBnReLU滑动时跳过像素导致丢失重要信息,分别设置卷积核Kc(kernel)大小为3×3、步长Sc(stride)为1、填充Pc(padding)为1,空洞卷积Dc(dilation)为1。假设F为输入特征图,F*为输出特征图,则特征图尺寸计算公式为

$F_{H}^{*}=\left\lfloor\frac{F_{H}-K_{\mathrm{c}}+2 P_{\mathrm{c}}}{S_{\mathrm{c}}}\right\rfloor+1$
$F_{W}^{*}=\left\lfloor\frac{F_{W}-K_{\mathrm{c}}+2 P_{\mathrm{c}}}{S_{\mathrm{c}}}\right\rfloor+1$

式中:H、W分别为特征图的高、宽;⌊·」表示向下取整。

下采样层通过Ks、Ss、Ps分别为2×2、2、0的最大池化Max Pooling进行下采样,将特征图尺寸缩小一半,同时保持特征图通道数不变,由于Dc=1,因此可以使用式(1)、式(2)计算通过下采样层的特征图尺寸。每个解码器块包含2个ConvBnReLU、1个T-Conv和1个跳跃连接层,通过T-Conv上采样恢复特征图分辨率,其中KT、ST、PT、DT分别为2×2、2、0和1,经过T-Conv的特征图尺寸计算公式为

${\mathit{F}}_{\mathit{H}}^{\mathit{*}}$=(FH-1)ST-2PT+DT(KT-1)+1
${\mathit{F}}_{\mathit{W}}^{\mathit{*}}$=(FW-1)ST-2PT+DT(KT-1)+1

式中:H、W分别为特征图的高、宽。

航空发动机损伤叶片的重建要求同时感知叶片的整体气动外形和微小的局部损伤。U-Net独特的编码器-解码器结构通过逐级下采样捕获叶片的整体几何语义,并通过对称上采样恢复空间细节;跳跃连接将编码器和解码器各对应阶段的特征进行融合,不仅有效扩大模型的感受野,更避免了低级特征被高级特征淹没。

与PatchmatchNet的特征提取结构相比,即使在有限的数据样本下,U-Net网络也能通过其对称结构和特征复用,从较少的样本中更稳健地学习多尺度特征,获得更鲁棒的特征提取效果与更完整的几何重建输出。

2.2 基于CBAM注意力机制的特征提取模块优化

基于U-Net网络的特征提取方法能提高模型的特征学习能力,但是在下采样过程中仍然会丢失微小目标或边缘细节,而且对所有通道区域进行平等处理,缺乏对关键特征的动态聚焦。因此,在特征提取模块中嵌入4层CBAM注意力机制,特征图依次经过通道注意力模块和空间注意力模块,不仅能学习不同通道的权重,突出重要特征,还能聚焦关键的空间区域,进一步强化模型的特征提取能力。

CBAM注意力机制由连续的两个子模块组成:通道注意力和空间注意力。

通道注意力首先使用max pooling和平均池化avg pooling(average pooling)汇总特征图的空间信息,然后传入一个由多层感知器(multilayer perceptron,MLP)组成的共享网络,最后使用元素级求和合并输出通道特征向量,如图5所示。通道注意力的计算为

Mc(F)=σ{MLP[AvgPool(F)]+MLP[MaxPool(F)]}=σ{W1[W0(${\mathit{F}}_{\mathit{a}\mathit{v}\mathit{g}}^{\mathit{c}}$)]+W1[W0(Fcmax)]}

式(5)中:σ为sigmoid函数;W0和W1为MLP的两个权重,W0∈RC/r×C,W1∈RC×C/r,C/r为MLP隐藏层的大小,且ReLU(rectified linear unit)激活函数后跟W0。

空间注意力在通道轴上应用Max pooling和Avg pooling聚合特征图的通道信息,将它们连接生成一个特征描述符,在描述符上应用卷积层生成空间注意力图,如图6所示。空间注意力计算为

Ms(F)=σ(f7×7{[AvgPool(F);MaxPool(F)]})=σ[f7×7([F${}_{\mathit{a}\mathit{v}\mathit{g}}^{\mathit{s}}$;F${}_{\mathit{m}\mathit{a}\mathit{x}}^{\mathit{s}}$])]

式(6)中:σ为sigmoid函数;f7×7为7×7的过滤器。

假设输入特征图尺寸为[B,C,H,W],B、C、H、W分别表示图像的批次大小batch,图像通道数channel,图像高度height和图像宽度width;则通道注意力和空间注意力参数Params(Parameters)计算公式分别为

ParamsChannel=[C×(C/r)+C/r]+[(C/r)×C+C]=2C2/r+C/r+C
ParamsSpatial=CsiCsoKf7×7+bs

式中:C为通道注意力的图像通道数;r为缩减比率;C/r为MLP隐藏层的大小;Csi为空间注意力的输入通道数;Cso为输出通道数;Kf7×7为7×7的过滤器;bs为空间注意力偏置。

单个CBAM模块的Params计算公式(一般忽略偏置项)为

ParamsCBAM=ParamsChannel+ParamsSpatial≈2×C2/r+98

在U-Net改进的特征提取模块中加入4层CBAM,通道数C为8、16、32、64,r为16,Params共增加1072,相较于U-Net结构(params约126 136)增加比例约0.85%,能在网络中引入可忽略不计的额外参数来换取模型性能提升。

集成CBAM注意力机制的特征提取结构如图7所示,主要由8个卷积块和4层注意力模块组成,在每个编码阶段加入CBAM注意力机制,引导网络自适应地学习并强化与损伤相关的关键区域与特征通道。通道注意力自动选择出对叶片细微边缘、叶片纹理最敏感的特征通道,空间注意力则将计算资源集中到这些微小异常的空间位置上。这种双重聚焦确保了对微小结构的特征捕获能力,并抑制无关的背景干扰,让模型学会重点“看哪里”和“怎么看”,使叶片的三维重建过程能更精确地“雕刻”出损伤形态,而不被平滑的叶片曲面淹没。

2.3 基于深度梯度采样的Delaunay三角剖分深度图初始化改进

PatchmatchNet中可学习的Patchmatch模块在第一次迭代时采用随机初始化策略为每个像素生成初始深度假设,这种方式在发动机叶片的大范围弱纹理和尖锐几何区域需要更多的迭代次数才能达到收敛,并容易陷入局部最优,影响模型的重建准确性。

为了提高模型重建准确性,采用基于深度梯度采样的Delaunay三角剖分方法生成初始深度图。该方法的核心在于利用从稀疏几何中推导出的几何先验信息,取代原有的随机猜测,从而引导深度优化过程更快、更稳定地收敛至全局最优解。由此生成的初始深度图虽然分辨率较低、细节相对粗糙,但其深度分布已经能基本贴合叶片的真实曲面几何,为后续的Patchmatch迭代提供了一个更合理、更接近真实值的优化起点,从而在最终的叶片点云融合阶段生成质量更高的深度图。

基于深度梯度的深度图采样方法是一种自适应采样策略,通过分析深度图中的梯度信息,优先在深度变化剧烈的区域(如物体边缘)密集采样,在深度变化平坦区域稀疏采样,在保持重建精度的同时尽可能减少计算量。

Delaunay剖分是一种三角剖分的标准,即对给定的平面点集,生成三角形集合的过程。对平面点集P={p1,p2,…,pn}希望得到三角形集合T={t1,t2,…,tn},满足:

(1)所有三角形的端点恰好构成集合P。

(2)任意两个三角形的边不相交(重合或无交点)。

(3)平面图中所有的面均为三角面,且所有三角形的集合构成P的凸包。

同时必须符合以下两条准则:

(1)空圆特性:Delaunay三角剖分是唯一的(任意四点不能共圆),在Delaunay三角剖分中任一三角形的外接圆内不存在其他任何点。

(2)最小角最大化特性:在点集P的所有可能的三角剖分中,Delaunay三角剖分形成的三角形的最小内角最大。

基于Delaunay三角剖分深度图初始化改进的Patchmatch结构如图8所示。DTU[38]数据集提供了真实值(ground truth,GT)图像。确定采样点数量后,基于深度梯度的采样方法在GT图像深度梯度变化区域上采样70%,随机采样30%模拟可能存在的噪声,并为抽取的稀疏点加入4个角点来确保稀疏采样图为完整的图像。由于叶片测试集并没有提供GT图,因此测试过程中采用COLMAP稀疏重建生成的深度图代替GT图,然后进行Delaunay三角网格剖分,如图9所示。

形成Delaunay三角网格后,根据三角形三个顶点的深度值,对所有三角形覆盖到的点的深度值进行插值处理,得到所用的初始深度图,如图10所示。

从图10中能看出,经过Delaunay三角剖分形成的初始深度图与稀疏深度图有一定的相似性,能在一定程度上提升最终预测深度图的精度,提升模型重建准确性。

3 基于UCD-PatchmatchNet模型的航空发动机损伤叶片重建方法流程

基于UCD-PatchmatchNet模型的航空发动机损伤叶片重建方法流程如下。

(1)航空发动机损伤叶片数据集构建。为解决单张图像拍摄中视角控制不精确的问题,采用基于视频的数据采集方法。先对每个叶片进行360°连续拍摄,随后从视频流中以20帧为固定间隔抽取一张图像,收集发动机损伤叶片的连续视角图像,通过COLMAP对图像进行稀疏重建提取相机内参、外参和不同视角下图像的深度范围等信息,构成损伤叶片测试集,采集视角和稀疏重建过程如图11所示。

(2)航空发动机损伤叶片三维重建模型构建。通过引入集成CBAM注意力机制的U-Net结构和基于Delaunay三角剖分的深度图初始化结构对PatchmatchNet模型进行改进,构建UCD-PatchmatchNet航空发动机损伤叶片重建模型。

(3)模型训练。将训练集和验证集导入UCD-PatchmatchNet航空发动机损伤叶片重建模型,并设置训练参数进行训练。训练集用于模型的训练,验证集用于评估每轮的训练结果,最终得到模型的最优权重文件。

(4)性能测试。将测试集和自建发动机损伤叶片数据集导入UCD-PatchmatchNet模型,使用最优权重文件进行预测、评估,获得模型的性能参数。

基于UCD-PatchmatchNet重建模型的航空发动机损伤叶片三维重建方法具体流程如图12所示。

4 实例验证与分析

4.1 数据集与实验环境

现阶段不同领域对基于深度学习的多视图三维重建方法的验证均采用公开的数据集进行模型训练,使用自建数据集进行验证测试。选择公开数据集DTU进行模型训练,使用自建航空发动机损伤叶片数据集进行模型验证测试,如表1所示。模型训练阶段,公开数据集DTU中的79个场景用于训练,18个场景用于验证,22个场景用于评估;自建损伤叶片数据集7个叶片场景用于实例验证,共931张图像,对应931个采集角度,分辨率均为1 935×1 081,包含材料缺失、烧蚀、卷曲3种损伤,部分叶片样本如图13所示。

实验环境:处理器为Intel(R) Xeon(R) Gold 6326 CPU @2.90 GHz,192 GB内存,2张NVIDIA GeForce RTX 4090显卡,120 GB显存。

4.2 评价指标

为验证模型的性能与其他深度学习重建方法作对比,选择三维重建常用的评价指标[37],即准确性A、完整性C、整体性O误差。准确性衡量重建点云到真值点云之间的距离;完整性衡量真值点云到重建点云的距离,整体性是准确性和完整性的平均值,衡量模型的综合性能,计算公式为

A=$\frac{1}{\left|\mathit{P}\right|}{\sum }_{\mathit{p}\in \mathit{P}}^{}\underset{\mathit{q}\in \mathit{G}\mathit{T}}{\mathit{m}\mathit{i}\mathit{n}}$‖p-q‖
C=$\frac{1}{\left|\mathit{G}\mathit{T}\right|}{\sum }_{\mathit{q}\in \mathit{G}\mathit{T}}^{}\underset{\mathit{p}\in \mathit{P}}{\mathit{m}\mathit{i}\mathit{n}}$‖q-p‖
O=$\frac{\mathit{A}+\mathit{C}}{2}$

式中:P为重建点云;GT为真值点云;p和q分别为重建点云和真值点云中的点;‖·‖为欧氏距离。

4.3 消融实验

4.3.1 集成CBAM注意力机制的U-Net特征提取模块有效性验证

特征提取模块消融实验重建结果对比如图14所示,定量结果对比如表2所示。由表2可知,将原来的多尺度特征提取模块(记为基线模块,Baseline)替换为集成了CBAM注意力机制的U-Net网络的特征提取模块,其准确性误差、完整性误差和整体误差分别降低了1.2%、4.7%和2.6%。

从图14可以看出,由于重建点云数量均为千万级,重建结果整体上看都有较好的完整性,但在局部细节上,改进后的模型能明显改善原模型在叶尖区域和叶榫处的重建空洞。本文所提的特征提取模块能够更好地获取重建目标的特征,可以提高模型的重建完整性。

4.3.2 基于深度梯度采样的Delaunay三角剖分有效性验证

为了验证基于深度梯度采样的Delaunay三角剖分生成初始深度图的有效性,以Delaunay三角剖分生成的初始深度图和原模型随机生成的初始深度图设计消融实验,模型性能如表3所示。

由表3可知,使用基于深度梯度采样的Delaunay三角剖分法使得准确性误差降低了6.8%,证明其深度图初始化阶段生成的深度图更接近真实值;完整性误差升高了4.7%,可能是由于基于深度梯度采样生成的初始深度图更关注于深度存在变化的区域,无法对整个图片进行初始化,而随机生成初始深度图的方法在整张图片内随机生成样本,样本点更可能覆盖整个图片,整体性误差降低了2.3%。

为直观展示改进的有效性,将重建过程的深度图进行对比,如图15所示。Delaunay三角剖分改进后的深度图在叶片后缘和后缘空气槽处过渡自然,边界清晰,预测更准确。本文提出的方法对模型深度图初始化阶段的改进是有效的。

4.4 不同模型对比分析

4.4.1 典型模型重建效果对比分析

为了验证改进后模型对细节的重建效果,以航空发动机损伤叶片气膜孔为对象,将UCD-PatchmatchNet模型的重建点云与基于深度学习的MVSNet模型重建点云进行对比,点云对比如图16所示。

从整体重建结果来看,各模型均有不错的重建性能,但在气膜孔、叶片编码数字等细节重建上的表现也存在很大差距。由于MVSNet在低分辨率图像重建,其重建结果最为稀疏模糊,气膜孔结构几乎无法辨识,叶片编码数字仅存隐约轮廓,细节严重丢失;CVP-MVSNet的重建效果有所改善,叶片编码数字轮廓稍显清晰,但气膜孔结构仍不可见。相比之下,虽然基准模型PatchmatchNet的准确性不如CVP-MVSNet,但其显著的完整性优势在实际可视化效果中起决定性作用,使重建出的叶片结构更完整、更清晰,在视觉评估上表现出更优的整体效果。而改进后的PatchmatchNet重建效果最佳,不仅能清晰重建局部气膜孔的分布与排列,更能分辨出单个气膜孔的完整圆形边界,同时叶片表面的编码数字也能够比较清晰地辨识出具体数字,直观地证明了本文引入的改进方法的有效性。

4.4.2 典型模型性能对比分析

为了验证模型的优越性,选用多种典型的深度学习三维重建方法设计对比实验,模型性能对比结果如表4所示。

从表4可以看出,在与一些基于深度学习的重建方法比较时,本文方法的重建准确性误差没有达到最优,这是由于自适应传播和迭代过程中产生的误差积累、在计算匹配代价时没有充分利用到经过U-Net和CBAM结构优化后的特征信息。但与PatchmatchNet模型相比,通过基于深度梯度采样的Delaunay三角剖分结构改进,准确性误差降低了12.9%,在MVS重建方法中有一定的竞争力。另外完整性误差降低了4.0%,整体性误差降低了9.4%,在众多重建方法中均为最优。同时相比于MVSNet,准确性误差、完整性误差和整体误差分别降低了6.1%、49.5%、31.0%,证明了本文方法的优越性。

4.5 叶片异常结构分析

叶片的损伤区域集中在叶根附近,如图17所示。异常1为烧蚀,在点云上表现为明显的结构边界和颜色差异;异常2显示有突起,点云上表现为几个白色的异常突起点;异常3为材料缺失,点云上表现为与邻近区域有明显的边界和凹陷。

如图18所示为烧蚀损伤六个不同视角下的点云细节,可以看出,该损伤位于叶根前缘,且贯穿叶盆与叶背,重建点云中存在明显的损伤痕迹与局部深度差异,揭示了损伤的表面形貌。由图17、图18可知,叶片损伤集中于叶根区域,点云特征明显,烧蚀损伤表现为清晰的几何边界与颜色差异,材料缺失形成局部凹陷,并与周围区域存在显著边界。综合分析,UCD-PatchmatchNet重建的损伤叶片点云具有良好的完整性与可视化效果,在高质量重建的基础上,损伤结构在局部点云中表现出明显的差异特征,能为初步判断损伤类型与评估损伤程度提供直接、可靠的三维数据,证明本文方法可有效应用于航空发动机损伤叶片的三维重建与可视化检测等任务。

5 结论

为实现基于深度学习的多视图三维重建模型对航空发动机损伤叶片的精确重建,提出了一种基于UCD-PatchmatchNet模型的重建方法,可以得出以下结论。

(1)UCD-PatchmatchNet三维模型从重建完整性和重建准确性入手,对原模型的特征提取结构和深度图随机初始化结构进行了改进。改进后模型的重建准确性误差、重建完整性误差和整体误差分别为0.372、0.266、0.319 mm,实现了模型重建性能的提升并应用于航空发动机损伤叶片的三维重建。

(2)重建出的叶片点云有良好的完整性和可视化效果,异常结构在点云局部也表现出明显的颜色和深度差异,能为初步判断异常结构的类型和损伤程度提供支持,证明本文方法能适用于航空发动机损伤叶片的重建。

参考文献

[1]

董景霖. 航空发动机叶片的检测与维修研究[J]. 内燃机与配件, 2025(9): 73-75.

[2]

Dong Jinlin. Research on inspection and maintenance of aircraft engine blades[J]. Internal Combustion Engine & Parts, 2025(9): 73-75.

[3]

Murakami T C, Mano T, Saikawa S, et al. A three-dimensional single-cell-resolution whole-brain atlas using CUBIC-X expansion microscopy and tissue clearing[J]. Nature Neuroscience, 2018, 21(4): 625-637.

[4]

Park J J. Fusion algorithms and high-performance applications for vehicular cloud computing[J]. The Journal of Supercomputing, 2018, 74(3): 995-1000.

[5]

Liao J X, Yang D, Li T H, et al. Fusion feature for LSH-based image retrieval in a cloud datacenter[J]. Multimedia Tools and Applications, 2016, 75(23): 15405-15427.

[6]

Hansard M, Lee S, Choi O, et al. Time-of-flight cameras: principles, methods and applications[M]. Berlin: Springer Science & Business Media, 2012.

[7]

王文举, 唐邦, 顾泽骅, 等. 深度学习的多视角三维重建技术综述[J]. 计算机工程与应用, 2025, 61(6): 22-35.

[8]

Wang Wenju, Tang Bang, Gu Zehua, et al. Overview of multi-view 3D reconstruction techniques in deep learning[J]. Computer Engineering and Applications, 2025, 61(6): 22-35.

[9]

Wang P, Liu L, Liu Y, et al. Neus: learning neural implicit surfaces by volume rendering for multi-view reconstruction[EB/OL]. arXiv Preprint, arXiv: 2106. 10689, 2021.

[10]

Xi J, Shi Y, Wang Y, et al. Raymvsnet: Learning ray-based 1d implicit fields for accurate multi-view stereo[C]// Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. New York: IEEE, 2022: 8595-8605.

[11]

Chang D, Božič A, Zhang T, et al. RC-MVSNet: unsupervised multi-view stereo with neural rendering[C]// European Conference on Computer Vision. Cham: Springer Nature Switzerland, 2022: 665-680.

[12]

Long X, Lin C, Wang P, et al. Sparseneus: fast generalizable neural surface reconstruction from sparse views[C]// European Conference on Computer Vision. Cham: Springer Nature Switzerland, 2022: 210-227.

[13]

Cheng K, Long X, Yang K, et al. Gaussianpro: 3d gaussian splatting with progressive propagation[C]// Forty-first International Conference on Machine Learning. Vienna: JMLR, 2024: 5678-5690.

[14]

Xie H Z, Yao H X, Sun X S, et al. Pix2Vox:context aware 3D reconstruction from single and multi-view images[C]// Proceedings of the 2019 IEEE/CVF International Conference on Computer Vision. Piscataway: IEEE, 2019: 2690-2698.

[15]

Ji M, Zhang J, Dai Q, et al. SurfaceNet+:an end-to-end 3d neural network for very sparse multi-view stereopsis[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2020, 43(11): 4078-4093.

[16]

Ji M Q, Gall J, Zheng H T, et al. SurfaceNet: an end-to-end 3D neural network for multiview stereopsis[C]// Proceeding of the 2017 IEEE International Conference on Computer Vision. Venice: IEEE, 2017: 2326-2334.

[17]

Wang N Y, Zhang Y D, Li Z W, et al. Pixel2Mesh:generating 3D mesh models from single RGB images[C]// Proceedings of the 15th European Conference on Computer Vision. Cham: Springer International Publishing, 2018: 55-71.

[18]

Wen C, Zhang Y D, Li Z W, et al. Pixel2Mesh++:multi view 3D mesh generation via deformation[C]// Proceedings of the 2019 IEEE/CVF International Conference on Computer Vision. Piscataway: IEEE, 2019: 1042-1051.

[19]

Yao Y, Luo Z, Li S, et al. Mvsnet: depth inference for unstructured multi-view stereo[C]// Proceedings of the European Conference on Computer Vision (ECCV). Cham: Springer, 2018: 767-783.

[20]

Cheng S, Xu Z, Zhu S, et al. Deep stereo using adaptive thin volume representation with uncertainty awareness[C]// Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. New York: IEEE, 2020: 2524-2534.

[21]

Yang J, Mao W, Alvarez J M, et al. Cost volume pyramid based depth inference for multi-view stereo[C]// Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. New York: IEEE, 2020: 4877-4886.

[22]

Yu Z, Gao S. Fast-mvsnet: sparse-to-dense multi-view stereo with learned propagation and gauss-newton refinement[C]// Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. New York: IEEE, 2020: 1949-1958.

[23]

Wei Z, Zhu Q, Min C, et al. Aa-rmvsnet: adaptive aggregation recurrent multi-view stereo network[C]// Proceedings of the IEEE/CVF International conference on Computer Vision. New York: IEEE, 2021: 6187-6196.

[24]

Cai Y, Li L, Wang D, et al. MFNet: multi-level fusion aware feature pyramid based multi-view stereo network for 3D reconstruction[J]. Applied Intelligence, 2023, 53(4): 4289-4301.

[25]

Zhang T. SuperMVS: non-uniform cost volume for high-resolution multi-view stereo[EB/OL]. arXiv Preprint, arXiv: 2203. 14331, 2022.

[26]

Yan J, Wei Z, Yi H, et al. Dense hybrid recurrent multi-view stereo net with dynamic consistency checking[C]// European Conference on Computer Vision. Cham: Springer International Publishing, 2020: 674-689.

[27]

Wang F, Galliani S, Vogel C, et al. Patchmatchnet: learned multi-view patchmatch stereo[C]// Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. New York: IEEE, 2021: 14194-14203.

[28]

Vaswani A, Shazeer N, Parmar N, et al. Attention is all you need[J]. Advances in Neural Information Processing Systems, 2017(30): 770-778.

[29]

Wang X F, Zhu Z, Huang G, et al. MVSTER: epipolar transformer for efficient multi-view stereo[C]// Proceeding of the 17th European Conference on Computer Vision. Tel Aviv: Springer, 2022: 573-591.

[30]

Cao C J, Ren X L, Fu Y W. MVSFormer: multi-view stereo by learning robust image features and temperature-based depth[EB/OL]. arXiv Preprint, arXiv: 2208. 02541, 2022.

[31]

Zhou H, Cao Y, Chu W, et al. Seedformer: Patch seeds based point cloud completion with upsample transformer[C]// European conference on computer vision. Cham: Springer Nature Switzerland, 2022: 416-432.

[32]

An L, Zhou P, Zhou M, et al. PointTr: Low-overlappoint cloud registration with transformer[J]. IEEE Sensors Journal, 2024, 24(8): 12795-12805.

[33]

苏建宇. 基于结构光三维测量的叶片表面反光图像修复方法研究[D]. 沈阳: 东北大学, 2022.

[34]

Su Jianyu. Research on leaf surface reflection image restoration method based on structured light 3D measurement[D]. Shenyang: Northeastern University, 2022.

[35]

唐渝钦. 基于深度学习的涡轮叶片制备中的点云去噪与曲面重建[D]. 绵阳: 西南科技大学, 2023.

[36]

Tang Yuqin. Point cloud denoising and surface reconstruction in turbine blade preparation based on deep learning[D]. Mianyang: Southwest University of Science and Technology, 2023.

[37]

Groueix T, Fisher M, Kim V G, et al. A papier-mâché approach to learning 3d surface generation[C]// Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. New York: IEEE, 2018: 216-224.

[38]

谢佳珂. 基于坐标测量机和计算机视觉的叶片三维重建[J]. 东方汽轮机, 2025(2): 57-63.

[39]

Xie Jiake. Blade 3D reconstruction based on coordinate measuring machine and computer vision[J]. Dongfang Turbine, 2025(2): 57-63.

[40]

Xiao Y, Wu X, Yin Y, et al. PoseNeRF: in-situ 3D reconstruction method based on joint optimization of pose and neural radiation field for smooth and weakly textured aeroengine blade[J]. Sensors (Basel, Switzerland), 2025, 25(19): 6145.

[41]

Ronneberger O, Fischer P, Brox T. U-net: convolutional networks for biomedical image segmentation[C]// International Conference on Medical Image Computing and Computer-assisted Intervention. Cham: Springer International Publishing, 2015: 234-241.

[42]

Woo S, Park J, Lee J Y, et al. Cbam: convolutional block attention module[C]// Proceedings of the European Conference on Computer Vision (ECCV). Cham: Spring, 2018: 3-19.

[43]

Aanæs H, Jensen R R, Vogiatzis G, et al. Large-scale data for multiple-view stereopsis[J]. International Journal of Computer Vision, 2016, 120(2): 153-168.

基金资助

航空科学基金(2024Z052067001)

PDF (38069KB)

43

访问

0

被引

详细

导航
相关文章

/

〈 〉