基于实测数据驱动的路基变形智能预测模型

袁天刚; 吕玺琳; 刘先林; 马一跃; 邵羽; 徐柯锋

doi:10.12404/j.issn.1671-1815.2506768

科学技术与工程 ›› 2026, Vol. 26 ›› Issue (25) :11044-11056 DOI: 10.12404/j.issn.1671-1815.2506768

交通运输

基于实测数据驱动的路基变形智能预测模型

袁天刚 ¹^,² ,
吕玺琳 ¹^,²^,^* ,
刘先林 ¹^,³ ,
马一跃 ⁴ ,
邵羽 ³ ,
徐柯锋 ⁵

作者信息 +

Intelligent Prediction Model for Subgrade Deformation Driven by Measured Data

YUAN Tian-gang ¹^,² ,
LÜ Xi-lin ¹^,²^,^* ,
LIU Xian-lin ¹^,³ ,
MA Yi-yue ⁴ ,
SHAO Yu ³ ,
XU Ke-feng ⁵

Author information +

文章历史 +

摘要

为提升交通基础设施的耐久性及安全性,有必要对路基变形进行精准预测。提出了一种融合自注意力机制(self-attention,SA)的双向长短期记忆网络(bidirectional long short-term memory,Bi-LSTM)预测方法,采用改进粒子群优化算法(improved particle swarm optimization,IPSO)进行了超参数优化,进而建立了一种路基变形(沉降和水平位移)的智能预测模型I-B-L-S(IPSO-Bi-LSTM-SA),并结合现场实测数据进行了对比验证。结果表明:在相同实测数据输入条件下,I-B-L-S模型的变形预测误差比BP(Back Propagation)模型、B-L(Bi-LSTM)模型及B-L-S(Bi-LSTM-SA)模型更小,预测结果变化趋势与实测数据更接近。基于上述预测结果分别计算了路基变形的性能评价指标:平均绝对误差、均方根误差、平均绝对百分误差和决定系数。所建立的I-B-L-S模型在4个预测性能评价指标上均表现出显著优势,说明其具有更好的准确性和鲁棒性,可为路基变形预测提供理论参考。

Abstract

To enhance the durability and safety of transportation infrastructure, accurate prediction of subgrade deformation is essential. A predictive method fusing a bidirectional long short-term memory (Bi-LSTM) network with a self-attention (SA) mechanism was proposed. An improved particle swarm optimization (IPSO) algorithm was employed for hyperparameter optimization to develop an intelligent prediction model for subgrade deformation (settlement and horizontal displacement), designated as IPSO-Bi-LSTM-SA (I-B-L-S). The established model was validated using field-measured data. The results indicate that under identical input conditions, the I-B-L-S model exhibited smaller prediction errors compared to the BP, Bi-LSTM (B-L), and Bi-LSTM-SA (B-L-S) models, and the predicted varying trend of results is closer to the measured data. Based on the predicted results, performance evaluation metrics for subgrade displacement, including mean absolute error, root mean square error, mean absolute percentage error, and the coefficient of determination, were calculated. The established I-B-L-S model demonstrated significant advantages across all four metrics, indicating that superior accuracy and robustness are achieved, and can provide a theoretical reference for subgrade deformation prediction.

Graphical abstract

关键词

路基工程 / 沉降预测 / 长短期记忆网络 / 自注意力机制 / 优化算法

Key words

subgrade engineering / settlement prediction / long short-term memory network / self-attention mechanism / optimization algorithm

引用本文

引用格式 ▾

袁天刚, 吕玺琳, 刘先林, 马一跃, 邵羽, 徐柯锋. 基于实测数据驱动的路基变形智能预测模型[J]. 科学技术与工程, 2026, 26(25): 11044-11056 DOI:10.12404/j.issn.1671-1815.2506768

YUAN Tian-gang, LÜ Xi-lin, LIU Xian-lin, MA Yi-yue, SHAO Yu, XU Ke-feng. Intelligent Prediction Model for Subgrade Deformation Driven by Measured Data[J]. Science Technology and Engineering, 2026, 26(25): 11044-11056 DOI:10.12404/j.issn.1671-1815.2506768

登录浏览全文

4963

注册一个新账户忘记密码

随着中国交通基础设施的进一步发展,公路建设正逐步向地形复杂的山地丘陵地区延伸^[1]。受地形和土地资源等多方面限制,工程弃土往往被用于沿山路段铺设,从而形成了大量填方路基^[2]。路基沉降过大是常见的病害之一,其导致的公路等交通基础设施安全隐患日益凸显^[3]。近年来,山区高填方路基失稳事故频发,给沿线区域造成了重大损失。路基灾变过程常受土体力学性质、交通荷载及环境变化等多种因素复杂耦合影响^[4]。对于填方路基,不仅要确保施工过程安全可靠,而且需要严格控制工后及长期运维变形^[5]。一旦路基沉降或水平位移过大,轻则导致路基路面病害,重则导致路基边坡滑移失稳,影响公路行车安全^[6-7]。因此,开展高填方路基工后位移变形预测对公路基础设施安全运行具有重要意义。

路基沉降预测模型主要有双曲线模型、指数模型及对数模型等^[8-9],还有诸多理论计算方法,如分层总和法^[10]和理论解析法^[11]等。由于高填方路基的沉降变形过程历时长,且影响因素众多,如交通荷载^[12]、路基填料^[13-14]、地下水^[15]、施工方式^[16]和路基类型^[17]等。因此,路基变形量的动态变化往往呈现复杂的非线性特征^[18]。传统的预测和计算方法难以应对沉降变形过程中的复杂变化情况,无法很好地拟合和预测路基沉降变形趋势。与传统预测方法相比,机器学习方法在应对数据随机性、不确定性及非线性特征时展现出显著的技术优势。随着计算技术的发展,机器学习逐渐应用于土木工程领域,如隧道掘进参数预测^[19]、地面沉降预测^[20]、桥梁损伤识别^[21]、土体参数取值优化^[22]和大坝变形预测^[23]等。同样,机器学习在路基位移预测方面也得到较为广泛的应用。如Rong等^[24]基于高填方路堤边坡监测数据,结合模态分解方法克服了单一模型在变形预测时的局限性,提升了模型预测精度。Deng等^[25]基于多源监测数据,采用5种经典机器学习模型对铁路路基变形进行预测,发现上述模型预测效果好。李振华等^[26]基于BP神经网络构建了组合预测模型,并验证了其有效性。柴少波等^[18]通过模态分解和优化算法对长短期记忆网络进行改进,提出一种新型组合预测模型,可较好地学习沉降数据的高层次特征,预测精度得到明显提升。陈伟航等^[27]基于双向长短期记忆网络,对监测数据进行了双向特征提取,实现了路基位移早期精准预测。许江波等^[28]通过对日位移增量、净降雨量及蒸散量等位移影响因素进行相关性分析,利用与位移数据相关性较高的影响因素进行特征构造和位移预测。葛琦等^[29]基于路基边坡坡面位移实测数据建立了动态空间面板数据模型,并证明了该模型具有良好的时序预测效果,同时还具有一定空间预测能力。这些研究表明机器学习等新型预测方法在路基工程的变形预测等方面取得显著成果,预测精度较传统方法有所提升。但目前仍存在一些问题亟待解决,如长短期记忆网络模型的预测性能较依赖于其内部超参数的设定,传统人工试错法效率低且难以保证参数全局最优性。同时,优化算法本身存在易陷入局部最优、收敛速度慢等缺点,这在一定程度上限制了预测模型精度的进一步提升。

针对现有模型预测精度和优化搜寻效率的不足,现提出一种融合自注意力机制的双向长短期记忆网络(Bi-LSTM-SA)的路基沉降变形预测方法,并采用改进粒子群优化算法进行模型超参数优化。通过优化算法搜索策略和更新机制改进,并结合双向长短期记忆网络的双向序列处理能力和引入自注意力机制的动态加权分配方法,提出精度更优和泛化能力更强的预测模型。研究结果可为路基变形预测和灾变预警提供一个更精确、稳定的模型和技术支撑。

1 路基变形智能预测模型

1.1 双向长短期记忆网络预测方法

作为一种特殊的循环神经网络(recurrent neural network,RNN)^[30],长短期记忆网络(long short-term memory,LSTM)可作为路基变形智能预测的有效途径,如图1所示。其引入了包括遗忘门、输入门及输出门的门控机制,通过上述特殊门控单元可有效调控信息在网络中的流通与遗忘,使得模型能学习并维持数据中的长期依赖关系,从而克服在处理长序列数据时RNN易发生的梯度消失和爆炸问题^[31]。输入门确定当前时刻信息被纳入细胞状态的程度,输出门基于更新后的细胞状态,生成当前时刻的输出信息,遗忘门则对前一时刻的细胞状态进行调节,选择历史信息保留比例。该过程公式表达如下。

(1)${\mathit{f}}_{\mathit{t}}=\mathit{\sigma }\left({\mathit{W}}_{\mathit{f}}\right[{\mathit{h}}_{\mathrm{t}-1},{\mathit{x}}_{\mathit{t}}]+{\mathit{b}}_{\mathit{f}})$

(2)${\mathit{i}}_{\mathit{t}}=\mathit{\sigma }\left({\mathit{W}}_{\mathit{i}}\right[{\mathit{h}}_{\mathrm{t}-1},{\mathit{x}}_{\mathit{t}}]+{\mathit{b}}_{\mathit{i}})$

(3)${\stackrel{\sim }{\mathit{C}}}_{\mathit{t}}=\mathrm{t}\mathrm{a}\mathrm{n}\mathrm{h}\left({\mathit{W}}_{\stackrel{\sim }{\mathrm{C}}}\right[{\mathit{h}}_{\mathrm{t}-1},{\mathit{x}}_{\mathit{t}}]+{\mathit{b}}_{\stackrel{\sim }{\mathrm{C}}})$

(4)${\mathit{C}}_{\mathit{t}}={\mathit{f}}_{\mathit{t}}{\mathit{C}}_{\mathrm{t}-1}+{\mathit{i}}_{\mathit{t}}{\stackrel{\sim }{\mathit{C}}}_{\mathit{t}}$

(5)${\mathit{O}}_{\mathit{t}}=\mathit{\sigma }\left({\mathit{W}}_{\mathit{O}}\right[{\mathit{h}}_{\mathrm{t}-1},{\mathit{x}}_{\mathit{t}}]+{\mathit{b}}_{\mathit{O}})$

(6)${\mathit{h}}_{\mathit{t}}={\mathit{O}}_{\mathit{t}}\mathrm{t}\mathrm{a}\mathrm{n}\mathrm{h}{\mathit{C}}_{\mathit{t}}$

式中:f_t为遗忘门;i_t为输入门;O_t为输出门;${\stackrel{\sim }{\mathit{C}}}_{\mathit{t}}$为记忆细胞候选值;C_t和C_t-1分别为t时刻和t-1时刻的记忆细胞状态值;σ(·)为sigmoid函数;W(W_f、W_i、${\mathit{W}}_{\stackrel{\sim }{\mathrm{C}}}$和W_O)为相应的权重矩阵;b(b_f、b_i、${\mathit{b}}_{\stackrel{\sim }{\mathrm{C}}}$和b_O)为相应的偏置向量;x_t为t时刻的输入值;h_t-1和h_t分别为t-1时刻和t时刻的输出值;tanh(·)为双曲正切函数。

传统LSTM模型为单向循环网络,其基本结构决定了信息流的单向性,只能接收前一时刻的记忆细胞状态信息,但未考虑下一时刻记忆细胞状态信息。双向长短期记忆网络(bidirectional long short-term memory,Bi-LSTM)通过建立两个独立的LSTM层,即向前传递层和向后传递层,可将两个方向的隐藏状态拼接和融合,如图2所示。其特征在于可获取双向输入信息,从而更好地获取序列数据信息的全局特征并保持长期记忆^[32]。在向前传递阶段,网络沿时间正向序列(从时刻1到时刻t)计算,在向后传递阶段,网络则沿时间逆向序列(从时刻t到时刻1)计算,并保存两个阶段每个时刻的隐藏层输出。最后结合前向层和后向层的相应时刻输出结果得到最终结果。该过程可表示如下。

(7)${{\mathit{h}}^{\mathrm{f}}}_{\mathit{t}}={\mathrm{f}}^{\mathit{f}}({\mathit{w}}_{1}{\mathit{x}}_{\mathit{t}}+{\mathit{w}}_{2}{{\mathit{h}}^{\mathrm{f}}}_{\mathrm{t}-1})$

(8)${{\mathit{h}}^{\mathrm{b}}}_{\mathit{t}}={\mathrm{f}}^{\mathit{b}}({\mathit{w}}_{3}{\mathit{x}}_{\mathit{t}}+{\mathit{w}}_{5}{{\mathit{h}}^{\mathrm{b}}}_{\mathrm{t}+1})$

(9)${\mathit{h}}_{\mathit{t}}=\mathit{f}({\mathit{w}}_{4}{{\mathit{h}}^{\mathrm{f}}}_{\mathit{t}}+{\mathit{w}}_{6}{{\mathit{h}}^{\mathrm{b}}}_{\mathit{t}})$

式中:{h^f_t为t时刻的前向隐藏状态;{h^b_t为t时刻的后向隐藏状态;w₁∼w₆分别为输入层、前向传递层、传递层和输出层之间相应的权值矩阵;f^f(·)、f^b(·)、f(·)分别为前向分支、后向分支、特征融合层的激活函数。

1.2 自注意力机制及粒子群优化算法优化

自注意力机制(self-attention,SA)可计算单个序列内部不同位置元素间所存在的依赖关系^[33]。其通过为序列中的每个元素动态生成加权表示来计算序列中元素的自相关和互相关性。对于LSTM模块输出的多维特征向量X,该机制首先通过相应矩阵变换,分别得到查询向量(Query)、键向量(Key)和值向量(Value)。线性变换可描述如下。

(10)$\mathit{Q}=\mathit{X}{\mathit{W}}_{\mathit{q}}$

(11)$\mathit{K}=\mathit{X}{\mathit{W}}_{\mathit{k}}$

(12)$\mathit{V}=\mathit{X}{\mathit{W}}_{\mathit{v}}$

式中:X为输入向量;W_q、W_k和W_v分别为查询向量、键向量和值向量的权重矩阵。

通过计算每个查询向量与所有键向量之间的点积,获得注意力得分Scores矩阵,如图3所示。为缓解注意力得分结果过大导致的Softmax函数梯度饱和问题,需将注意力得分除以缩放因子。随后通过Softmax函数进行权重归一化,获得注意力权重,最终将得到的注意力权重和值向量矩阵V加权求和,从而得到序列中每个位置元素时间前后感知输出。上述过程可表示为

(13)$\mathit{B}=\mathrm{s}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}\left(\frac{\mathit{Q}{\mathit{K}}^{\mathrm{T}}}{\sqrt{{\mathit{d}}_{\mathit{k}}}}\right)\mathit{V}$

式(13)中:d_k为向量K对应的维度;Softmax(·)为归一化指数函数。

在网络预测方法中引入自注意力机制后,模型将得到优化。由于预测模型的性能还受其超参数组合的影响,而合理的参数配置是模型具有良好的学习能力和泛化性能的先决条件,故需进一步引入相关的优化算法。粒子群优化(particle swarm optimization,PSO)算法可在探索过程中根据个体及集体经验及时调整粒子的位置和速度,从而降低适应度函数值^[34]。

(14)${\mathit{v}}_{\mathit{i}}^{\mathrm{t}+1}=\mathit{w}{\mathit{v}}_{\mathit{i}}^{\mathit{t}}+{\mathit{c}}_{1}{\mathit{r}}_{1}({\mathit{p}}_{\mathit{i}}^{\mathit{t}}-{\mathit{x}}_{\mathit{i}}^{\mathit{t}})+{\mathit{c}}_{2}{\mathit{r}}_{2}({\mathit{g}}_{\mathrm{b}}^{\mathit{t}}-{\mathit{x}}_{\mathit{i}}^{\mathit{t}})$

(15)${\mathit{x}}_{\mathit{i}}^{\mathrm{t}+1}={\mathit{x}}_{\mathit{i}}^{\mathit{t}}+{\mathit{v}}_{\mathit{i}}^{\mathrm{t}+1}$

式中:v_i^t+1和x_i^t+1分别为迭代过程中第i个粒子在t+1时刻的速度和位置;w为惯性权重;c₁和c₂分别为认知学习因子和社会学习因子;r₁和r₂为两个在[0,1]的随机数;p_i^t为当前粒子的历史最优位置;g_b^t为种群粒子的历史最优位置。

传统的粒子群优化算法目前仍存在搜索效率低和搜索精度有限等不足,粒子在寻优过程中易陷入局部最优^[35]。传统算法的惯性权重和学习因子为固定值,该设置无法有效平衡粒子群的全局探索和局部探索能力,是导致其性能瓶颈和“早熟收敛”等问题的主要原因。因此,采用线性递减方法来更新惯性权重,同时动态调整学习因子。搜索初期鼓励粒子广泛探索,寻找全局最优,而在搜索后期则改变探索策略,促使粒子在各自的邻域内进行精细搜索。与传统算法相比,改进粒子群优化算法(improved particle swarm optimization,IPSO)的变化如下。

(16)$\mathit{w}={\mathit{w}}_{\mathrm{m}\mathrm{a}\mathrm{x}}-\frac{({\mathit{w}}_{\mathrm{m}\mathrm{a}\mathrm{x}}-{\mathit{w}}_{\mathrm{m}\mathrm{i}\mathrm{n}})\mathit{t}}{\mathit{T}}$

(17)${\mathit{c}}_{1}=\mathit{b}+(\mathit{a}-\mathit{b})\mathrm{c}\mathrm{o}\mathrm{s}\left(\frac{\mathrm{\pi }\mathit{t}}{2\mathit{T}}\right)$

(18)${\mathit{c}}_{2}=\mathit{a}-(\mathit{a}-\mathit{b})\mathrm{c}\mathrm{o}\mathrm{s}\left(\frac{\mathrm{\pi }\mathit{t}}{2\mathit{T}}\right)$

式中:w_max和w_min分别为惯性权重的最大值和最小值;t为当前迭代次数;T为最大迭代次数;a为c₁初始值,此处取2.5;b为c₂初始值,此处取0.5。

1.3 智能预测模型的计算流程

基于上述理论方法,提出的改进粒子群优化Bi-LSTM-SA模型的路基变形计算流程如图4所示。主要分为3个部分。

步骤1 选取训练所需监测点数据进行处理,包括数据归一化和数据集的划分等,随后将训练集和验证集输入模型中进行模型的训练和验证。

步骤2 搭建Bi-LSTM-SA模型,首先利用构建好的时间序列样本进行模型训练,随后利用验证数据对模型进行准确性验证和权重更新。

步骤3 利用改进粒子群优化算法,对所确定的模型超参数进行优化。通过对粒子搜索策略的调整,平衡了算法在迭代初期的全局探索与迭代后期的局部探索能力,避免过早收敛于局部最优解,实现超参数空间中精准、高效的搜索。

预测模型评价指标采用以下4项:平均绝对百分误差(mean absolute percentage error,MAPE)、均方根误差(root mean square error,RMSE)、平均绝对误差(mean absolute error,MAE)和决定系数(R-squared,R²)。其中,决定系数R²越大代表模型预测效果越好,其余指标越小代表预测效果越好,上述4项评价指标的计算公式如下。

(19)$\mathit{M}\mathit{A}\mathit{P}\mathit{E}=\frac{1}{\mathit{n}}\stackrel{\mathit{n}}{\sum _{\mathit{i}=1}}\left|\frac{{\mathit{y}}_{\mathit{i}}-{\hat{\mathit{y}}}_{\mathit{i}}}{{\mathit{y}}_{\mathit{i}}}\right|\times 100\mathrm{\%}$

(20)$\mathit{R}\mathit{M}\mathit{S}\mathit{E}=\sqrt{\frac{1}{\mathit{n}}\stackrel{\mathit{n}}{\sum _{\mathit{i}=1}}({\hat{\mathit{y}}}_{\mathit{i}}-{\mathit{y}}_{\mathit{i}}{)}^{2}}$

(21)$\mathit{M}\mathit{A}\mathit{E}=\frac{1}{\mathit{n}}\stackrel{\mathit{n}}{\sum _{\mathit{i}=1}}\left|{\hat{\mathit{y}}}_{\mathit{i}}-{\mathit{y}}_{\mathit{i}}\right|$

(22)${\mathit{R}}^{2}=1-\frac{\stackrel{\mathit{n}}{\sum _{\mathit{i}=1}}({\mathit{y}}_{\mathit{i}}-{\hat{\mathit{y}}}_{\mathit{i}}{)}^{2}}{\stackrel{\mathit{n}}{\sum _{\mathit{i}=1}}({\mathit{y}}_{\mathit{i}}{-\stackrel{-}{\mathit{y}})}^{2}}$

式中:y_i为实测值;${\hat{\mathrm{y}}}_{\mathrm{i}}$为预测值;$\stackrel{-}{\mathit{y}}$为平均值。

2 填方路基变形智能预测分析

2.1 工程概况

基于某填方路基实测数据来进行模型训练和测试,进而验证其有效性。该填方路基工程拟建场地属构造侵蚀中山斜坡地貌,位于斜坡中上部,山坡较陡峭,自然坡度15°~30°,山坡植被较发育,场地地形较起伏。场址水文地质情况为:路基段未见地表水,雨季低洼处有少量积水,天旱则无水。路基区地下水主要为基岩裂隙水,主要赋存于基岩裂隙中。地层基本情况如下。

(1)含碎石粉质黏土:灰黄色,硬塑,土质不均,含25%左右砾石,一般粒径10~50 mm,多呈棱角状,母岩主要成分为强风化泥质砂岩。

(2)碎石:灰黄色,稍湿,密实,含量为60%~70%,一般粒径20~60 mm,母岩为泥质砂岩,呈次棱角状,黏性土填充。

(3)强风化泥质砂岩:浅灰色,原岩结构部分被破坏,局部可见砂质结构,层状构造,节理裂隙发育,岩芯多呈块状,少量短柱状,节长20 cm,锤声沙哑。

该填方路基布设有位移监测点位的路段如图5所示,在坡面上设置了3个位移监测点。

2.2 监测数据处理及模型训练

选取路基监测点1~监测点3在2023年8月10日—2024年8月10日的沉降和水平位移监测数据,如图6所示,输入模型训练和验证。针对监测数据中的少量缺失数据,采用Akima插值法插值填充,从而保证数据点之间为等时距。上述插值方法通过在两个数据点[x_i,x_i+1]之间构建分段三次多项式,进而生成一条平滑曲线。与传统三次样条插值相比,可有效避免插值产生的伪振荡现象,更好地保留数据的局部形状特征,如式(23)所示。最后,处理完成的训练和验证数据为时间间隔4 h的等时距序列集,每个测点包含2 200个样本数据。

(23)${\mathit{S}}_{\mathit{i}}\left(\mathit{x}\right)={\mathit{a}}_{\mathit{i}}+{\mathit{b}}_{\mathit{i}}(\mathit{x}-{\mathit{x}}_{\mathit{i}})+{\mathit{c}}_{\mathit{i}}(\mathit{x}-{\mathit{x}}_{\mathit{i}}{)}^{2}+{\mathit{d}}_{\mathit{i}}(\mathit{x}-{\mathit{x}}_{\mathit{i}}{)}^{3}$

式(23)中:S_i(x)为所构建的插值函数的第i个区间分段;a_i、b_i、c_i和d_i为第i段三次多项式的系数,由区间端点值[y_i,y_i₊₁]和端点处的导数[t_i,t_i₊₁]确定;x_i为第i个区间分段的起点;x为插值点。

为避免数据泄漏,确保能真实、准确地评估预测模型性能,首先进行输入数据集划分,随后再分别进行归一化处理。将总数据集沿时间序列方向按照70%、10%和20%的比例划分为训练集、验证集及测试集。为降低计算成本、提升模型计算速度和提高模型的泛化能力,采用最大-最小(Max-Min)归一化方法对监测数据归一化,将数据缩放至[0,1]区间,公式为

(24)${\mathit{X}}_{\mathrm{s}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{e}\mathrm{d}}=\frac{\mathit{X}-{\mathit{X}}_{\mathrm{m}\mathrm{i}\mathrm{n}}}{{\mathit{X}}_{\mathrm{m}\mathrm{a}\mathrm{x}}-{\mathit{X}}_{\mathrm{m}\mathrm{i}\mathrm{n}}}$

式(24)中:X_scaled为归一化后的数据;X为监测数据;X_min为监测数据中的最小值;X_max为监测数据中的最大值。

路基沉降和水平位移演变趋势在相邻时间步上表现出较强关联性,随着时间跨度增大,相关性会显著减弱,导致难以精确预测工后长期的沉降和水平位移^[27]。为避免上述问题,采用单步预测方法进行变形预测来保证预测精度和时效性,并通过滑动窗口法生成多个依次重叠的子数据样本输入预测模型进行训练和验证。此外,滑动窗口法使得预测模型可同时学习样本数据的短期细节变化和长期演变趋势,在多个时间尺度上提取样本数据的内在特征,在提升模型鲁棒性的同时降低过拟合风险^[36]。如图7所示,预测模型每次根据前n个时间步沉降和水平位移数据预测相关性最高的第n+1个时间步沉降量和水平位移,为了便于对比分析,将n均设置为50。

2.3 模型结构及超参数优化

在建立预测模型时,采用多层网络结构可以增强模型对时间序列数据中复杂和抽象层级特征的学习能力,从而提升模型预测精度^[37]。对于循环神经网络中的多层网络结构,相关已有研究^[38]指出隐藏层的数量通常选择3层。考虑到预测模型的复杂度和计算成本,参考相关研究^[27]中的设置,本研究中循环神经网络的隐藏层数量设置为2层,如图8所示。其中,两层隐藏层分别记作Bi-L1和Bi-L2;两层自注意力层分别记作SA1和SA2,衔接于前两层隐藏层之后;最后通过池化层和dense层得到预测值。预测模型的整体运行流程如下。

步骤1 将滑动生成的数据样本按照批次大小输入模型中,每个数据样本包括n个时间步的沉降数据,利用第i个时间步到第i+n-1个时间步的数据来预测第i+n个时间步的数据。

步骤2 当样本数据序列x进入Bi-L1层时,经过双向处理后生成每个时间步i的前向隐藏状态{h^f_i和后向的隐藏状态{h^b_i,随后将双向状态进行拼接,生成更为丰富的隐藏状态h_i¹。经过上述处理后,样本序列数据x被转换成一个新的隐藏状态序列h¹,该序列可表示为$({\mathit{h}}_{\mathit{i}}^{1},{\mathit{h}}_{\mathrm{i}+1}^{1},{\mathit{h}}_{\mathrm{i}+2}^{1},\dots,{\mathit{h}}_{\mathrm{i}+\mathrm{n}-2}^{1},{\mathit{h}}_{\mathrm{i}+\mathrm{n}-1}^{1})$。

步骤3 Bi-L1的输出序列h¹作为自注意力层(SA1)的输入。自注意力机制会将序列h¹中的第i个时间步的向量h_i¹分别乘以相应权重矩阵,得到该时间步的查询向量q_i、键向量k_i和值向量v_i。通过上述每个时间步的q_i和k_i计算注意力分数,并归一化得到注意力权重a_i,j。最后将v_i和a_i,j加权求和,生成SA1的输出序列b¹,该序列可表示为$({\mathit{b}}_{\mathit{i}}^{1},{\mathit{b}}_{\mathrm{i}+1}^{1},{\mathit{b}}_{\mathrm{i}+2}^{1},\dots,{\mathit{b}}_{\mathrm{i}+\mathrm{n}-2}^{1},{\mathit{b}}_{\mathrm{i}+\mathrm{n}-1}^{1})$,具体如下。

(25)${\mathit{b}}_{\mathit{i}}^{1}=\stackrel{\mathit{n}}{\sum _{\mathit{j}=1}}{\mathit{a}}_{\mathit{i},\mathit{j}}{\mathit{v}}_{\mathit{j}}$

式(25)中:b_i¹为第i个时间步的输出向量;a_i,j为第j个时间步的注意力权重值;v_j为第j个时间步的值向量;n为样本序列数据长度。

步骤4 Bi-L2和SA2的序列输入输出方式与上述流程类似,故这里不作详细展开。上述所有隐藏层和自注意力层的输出均为序列数据。

步骤5 SA2的输出通过池化层进行压缩并消除时间步维度,然后通过两层全连接层进行降维处理,实现高维特征空间到预测目标输出空间的非线性映射,完成预测。

为防止模型产生过拟合,通过Dropout机制在模型训练的过程中“随机失活”部分神经元,在每个自注意力层后引入该机制,避免模型陷入局部依赖,以增强模型泛化性能^[39]。

采用改进粒子群优化算法,对预测模型结构中的超参数进行自动寻优,并在所确定的多维搜索空间中不断更新粒子速度和位置寻找全局最优解。所需寻优的超参数寻优范围如表1所示,其中学习率和Dropout层的寻优范围在区间内连续,其余参数寻优范围在区间内为离散型,设置为2的幂次方。设置粒子数量为10,最大迭代次数为50。

2.4 路基变形智能预测结果与优化分析

2.4.1 模型预测结果对比

为验证组合模型的准确性,将监测点1~监测点3的现场实测数据分别采用BP模型、Bi-LSTM模型(以下简称B-L模型)、Bi-LSTM-SA模型(以下简称B-L-S模型)和IPSO-Bi-LSTM-SA(以下简称I-B-L-S模型)进行预测和对比。3个监测点沉降量的预测结果如图9所示,4种预测模型在监测点1~监测点3上的预测结果的整体趋势与实测数据较一致,说明模型结构配置的合理性。B-L-S模型和I-B-L-S模型的预测效果明显优于B-L模型和BP模型。BP模型仅学习到了沉降数据演变的整体趋势,但对沉降数据细微变化的学习程度稍显不足。对于上述情况,其余3种预测模型则有明显改观,但仍存在预测精度之间的差异。

为更好地对比和验证预测模型的有效性,对所有监测点预测误差进行统计分析,结果如图9所示。表2则给出了预测结果的评价指标MAPE、RMSE、MAE和R²。结合图9和表2的结果进行对比分析:对于监测点1和监测点2,BP模型的预测误差平均为1.0 mm,最大值接近2.0 mm。对于监测点3,BP模型的预测误差平均为0.5 mm,最大值超过1.0 mm。由于监测点3的沉降量相较于其他监测点较小,仅从误差分析较为片面,需要引入多种评价指标综合判断。此时,3个监测点的MAE分别为0.640 9、0.771 9和0.302 6 mm,RMSE分别为0.782 7、0.928 5和0.393 4 mm,MAPE分别为1.939 5%、1.589 6%和1.599 5%,R²分别为0.822 4、0.833 9和0.794 9。综合上述指标结果可以看出,BP模型的预测效果并不太理想。B-L模型相较于BP模型,预测精度有明显提升,监测点1和监测点2的最大误差从2 mm附近降低到1 mm,监测点3的最大误差也降低到0.8 mm附近,同时其余评价指标性能均有一定的提升。引入自注意力机制后的B-L-S模型相较于B-L模型,其预测值与实测值更吻合,此时3个监测点的MAPE均降低到1.0%以下,RMSE分别为0.407 7、0.431 5和0.235 8 mm,R²分别为0.951 8、0.964 1和0.926 3。通过优化算法进行超参数优化后的I-B-L-S模型的预测性能得到进一步提升,3个监测点的平均误差值均小于0.5 mm,MAPE也分别降低到0.738 9%、0.547 3%和0.729 9%,R²均大于0.95。

使用不同预测模型对3个监测点的水平位移进行预测,结果如图10所示。可以发现与沉降量的预测结果类似,I-B-L-S模型所预测的水平位移变化趋势与实测数据吻合度最高。其余3种模型的预测结果在趋势上表现较好,但在整体结果误差控制上还存在差异。其中,BP模型表现最差,对于水平位移的波动情况,预测效果并不理想,多数时间步的预测误差均大于1.0 mm。而对于B-L模型和B-L-S模型,在提升预测精度的同时,也能较好地预测出位移变化的波动情况。

相应的评价指标结果如表3所示,结合图10和表3的结果可知,在3个监测点的预测结果中,加入自注意力机制的B-L-S模型和I-B-L-S模型的预测表现更佳,上述两种模型的MAPE均小于1.0%,除监测点3外,其余监测点的R²都大于0.95。经过模型超参数寻优后,I-B-L-S模型的预测效果进一步提升,4种评价指标MAE、RMSE、MAPE和R²均优于其余3种模型。此时,3个监测点的MAE分别减小到0.208 3、0.176 3和0.194 5 mm,RMSE则分别降低到0.252 7、0.221 2和0.242 5 mm,且MAPE均小于0.5%,R²也进一步提升到0.983 4、0.990 8和0.989 3。B-L模型的预测表现次之,3个监测点上的预测误差接近1.0 mm,MAE和RMSE在0.4~0.7 mm,MAPE在0.9%~1.3%,R²在0.91~0.94。而BP模型的预测表现最差,预测误差明显增大,3个监测点上的MAE在0.6~0.9 mm,RMSE在0.7~1.0 mm,MAPE均大于1.3%,R²分别为0.864 7、0.819 0和0.858 3。

2.4.2 优化效果对比分析

分别采用改进粒子群优化算法(IPSO)和传统粒子群优化算法(PSO)对模型超参数进行了优化,超参数优化迭代过程的适应度值对比曲线(沉降量和水平位移)如图11所示。可知,两个模型经过IPSO算法优化后,收敛时的适应度值均小于PSO算法优化后的适应度值。在沉降量预测模型中,PSO算法在第28次迭代时已达到最优适应度,但直到第50次迭代时也并没有跳出“局部最优”。而通过动态调整惯性权重w和学习因子c₁和c₂后的IPSO模型在8次迭代时就已达到较优的适应度值,并在第25次迭代时寻找到全局最优适应度值。对于水平位移预测模型,前20次迭代中IPSO算法和PSO算法的寻优结果差距不明显,在第20次迭代时,IPSO算法寻优出全局最优适应度值。从上述模型优化过程对比可知,改进后的优化算法具有较好的优化效果。

为量化分析不同模型对路基边坡位移变形预测的综合性能,计算了4种模型在监测点1、监测点2和监测点3的平均性能指标,如图12所示。结果表明:循环神经网络模型(B-L、B-L-S和I-B-L-S)的平均性能指标优于BP模型,这是因为其独特的门控机制和细胞状态设计,克服了标准反向传播在处理长序列数据时的内在缺陷。相较于B-L模型,B-L-S模型的平均MAE_V、MAE_H、RMSE_V、RMSE_H、MAPE_V和MAPE_H分别降低了32.5%、28.2%、27.5%、25.7%、28.6%和28.2%,平均R²_V和R²_H分别提高了4.5%和3.7%;而I-B-L-S模型的平均MAE_V、MAE_H、RMSE_V、RMSE_H、MAPE_V和MAPE_H分别降低了48.4%、66.0%、45.7%、60.8%、46.0%和65.2%,平均R²_V和R²_H分别提高了7.1%和6.9%。

上述结果说明引入自注意力机制和进行超参数优化能有效提升原模型的预测效果,分析其原因主要体现在两个方面。一方面,在循环层后嵌入自注意力层,使模型可更准确地捕捉样本时间序列之间的内在联系和相关性,并加深对关键数据的关注^[36]。另一方面,将超参数构造成一个高维、复杂且非线性的搜索空间进行寻优,使得模型的学习效率和泛化能力进一步提升,从而达到搜索范围内的近乎最优。

3 结论

采用不同智能预测模型对路基沉降和水平位移进行分析,并通过平均绝对百分误差、均方根误差、平均绝对误差及决定系数4个指标对预测模型预测性能进行了评价。得出主要结论如下。

(1)相较于BP模型,循环神经网络模型(B-L、B-L-S和I-B-L-S)的预测性能更优,在保证预测结果与实测数据整体演变趋势一致的情况下,能进一步体现出变形波动情况,预测结果与实测数据符合得更好。

(2)通过改进粒子群优化算法,动态更新惯性权重和学习因子来改变粒子群的搜寻策略。对比IPSO算法和原始PSO算法的预测模型超参数寻优过程发现,IPSO算法能够有效改善寻优过程中的过早收敛现象,从而跳出“局部最优”困境。对比沉降和水平位移模型优化过程看出,经过多次优化迭代过程后,IPSO算法能得到搜索范围内预测模型的全局最优适应度。

(3)对于路基沉降和水平位移预测结果,相比于其他3种模型,I-B-L-S模型性能评价指标表现更好。这表明引入自注意力机制使模型能更准确地识别样本时间序列间的内在联系和长距离依赖关系。通过高维、非线性动态超参数寻优,达到搜索范围内的近乎最优,从而显著提高了模型学习效率和预测性能。

提出的融合自注意力机制和改进粒子群优化算法的I-B-L-S模型预测效果好,能准确预测路基变形。由于仅研究了单步预测结果,后续可针对多步预测进行研究。同时,也可引入其他类型监测数据形成多源数据来丰富训练数据,并通过提取和学习多源监测数据之间的相关性,从而进一步提升模型预测性能。

参考文献

原文顺序 | 出版日期 | 本文引用

[1]	刘先林, 吕玺琳, 蓝日彦, 等. 山区公路沿线滑坡灾害识警控一体化处治方法[J]. 中国公路学报, 2025, 38(10): 21-35.

[2]	Liu Xianlin, Lü Xilin, Lan Riyan, et al. Identification-early warning-control integrated treatment method of landslide disasters along mountainous highways[J]. China Journal of Highway and Transport, 2025, 38(10): 21-35.

[3]	杨洲, 程晓辉, 关文, 等. 地下水渗流致高填方路基失稳: 案例研究及有限元极限分析[J]. 中国公路学报, 2025, 38(5): 1-10.

[4]	Yang Zhou, Cheng Xiaohui, Guan Wen, et al. High fill embankment instability induced by groundwater seepage: a case study and finite element limit analysis[J]. China Journal of Highway and Transport, 2025, 38(5): 1-10.

[5]	张平松, 余宏庆, 许时昂, 等. 公路路基变形破坏及其测试技术研究进展与展望[J]. 科学技术与工程, 2024, 24(15): 6134-6145.

[6]	Zhang Pingsong, Yu Hongqing, Xu Shiang, et al. Review of highway subgrade deformation and testing technology[J]. Science Technology and Engineering, 2024, 24(15): 6134-6145.

[7]	谢永利, 董耿志, 岳夏冰, 等. 填方路基状态特征和工程问题研究综述[J]. 中国公路学报, 2025, 38(8): 228-249.

[8]	Xie Yongli, Dong Gengzhi, Yue Xiabing, et al. Review and perspective on the state characteristics and engineering issues of fill subgrades[J]. China Journal of Highway and Transport, 2025, 38(8): 228-249.

[9]	王金昌, 龙宇航, 范志宏, 等. 浙江省高速公路软基工后沉降影响及对策[J]. 地基处理, 2025, 7(6): 574-583.

[10]	Wang Jinchang, Long Yuhang, Fan Zhihong, et al. Influence of post-construction settlement and countermeasures on soft foundation of Zhejiang highways[J]. Journal of Ground Improvement, 2025, 7(6): 574-583.

[11]	梁斌, 卜一鸣, 邓洪龙, 等. 高速公路软弱路基边坡沉降滑移机理分析及微型桩复合加固[J]. 华北水利水电大学学报(自然科学版), 2024, 45(3): 67-76.

[12]	Liang Bin, Bu Yiming, Deng Honglong, et al. Analysis of the mechanism of settlement and slip of weak subgrade slope of expressway and micro-pile composite reinforcement[J]. Journal of North China University of Water Resources and Electric Power (Natural Science Edition), 2024, 45(3): 67-76.

[13]	岳中琦. 梅大高速公路路基边坡失稳条件与滑坡机理初探[J]. 中国地质灾害与防治学报, 2024, 35(4): 1-12.

[14]	Yue Zhongqi. Study on the instability condition and landslide mechanism of subgrade slope in Mei-Da Expressway[J]. The Chinese Journal of Geological Hazard and Control, 2024, 35(4): 1-12.

[15]	Du Y, He X J, Wu C, et al. Long-term monitoring and analysis of the longitudinal differential settlement of an expressway bridge-subgrade transition section in a loess area[J]. Scientific Reports, 2022, 12(1): 19327.

[16]	于永堂, 郑建国, 孙茉, 等. 黄土高填方场地工后沉降预测模型性能评估方法[J]. 中国地质灾害与防治学报, 2023, 34(4): 39-48.

[17]	Yu Yongtang, Zheng Jianguo, Sun Mo, et al. Evaluation methods for performance of post-construction settlement prediction models in thick loess filled ground[J]. The Chinese Journal of Geological Hazard and Control, 2023, 34(4): 39-48.

[18]	曹文贵, 李鹏, 唐旖旎, 等. 基于孔隙介质特征的地基沉降分层总和分析方法[J]. 中国公路学报, 2016, 29(3): 1-8, 65.

[19]	Cao Wengui, Li Peng, Tang Yini, et al. Layer-wise summation analysis method for settlement of ground foundation based on porous medium features[J]. China Journal of Highway and Transport, 2016, 29(3): 1-8, 65.

[20]	吕玺琳, 方航, 张甲峰. 循环交通荷载下软土路基长期沉降理论解[J]. 岩土力学, 2016, 37(S1): 435-440.

[21]	Lü Xilin, Fang Hang, Zhang Jiafeng. A theoretical solution for long-term settlement of soft subgrade induced by traffic loading[J]. Rock and Soil Mechanics, 2016, 37(S1): 435-440.

[22]	胡静, 唐跃, 张家康, 等. 水位抬升对高铁路基动力响应与长期沉降的影响[J]. 交通运输工程学报, 2023, 23(4): 75-91.

[23]	Hu Jing, Tang Yue, Zhang Jiakang, et al. Influences of water level rise on dynamic responses and long-term settlement of high-speed railway subgrade[J]. Journal of Traffic and Transportation Engineering, 2023, 23(4): 75-91.

[24]	赵秀绍, 程安, 赵林浩, 等. 千枚岩复合改良土单轴压缩力学特性[J]. 交通运输工程学报, 2024, 24(3): 171-180.

[25]	Zhao Xiushao, Cheng An, Zhao Linhao, et al. Mechanical properties of composite improved phyllite soil under uniaxial compression[J]. Journal of Traffic and Transportation Engineering, 2024, 24(3): 171-180.

[26]	谢志伟, 马一跃, 张艳, 等. 考虑颗粒破碎影响的隧道宕渣循环动载累积变形特性试验[J]. 中国公路学报, 2024, 37(6): 144-156.

[27]	Xie Zhiwei, Ma Yiyue, Zhang Yan, et al. Experimental study on accumulative deformation characteristics of tunnel slag under cyclic dynamic loading considering particle breakage effect[J]. China Journal of Highway and Transport, 2024, 37(6): 144-156.

[28]	陈涛, 陈新国, 吴慧明, 等. 软土地区路基失稳机理及治理对策案例研究[J]. 地基处理, 2024, 6(2): 178-184.

[29]	Chen Tao, Chen Xinguo, Wu Huiming, et al. A case study on mechanism analysis and treatment measures of subgrade instability in soft soil area[J]. Journal of Ground Improvement, 2024, 6(2): 178-184.

[30]	吴江斌, 王卫东, 胡耘, 等. 乌鲁木齐国际机场北区改扩建工程航站区高填方地基处理设计与实践[J]. 地基处理, 2025, 7(1): 1-9, 35.

[31]	Wu Jiangbin, Wang Weidong, Hu Yun, et al. Design and implementation of high fill foundation treatment for the terminal zone in the north area expansion and renovation project of Urumqi International Airport[J]. Journal of Ground Improvement, 2025, 7(1): 1-9, 35.

[32]	刘启清, 李诚豪, 张凌之, 等. 基于颗粒非连续变形法的路基桩网结构土拱效应[J]. 科学技术与工程, 2024, 24(7): 2917-2926.

[33]	Liu Qiqing, Li Chenghao, Zhang Lingzhi, et al. Soil arch effect of roadbed pile network structure based on particle discontinuous deformation method[J]. Science Technology and Engineering, 2024, 24(7): 2917-2926.

[34]	柴少波, 岳山丘, 王铭一, 等. 基于变分模态分解和粒子群优化长短期记忆网络的黄土地区高填方路基沉降预测[J]. 太原理工大学学报, 2025, 56(5): 907-915.

[35]	Chai Shaobo, Yue Shanqiu, Wang Mingyi, et al. Settlement prediction of high fill subgrade in loess areas based on variational mode decomposition and particle swarm optimization of long short-term memory networks[J]. Journal of Taiyuan University of Technology, 2025, 56(5): 907-915.

[36]	Huang H, Chang J, Zhang D, et al. Machine learning-based automatic control of tunneling posture of shield machine[J]. Journal of Rock Mechanics and Geotechnical Engineering, 2022, 14(4): 1153-1164.

[37]	Ye X, Jin T, Chen Y. Machine learning-based forecasting of soil settlement induced by shield tunneling construction[J]. Tunnelling and Underground Space Technology incorporating Trenchless Technology Research, 2022, 124: 104452.

[38]	袁辉, 谢庆, 计明军, 等. 基于PSO-LSTM算法的公路桥梁结构损伤识别研究[J]. 公路, 2025, 70(2): 428-434.

[39]	Yuan Hui, Xie Qing, Ji Mingjun, et al. Research on structural damage monitoring of highway bridges based on PSO-LSTM[J]. Highway, 2025, 70(2): 428-434.

[40]	汪姚文, 杨伟峰, 郑鑫源, 等. 基于机器学习的宁波淤泥质黏土参数取值优化模型[J]. 工程地质学报, 2025, 33(1): 38-46.

[41]	Wang Yaowen, Yang Weifeng, Zheng Xinyuan, et al. Optimization model for parameter value of Ningbo silt clay based on machine learning[J]. Journal of Engineering Geology, 2025, 33(1): 38-46.

[42]	卢文欣, 张雷, 刘波, 等. 基于EMD-MGWO-LSTM的大坝沉降预测模型[J]. 科学技术与工程, 2024, 24(35): 15224-15232.

[43]	Lu Wenxin, Zhang Lei, Liu Bo, et al. Prediction model of dam settlement based on improved EMD-MGWO-LSTM[J]. Science Technology and Engineering, 2024, 24(35): 15224-15232.

[44]	Rong M, Feng C, Wang H, et al. Dynamic prediction of slope displacement using VMD decomposition with collaborative LSSVM-LSTM optimization[J]. Scientific Reports, 2025, 15(1): 35176.

[45]	Deng Z, He Y, Li Y, et al. Monitoring and prediction of surface deformation along railways lines in karst areas using multi-source data: a case study of the Beijing-Guangzhou Railway in China[J]. Transportation Geotechnics, 2025, 52: 101564.

[46]	李振华. 融合人工智能算法的铁路路基沉降预测方法[J]. 铁道建筑, 2023, 63(2): 123-128.

[47]	Li Zhenhua. Prediction method of railway subgrade settlement based on artificial intelligence algorithm[J]. Railway Engineering, 2023, 63(2): 123-128.

[48]	陈伟航, 罗强, 王腾飞, 等. 基于Bi-LSTM的非等时距路基工后沉降滚动预测[J]. 浙江大学学报(工学版), 2022, 56(4): 683-691.

[49]	Chen Weihang, Luo Qiang, Wang Tengfei, et al. Bi-LSTM based rolling forecast of subgrade post-construction settlement with unevenly spaced time series[J]. Journal of Zhejiang University (Engineering Science), 2022, 56(4): 683-691.

[50]	许江波, 侯鑫敏, 吴雄, 等. 基于MIC-XGBoost-LSTM模型的边坡位移预测研究[J]. 中国公路学报, 2024, 37(10): 38-48.

[51]	Xu Jiangbo, Hou Xinmin, Wu Xiong, et al. Slope displacement prediction using MIC-XGBoost-LSTM model[J]. China Journal of Highway and Transport, 2024, 37(10): 38-48.

[52]	葛琦, 汪东飞, 孙红月, 等. 基于动态空间面板模型的填方路基边坡坡面位移预测[J]. 工程地质学报, 2019, 27(2): 367-375.

[53]	Ge Qi, Wang Dongfei, Sun Hongyue, et al. Displacement prediction of filling road bed slope surface based on dynamic spatial panels model[J]. Journal of Engineering Geology, 2019, 27(2): 367-375.

[54]	Hochreiter S, Schmidhuber J. Long short-term memory[J]. Neural Computation, 1997, 9(8): 1735-1780.

[55]	张洋铭, 万定生. 改进PSO-LSTM的水文时间序列预测[J]. 计算机工程与设计, 2022, 43(1): 203-209.

[56]	Zhang Yangming, Wan Dingsheng. Hydrological time series prediction based on improved PSO-LSTM[J]. Computer Engineering and Design, 2022, 43(1): 203-209.

[57]	李博, 张传煌, 于晓, 等. 基于VMD-CNN-BiLSTM模型的短时交通流预测[J]. 武汉理工大学学报(交通科学与工程版), 2026, 50(2): 250-257.

[58]	Li Bo, Zhang Chuanhuang, Yu Xiao. Short-term traffic flow prediction based on VMD-CNN-BiLSTM model[J]. Journal of Wuhan University of Technology (Transportation Science & Engineering), 2026, 50(2): 250-257.

[59]	Vaswani A, Shazeer N, Parmar N, et al. Attention is all you need[C]// Advances in Neural Information Processing Systems 30 (NIPS 2017). Long Beach: ACM, 2017: 6000-6010.

[60]	Eberhart R C, Kennedy J. A new optimizer using particle swarm theory[C]// Proceedings of the Sixth International Symposium on Micro Machine and Human Science. Nagoya: IEEE, 1995: 39-43.

[61]	陈攀, 孙鉴, 吴隹伟, 等. 基于改进粒子群的云计算任务调度算法[J]. 科学技术与工程, 2025, 25(12): 5045-5057.

[62]	Chen Pan, Sun Jian, Wu Zhuwei, et al. Cloud computing task scheduling algorithm based on improved particle swarm optimization[J]. Science Technology and Engineering, 2025, 25(12): 5045-5057.

[63]	宋牧原, 杨明辉, 陈伟, 等. 基于自注意力-循环神经网络模型盾构引发的土体沉降预测[J]. 岩土力学, 2025, 46(8): 2613-2625.

[64]	Song Muyuan, Yang Minghui, Chen Wei, et al. Prediction of shield tunneling-induced soil settlement based on self-attention recurrent neural network model[J]. Rock and Soil Mechanics, 2025, 46(8): 2613-2625.

[65]	Arsalan M, Reza H N, Mokhtar M, et al. Forecasting tunnel boring machine penetration rate using LSTM deep neural network optimized by grey wolf optimization algorithm[J]. Expert Systems with Applications, 2022, 209: 118303.

[66]	Hamed F, Behrouz A, Sahand H, et al. A data-driven structural damage identification approach using deep convolutional-attention-recurrent neural architecture under temperature variations[J]. Engineering Structures, 2023, 276: 115311.

[67]	Wang Z, Xiao C, Goh S H, et al. Metamodel-based reliability analysis in spatially variable soils using convolutional neural networks[J]. Journal of Geotechnical and Geoenvironmental Engineering, 2021, 147(3). DOI: 10.1061/(ASCE)GT.1943-5606.0002486.