改进沙猫优化算法融合序列二次分解的短期电力负荷预测

于天河; 臧君; 奚凯恒; 刘镛

doi:10.12404/j.issn.1671-1815.2504389

科学技术与工程 ›› 2026, Vol. 26 ›› Issue (16) :6890-6901 DOI: 10.12404/j.issn.1671-1815.2504389

电工技术

改进沙猫优化算法融合序列二次分解的短期电力负荷预测

作者信息 +

Improved Sand Cat Optimization Algorithm Fusing Sequential Quadratic Decomposition for Short-term Power Load Forecasting

Author information +

文章历史 +

摘要

智能电网的迅速发展带动了电力系统的智能化、高效化发展,在对电力负荷进行预测的过程中,存在负荷数据不合理分解,预测精度不高等问题,提出一种基于优化二次分解的BiLSTNet组合预测模型。首先,使用改进的完全自适应噪声集合经验模态分解(improved complete ensemble empirical mode decomposition with adaptive noise, ICEEMDAN)对负荷数据进行一次分解重构降低数据整体的噪声影响。其次,使用变分模态分解(variational mode decomposition, VMD)对数据进行二次分解并重构。为优化VMD的分解参数,使用改进沙猫种群算法(enhanced sand cat swarm optimization, ESCSO)对VMD参数进行寻优,引入Kent混沌映射初始化算法种群,采用纵横搜索策略和自适应t分布扰动策略,提高全局搜索和跳出局部最优能力。最后,将重构后的数据输入BiLSTNet混合模型进行预测。实验结果表明:所提方法在澳大利亚电力负荷数据集上表现出较好的分解结果和预测精度,优于其他传统混合模型,具有较高的实用价值。

Abstract

With the rapid development of the smart grid, the power system has been driven toward intelligent and efficient development. In the process of predicting power load, problems such as unreasonable decomposition of load data and low prediction accuracy have been observed. A BiLSTNet combined prediction model based on optimized quadratic decomposition was proposed. Firstly, the load data were decomposed and reconstructed using improved complete ensemble empirical modal decomposition with adaptive noise (ICEEMDAN) to reduce the overall noise effect of the data. Secondly, the variational mode decomposition (VMD) was applied for the secondary decomposition and reconstruction. To optimize the decomposition parameters of VMD, the enhanced sand cat swarm optimization (ESCSO) was utilized, in which the Kent chaotic map was introduced to initialize the algorithm population, and both the vertical-horizontal search strategy and adaptive t-distribution perturbation were adopted to enhance global search and the ability to jump out of the local optimum. Finally, the reconstructed data were fed into BiLSTNet hybrid model for prediction. Experimental results demonstrate that the proposed method achieves better decomposition results and prediction accuracy on the Australian electricity load dataset than other traditional hybrid models, showing higher practical value.

Graphical abstract

关键词

智能电网 / 沙猫种群优化算法 / 二次分解 / 时间序列分析

Key words

smart grid / sand cat swarm optimization algorithm / twice decomposition / time series analysis

引用本文

引用格式 ▾

于天河, 臧君, 奚凯恒, 刘镛. 改进沙猫优化算法融合序列二次分解的短期电力负荷预测[J]. 科学技术与工程, 2026, 26(16): 6890-6901 DOI:10.12404/j.issn.1671-1815.2504389

YU Tian-he, ZANG Jun, XI Kai-heng, LIU Yong. Improved Sand Cat Optimization Algorithm Fusing Sequential Quadratic Decomposition for Short-term Power Load Forecasting[J]. Science Technology and Engineering, 2026, 26(16): 6890-6901 DOI:10.12404/j.issn.1671-1815.2504389

登录浏览全文

4963

注册一个新账户忘记密码

随着经济快速发展和工业化进程不断推进,用电需求不断增加,智能电网技术得到迅速发展,短期电力负荷预测成为电力系统运营规划的关键^[1-2]。短期电力负荷预测包括三种方法:传统预测、机器学习和深度学习^[3]。传统预测是建立时间序列模型,该方法应用广泛,但负荷值数量较大时,无法得到较为理想的预测结果。近年来,随着人工智能技术的蓬勃发展,机器学习和深度学习迅速崛起,推动了数据预测的技术进步^[4]。通过各种模型挖掘大量数据潜在的规律和趋势,精准的捕捉电力负荷季节性、周期性、复杂性和非线性关系,以此来提高预测的准确性^[5]。

电力负荷模型主要有:数学模型、机器学习模型以及深度学习混合模型。随着目前技术不断进步,建立数学模型已成为过去式,应用深度学习模型成为主流,在简化模型建立的同时提高了预测精度。Mounir等^[6]提出了使用长短期记忆网络(long short term memory, LSTM)网络对负荷数据进行预测,但LSTM只能处理单向时间序列数据,无法充分考虑负荷的内在联系。Wu等^[7]提出一种CNN-LSTM-BiLSTM的混合网络预测模型。Chen等^[8]将卷积神经网络(convolutional neural networks, CNN)集成到Transformer的编码位置,并且使用因果卷积代替点积计算,证实了模型的可靠性。Liu等^[9]提出CNN-双向长短期记忆网络(bidirectional long short-term memory, BiLSTM)-Attention混合预测模型。Luo等^[10]提出了CNN-BiLSTM-Attention和XGBoost的混合预测方法。网络的超参数配置对预测结果的影响也至关重要,Zhou等^[11]使用改进的麻雀搜索算法对LSTM网络参数进行优化。Asiri等^[12]提出白鲸优化算法(beluga whale optimization, BWO)对CNN-BiLSTM网络的超参数进行寻优,使预测结果更加精准。夏梦等^[13]提出一种改进鱼鹰算法优化双向门控循环单元(bidirectional gated recurrent unit, BiGRU)网络超参数的预测方法,通过混沌映射、动态精英引导机制和最优-随机均值变异3种策略对鱼鹰算法进行寻优,使用优化后的算法对BiGRU模型进行超参数配置,提高模型对数据处理的性能。

由于负荷数据在多种因素的影响下可能会产生异常波动,仅使用预测模型往往存在较大的局限性,建立数据分解预测组合模型,能够更好地挖掘内在规律,有效提高预测的准确性^[14]。Meng等^[15]使用经验模态分解(empirical mode decomposition, EMD)对不同的载荷分量与原始序列进行分解合并后使用,BiLSTM进行预测,取得了更为精确的预测结果,但EMD稳定性差,容易造成模态混叠。Chen等^[16]提出了一种CEEMDAN-BiGRU的组合预测模型,使用完全集成经验模态分解与自适应噪声分解(complete ensemble EMD, CEEMDAN)对产生的误差序列进行分解,提高了各个分量的误差预测精度。Li等^[17]提出使用CEEMDAN将序列分为6级分量,并使用样本熵(sample entropy, SE)对序列进行重构,使用LSTM进行预测,得到了理想的预测结果。Dragomiretskiy等^[18]首次提出变分模态分解(variational mode decomposition, VMD)分解方法。Lü等^[19]提出了VMD-LSTM组合模型,使用VMD对数据进行分解,在一定程度上消除了由于季节性产生的波动因素,降低了预测误差。但由于VMD在分解时分解层数和惩罚因子的选取直接影响分解结果,需要对该参数进行寻优操作。Geng等^[20]提出了一种基于粒子群算法(particle swarm optimization, PSO)优化VMD-TCN的预测方法。Wang等^[21]研究了一种基于秃鹰搜索(bald eagle search, BES)优化VMD的CNN-BiLSTM-Attention组合预测方法,有效提高电力负荷预测的准确性。Shi等^[22]提出一种基于CEEMDAN分解的混合预测模型,根据分解后的序列特性分别使用遗传算法(genetic algorithm, GA)-LSTM、径向基融合(radial basis function, RBF)-自动编码器(auto encoder, AE)和PSO-支持向量机(support vector machines, SVM)进行预测,表现出更高的预测精度,但种群算法容易出现收敛速度慢、陷入局部最优解的情况。

针对以上研究的不足,提出一种基于优化二次分解的组合预测模型,解决了预测过程中数据不合理分解和预测精度不高的问题。将ICEEMDAN与VMD有机结合进行二次分解并重构,为了使数据分解更加合理,选择沙猫种群算法对VMD的参数进行寻优。为了降低沙猫种群算法陷入局部最优的情况,引入Kent混沌映射丰富种群多样性,采用纵横搜索策略和自适应t分布扰动提高全局搜索和跳出局部最优能力,实现对VMD参数的寻优操作对数据进行合理分解。使用改进后的BiLSTNet网络进行预测,将BiLSTM模块作为循环层和循环跳跃层的基本单元,结合前后输入输出增加结果的精确度,将可自适应学习的KAN模块作为缝合网络输出的全连接层,根据可变的样条函数对数据进行更准确的拟合,并加入注意力机制聚焦重点数据,使结果更加精准,从而实现对负荷的预测。通过使用该方法,能够有效解决负荷预测中模态混叠和预测精度的瓶颈,为电网安全经济运行与新能源高效利用提供了可靠的技术支撑。

1 基于ICEEMDAN-ISCSO-VMD和BiLSTNet短期电力负荷组合模型

研究主要分为两大模块:数据处理和模型预测,如图1所示。首先对数据集进行ICEEMDAN分解并重构,对波动性较强的高频分量使用优化VMD进行二次分解,合并两次分解后的低频分量,将处理后的高频分量和低频分量分别输入模型进行训练,使用评价指标对模型进行性能评估,通过对比实验证实了本次研究的可靠性,最后通过日预测和周预测对模型进行准确性检验。

1.1 数据二次分解

由于数据序列在多种因素的影响下,具有明显的非平稳性和非线性特征,为了更好地理解数据的内在结构和变化规律,采取对数据进行分解。使用ICEEMDAN和VMD进行二次数据分解。

ICEEMDAN是在CEEMDAN的基础上发展而来^[23]。ICEEMDAN在分解过程中选取了白噪声被EMD分解后的第k个内禀函数(IMF)分量进行分解,能够更好地控制噪声的引入程度,以此来提高噪声的分解效果。因此,使用ICEEMDAN对序列进行初步分解降低噪声影响。分解后虽然减缓了数据序列的波动性,但高频分量仍然具有一定的复杂性和不稳定性等因素,需对数据进行进一步的分解。

VMD是一种自适应、完全非递归的信号处理方法,对原始数据序列进行分解,自适应性表现为根据实际情况划分为K个带宽受限的本征模态函数(intrinsic mode function, IMF),构建关于IMF的约束模型,寻找最佳的中心频率和有效带宽使得IMF累计带宽值达到最小。通过对IMF进行希尔伯特变换,将得到的单边频谱进行调频,对调频后的信号进行求解平方L2范数,估计出各模态信号带宽之和,得到约束模型,如式(1)所示。

(1)$ \left\{\begin{array}{l}\min _{\left.\left\{u_{k}\right\}, \{ \omega_{k}\right\}}\left(\sum_{k}\left\|\partial_{t}\left\{\left[\delta(t)+\frac{\mathrm{j}}{\pi t}\right] * u_{k}(t)\right\} \mathrm{e}^{-\mathrm{j} \omega_{k} t}\right\|_{2}^{2}\right) \\\text { s. t. } \sum_{k=1}^{K} u_{k}=f(t)\end{array}\right.$

式(1)中:∂_t表示对t求偏导;t为时间;f(t)为原始信号;K为需要分解的模态个数(正整数);{u_k}为分解后的第k个模态分量;{ω_k}为分解后的第k个中心频率;j为虚部单位;δ(t)为狄拉克函数;*为卷积运算符。

通过引入Lagrange乘法算子(λ)和惩罚系数(α)得到无约束变分问题,对式(1)约束模型进行求解,如式(2)所示。

(2)$ \begin{array}{l}L\left(\left\{u_{k}\right\},\left\{\omega_{k}\right\}, \lambda\right)=\alpha \sum_{k} \| \partial_{t}\left[\left(\delta(t)+\frac{\mathrm{j}}{\pi t}\right) * u_{k}(t)\right] \times \\\mathrm{e}^{-\mathrm{j} \omega_{k} t^{\prime}}\left\|_{2}^{2}+\right\| f(t)-\sum_{k} u_{k}(t) \|_{2}^{2}+ \\\left\langle\lambda(t), f(t)-\sum_{k} u_{k}(t)\right\rangle\end{array}$

式(2)中:L为增广拉格朗日函数。

再利用交替方向乘法算子进一步解决变分问题,通过迭代更新u_k、ω_k和λ_k,寻求无约束变分表达式的“鞍点”,得到约束变分模型的最优解,IMF的u_k和ω_k表达式分别为

(3)$ \hat{u}_{k}^{n+1}(\omega)=\frac{\hat{f}(\omega)-\sum_{i \neq k} \hat{u}_{i}(\omega)+\frac{\hat{\lambda}(\omega)}{2}}{1+2 \alpha\left(\omega-\omega_{k}\right)^{2}}$

(4)$ \omega_{k}^{n+1}=\frac{\int_{0}^{\infty} \omega|\hat{u}(\omega)|^{2} \mathrm{~d} \omega}{\int_{0}^{\infty}|u(\omega)|^{2} \mathrm{~d} \omega}$

式中:${\hat{u}}_{k}^{n+1}$为第k个模态在n+1次迭代后的频谱;$\hat{f}$(ω)为原始信号频谱,${\hat{u}}_{i}$(ω)为模态的频谱;$\widehat{\lambda }$(ω)为拉格朗日乘子频谱;ω为模态频率;^表示傅里叶变换;n为迭代次数。

在VMD求解无约束变分问题时,选择合适的惩罚系数(α)和分解层数(K)对于分解效果具有很大的影响^[24]。分解层数K过小容易造成欠分解,不能够充分提取到数据序列中的隐含特征,过大则会造成过分解产生虚假模态;惩罚系数(α)与模态的分量的带宽成反比,过小容易出现模态混叠现象,过大虽能在一定程度上避免模态混叠,但容易造成局部丢失,均会影响数据的特征提取。综上所述,两个参数的选择对分解效果至关重要,因此采用沙猫种群算法对VMD的参数进行选择。

1.2 ESCSO-VMD模型建立

沙猫种群(sand cat swarm optimization, SCSO)优化算法是由沙猫捕猎行为衍生而来^[25],沙猫凭借低频噪声检测能力快速寻找并捕捉猎物,包括两个主要行为:搜寻猎物和攻击猎物。SOSC算法则是通过适应度函数评估每只沙猫的适应度成本,经过重复迭代返回适应度成本最佳的沙猫作为最优解决方案。

SCSO算法基础的参数设置为

(5)$ r_{\mathrm{G}}=s_{\mathrm{M}}-\left(\frac{2 s_{\mathrm{M}} t_{2}}{2 T_{2}}\right)$

(6)$ R=2 r_{\mathrm{G}} \text { rand }-r_{\mathrm{G}}$

(7)$ r=r_{\mathrm{G}} \text { rand }$

式中:t₂为当前迭代次数;T₂为最大迭代次数;s_M为沙猫的听觉特征;r为个体沙猫的灵敏度范围,随着迭代过程从2 kHz下降到0;rand为(0,1)内的随机数;R为控制勘探和开发阶段的决定性参数;r_G为每只沙猫的灵敏度。

参数r_G和R决定算法的勘探和开发过程的切换:当$\left|R\right|$>1时,该算法处于勘探阶段,即模仿沙猫搜索猎物的行为;当$\left|R\right|$≤1时,该算法处于开发阶段,即沙猫攻击猎物的行为。该算法过程的数学表达式为

(8)$ x_{i}^{t+1}=\left\{\begin{array}{ll}x_{\text {best }}^{t}-r P \cos \theta, & |R| \leqslant 1 \\r\left[x_{\text {best }}^{t}+\operatorname{rand}(\cdot) x_{i}^{t}\right], & |R|>1\end{array}\right.$

(9)$ P=\left|\operatorname{rand}(\cdot) x_{\text {best }}^{t}-x_{i}^{t}\right|$

式中:P为开发阶段更新后的位置;${x}_{i}^{t+1}$为第i只沙猫在t+1时刻的新位置;${x}_{best}^{t}$为第t次迭代中最优的沙猫位置;θ为0°~360°的随机角度,用来保证每只沙猫在搜索空间中按照不同的圆周角度移动,以此来接近狩猎位置。

但该算法在搜索猎物阶段容易出现沙猫位置遍历不完全,导致沙猫所处的位置并非最优位置,以及在攻击猎物阶段,由于收敛过快,沙猫不能及时跳到最优位置进行捕猎。以上两种情况都有可能导致沙猫捕猎失败,算法体现参数配置不优,进而导致VMD对数据的分解不合理。针对上述问题,在SCSO的基础上,引入Kent混沌映射提高种群的多样化水平,采用纵横交叉策略改善全局的搜索能力,融合自适应t分布扰动变异策略,进一步提高算法跳出局部最优的能力。ESCSO的流程图如图2所示。

种群初始解通常采用伪随机数,但其强随机性不仅难以保证优化精度,还可能导致种群遍历不充分而误选最优解。为提升种群多样性,引入Kent混沌映射改进初始化。Kent混沌映射作为典型的离散混沌系统,可生成 (0,1) 区间序列,依据该混沌因子初始化沙猫种群,使其初始分布更加合理均匀。其映射系统方程形式为

(10)$ x_{k+1}=\left\{\begin{array}{ll}\frac{x_{k}}{a}, & x_{k}=0 \\\frac{1-x_{k}}{1-a}, & x_{k} \neq 0\end{array}\right.$

(11)$ x=x_{\min }+\operatorname{Chaos}\left(x_{\max }-x_{\min }\right)$

式中:a为映射参数,a∈(0,1),当a=0.4,在(0,1)内Kent概率分布相对较均匀;x_max和x_min分别为自变量的上限和下限;Chaos为Kent映射生成的混沌因子;x为空间中个体的位置。

SCSO算法迭代增加的过程中,容易出现过早收敛导致停滞于某一维度,将该维度下的解误判为全局最优而缺乏全面探索,导致陷入局部最优。为提升全局搜索能力,引入纵横交叉策略来增强沙猫对猎物的搜索方式,该策略由横向交叉与纵向交叉两部分组成。

横向交叉是在同一维度内对沙猫种群个体进行两两交叉,以促使个体间相互学习、提升信息多样性。随机选择j维度下的两个个体作为父代按一定交叉概率执行横向交叉,子代由式(12)、式(13)产生。

(12)$ \begin{aligned}\mathrm{MX}_{i 1 j}^{\mathrm{hs}}= & n_{1} \mathrm{MX}_{i 1 j}+\left(1-n_{1}\right) \mathrm{MX}_{i 2 j}+ \\& c_{1}\left(\mathrm{MX}_{i 1 j}-\mathrm{MX}_{i 2 j}\right)\end{aligned}$

(13)$ \begin{aligned}\mathrm{MX}_{i 2 j}^{\mathrm{hs}}= & n_{2} \mathrm{MX}_{i 2 j}+\left(1-n_{2}\right) \mathrm{MX}_{i 1 j}+ \\& c_{2}\left(\mathrm{MX}_{i 2 j}-\mathrm{MX}_{i 1 j}\right)\end{aligned}$

式中:MX_i₁_j和MX_i₂_j分别为MX_i₁和MX_i₂的第j维,j=1,2,…,D;M${X}_{i1j}^{\mathrm{h}\mathrm{s}}$和M${X}_{i2j}^{\mathrm{h}\mathrm{s}}$分别为父代MX_i₁_j和MX_i₂_j在第j维上产生的第j维子代;n₁和n₂、c₁和c₂分别为(0,1)、(-1,1)范围内的随机数。

父代与产生的子代进行对比,最终保留最优个体。纵向交叉对横向交叉后的沙猫个体,随机选择不同维度的个体进行纵向交叉运算,防止种群片面的停滞在某一维度,减小算法陷入局部最优解的可能。随机选择一个横向交叉后的个体,并选取两个维度j₁和j₂进行纵向交叉运算,子代经式(14)产生。

(14)$\mathbf{M X}_{i j 1}^{\mathrm{zs}}=n \mathbf{M X}_{i j 1}+(1-n) \mathbf{M X}_{i j 2}$

式(14)中:n为(0,1)内的随机数,与横向交叉相同,两代相比较,最优者保留。

SCSO算法获得全局最优解的关键在于其摆脱局部最优的能力,为了进一步提升性能,引入自适应t分布变异算子,使算法在进入局部搜索阶段时能够跳出当前区域,转向新的搜索空间,以检测是否存在更优解,从而有效避免局部最优并增强全局开发能力。t分布同时具备柯西分布和标准高斯分布的特点,其迭代次数把自由度(Γ)作为唯一参数,其概率密度函数为

(15)$p(x)=\frac{\Gamma\left(\frac{m+1}{2}\right)}{\sqrt{m \pi}\left(\frac{m}{2}\right)}\left(1+\frac{x^{2}}{m}\right), \quad-\infty<x<+\infty$

(16)$\Gamma\left(\frac{m+1}{2}\right)=\int_{0}^{+\infty} x^{\frac{m+1}{2}-1} \mathrm{e}^{-x} \mathrm{~d} x$

式中:m影响曲线的形状,当m=1时,t分布曲线呈柯西分布,全局搜索能力较强;当m趋向于无穷大时,t分布曲线呈标准高斯分布,局部搜索能力较强。引入t分布后沙猫的位置更新如式(17)所示。

(17)$X_{i}^{t+1}=X_{i}^{t}+X_{i}^{t} t(\text { iter })$

式(17)中:${X}_{i}^{t+1}$为扰动后沙猫的位置;${X}_{i}^{t}$为沙猫i第t次迭代时的位置;iter为当前迭代次数,在此基础上加入随机干扰项${X}_{i}^{t}$t(iter),不仅充分利用了当前位置,而且在加入了随机干扰信息后,提高了算法跳出局部最优的能力。

1.3 BiLSTNet混合预测模型建立

BiLSTNet预测模型是在LSTNet模型的基础上改进的模型^[26],其主要结构包括卷积层、BiLSTM循环层和循环跳过层、时间注意层、KAN层及自回归组件。利用无池化卷积层提取各个变量之间的局部依赖,循环层和循环跳跃层缓解梯度消失并捕捉数据的长期关联,KAN层作为网络的全连接层整合网络输出,自回归组件作为唯一的线性组件提升对输入信号的敏感度,时间注意力层则增强对关键数据的聚焦,从而提升模型的预测精度。BiLSTNet网络模型如图3所示。

LSTM作为传统RNN的优秀变体,在一定程度上缓解了梯度消失或爆炸现象^[27],但其缺乏对前后时刻信息的关联,因此,采用BiLSTM作为循环层及循环跳跃层的基本模块结构。BiLSTM通过前向传播层进行正向计算得到前隐含层输出(A_t),后向传播层进行反向计算得到后隐含层输出(B_t),两者结合得到最终输出,从而提升模型对序列信息的利用效率并增强其鲁棒性,其结构如图4所示。

KAN(Kolmogorov-Arnold networks)是基于Kolmogorov-Arnold表示定理的一种具有全连接结构的新型网络架构^[28],如图5所示,模型由外部函数和内部函数构成,数学表达式为

(18)$\begin{aligned}f(x) & =f\left(x_{1}, x_{2}, \cdots, x_{n}\right) \\& =\sum_{q=1}^{2 n+1} \phi_{q}\left[\sum_{p=1}^{n} \varphi_{q, p}\left(x_{p}\right)\right]\end{aligned}$

式(18)中:q为外层求和的索引,取值范围(1, 2n+1);φ_q为第q个外部函数,作用在对应的内层求个结果上;p为内层求和的索引,取值范围(1, n);x_p为输入向量的第p维分量;ϕ_p_,_q为第p 组、第q 个内部函数,直接作用于输入分量x_p。

KAN网络边缘将传统的权重参数改为可学习的单变量函数,把基函数b(x)和样条函数spline(x)的和作为网络的激活函数,数学表达式为

(19)$\left\{\begin{array}{l}\varphi(x)=\omega[b(x)+\operatorname{spline}(x)] \\b(x)=\operatorname{silu}(x)=\frac{x}{1+\mathrm{e}^{-x}} \\\operatorname{spline}(x)=\sum c_{i} B_{i}(x)\end{array}\right.$

式(19)中:ϕ(x)为KAN网络中边缘的激活函数;silu为Swish激活函数;ω和c_i为训练期间可优化学习的参数,spline(x)为一组一维函数组合;B_i(x)为Base-样条函数。

在训练过程中,通过不断优化参数c_i,能够根据时间序列的动态特性自适应地调整样条形状,有助于精准地捕捉复杂时间序列的变化。KAN网络在模型训练中,通过迭代学习对网络进行剪枝优化节点,在实现对序列精准预测的同时使模型更加简洁。

多头注意力机制能够捕捉序列中各时间步之间的相关性,选择性的关注重要信息进行动态分配权重,将注意力机制集成到预测模型中,能够使模型灵活关注历史数据中最相关的时间点和特征。在该机制中,注意力函数可以描述为一个查询(Query)到一组键值对(Key-Value)的映射,查询和键生成的相似性作为值的权重分配依据,输出被计算为值的加权和,其中查询、键、值和输出都是向量^[29]。多头注意力机制由多个单头注意力函数组成,并行执行单头注意力函数,获得不同级别的输出值,通过线性投影获得最终值,多头注意力模块如图6所示。

缩放点积注意力(scaled dot-product attention)作为多头注意力机制的核心^[30],如图7所示。通过计算Q与K的点积,利用softmax函数转换为概率分布确定每个K的重要性,最终进行加权求和得到输出值,数学表达式为

(20)$\operatorname{\boldsymbol {Attention}}(\boldsymbol{Q}, \boldsymbol{K}, \boldsymbol{V})=\operatorname{softmax}\left(\frac{\boldsymbol{Q} \boldsymbol{K}^{\mathrm{T}}}{\sqrt{d_{k}}}\right) \boldsymbol{V}$

式(20)中:Attention为Q、K、V的聚合矩阵,Q∈R^L_Q×d_q,K∈R^L_K×d_k,V∈R^L_V×d_v,其中,L_Q、L_K和L_V分别为Q、K、V查询的序列长度,d_q、d_k和d_v分别为Q、K、V的维数。

2 实验及数据分析

以澳大利亚电力负荷数据预测数据集为样本,每隔30 min采集一次数据,一天包括48个样本点。在本实验过程中选取2010年1月1日—12月24日的数据作为训练集,2010年12月31日和2010年12月25—31日作为验证集。将日期、干球和湿球温度、露点温度、湿度、电价和当前时间点的电力负荷数据作为模型输入,对下一时间点的电力负荷数据进行预测,以每一个小时的时间间隔作为一个窗口来截取和处理数据。负荷数据如图8所示。

2.1 评价指标

为了更好地评估模型负荷预测的准确性,采用均方根误差(root mean square error, RMSE)、平均绝对误差(mean absolute error, MAE)、平均绝对百分比误差(mean absolute percentage error, MAPE)和决定系数(R²)作为评价指标,其计算公式分别为

(21)$\text { RMSE }=\sqrt{\frac{1}{N} \sum_{i=1}^{N}\left(\hat{y}_{i}-y_{i}\right)^{2}}$

(22)$\text { MAE }=\frac{1}{N} \sum_{i=1}^{N}\left|y_{i}-\hat{y}_{i}\right|$

(23)$\text { MAPE }=\frac{1}{N} \sum_{i=1}^{N} \frac{\left|y_{i}-\hat{y}_{i}\right|}{\hat{y}_{i}} \times 100 \%$

(24)$R^{2}=\left\{1-\frac{\left[\sum_{i=1}^{N}\left(y_{i}-\hat{y}_{i}\right)^{2}\right] / N}{\left[\sum_{i=1}^{N}\left(\bar{y}_{i}-\hat{y}_{i}\right)^{2}\right] / N}\right\} \times 100 \%$

式中:N为样本量;${\widehat{y}}_{i}$为预测值;${\stackrel{-}{y}}_{i}$为平均值;y_i为真实值;MSE、RMSE和MAE值越小,预测值和真实值之间的差距越小,表示模型性能越好; R²的取值范围为(0,1),R²的值越接近1表示模型的表现程度越好。

2.2 实验分析

2.2.1 数据处理

如图8所示,序列整体呈现一定的周期性,但局部存在非平稳状态,使用二次分解进行平稳化处理。处理后的数据呈多个分量形式,为更有效地处理这些序列,采用样本熵SE对子序列进行评估。SE值越低,序列的自我相关性越高,反之,相关性越低。首先使用ICEEMDAN对序列进行一次分解并重构,结果如图9和图10所示,各IMF分量的SE值如表1所示。

如图9所示,信号经过分解后得多个分量,其中第一个分量为原始序列,最后一个为残差分量,其余为分解后的本征模态分量,由上至下各个分量的波形由波动剧烈到趋于平缓。由表1可知,IMF1~IMF3的熵值大于1,波形起伏相对较大,存在较多不稳定因素,因此重构为高频分量,其余重构为低频分量,重构结果如图10所示。可以看出高频分量波动剧烈,说明受多种因素的影响较大,若直接预测可能会导致预测偏差,因此需对其进一步采用VMD进行二次分解。鉴于VMD的参数设定影响分解结果,采用ESCSO优化VMD参数对序列进行分解。ESCSO的参数设置为:种群规模N=50,最大迭代次数T₂=30,VMD包括参数分解层数K∈[3,10]和惩罚系数α∈[500,3 000]。通过ESCSO对分解层数K和惩罚系数α进行寻优,确定最佳参数组合为K=6,α=2 250,结果如图11和图12所示,并计算每个分量的SE值,如表2所示。

从分解结果及SE值来看,IMF1~4的样本熵值均高于6个分量的平均值0.273,因此合并为高频分量,并结合两次重构后的低频分量。如图12所示,高频分量趋势性更明显,便于后续的预测,低频分量波动性较小,波动周期更长。

2.2.2 算法对比

为了更好地验证ESCSO的有效性,随机选取40个样本点进行测试,在同一模型VB(VMD-BiLST-Net)进行测试。使用VB、SCSO-VB、SSA-VB、WOA-VB与ESCSO-VB进行对比,对比结果如图13所示。

从图13中可以看出,二次分解后的数据特征更加明显,更有利于后续误差的计算。由表3可知,本文算法三个指标的评估下,误差值达到最低。相较于SCSO-VB算法,由于加入纵横搜索和扰动因子策略,算法的全局搜索和跳出局部最优能力得到提升,从而赋予VMD更优的参数配置。与VB相比较,本文算法的误差明显降低,说明VMD参数优化的重要性,也进一步证明本文算法的有效性。

2.2.3 模型对比

为验证本文混合预测模型的预测效果,随机选取50个样本点,将本文模型与LSTM、BiLSTM、LSTNet进行对比预测,预测结果如图14所示,选用RMSE、MAE、MAPE、R²等指标评估模型性能,结果如表4所示。

由图14、表4可知,所提出的混合模型预测结果最佳,拟合值R²达到98.35%,RMSE、MAE及MAPE指标与LSTNet相较误差降低15.65%、11.20%及9.28%,与单一模型相较最大程度降低42.85%、41.37%及41.39%,说明本文混合模型所添加的模块能够辅助模型达到更高的精度。单一模型表现相对较弱,在拟合程度方面,本文模型相较于单一模型最大程度提升了21.94%。

2.2.4 准确性检测

为了更好地验证本文算法和本文模型的有效性,使用以上几种模型进行日预测和周预测对比,预测结果及指标数据对比如图15~图17所示。

由图15~图17、表5、表6可知,本文模型的预测结果在不同评价指标的对比下均优于其他模型。由表5和表6指标数据中可以看出,本文模型的各种误差指标均小于其他模型,拟合程度更高。日预测指标对比中,本文模型的指标RMSE、MAE、MAPE及R²分别为,469.118、349.564、3.87%及95.23%,相较于LSTM最大程度上提高了19.26%、27.11%、22.75%及5.86%。周预测指标对比中,各模型预测结果相近,本文模型仍表现良好拟合值R²最高,达到99.03%,各误差指标最大程度的提升了43.18%、36.10%、34.52%。综上所述,本文模型在电力负荷预测过程中表现优异,证实了本文方法的有效性,并且从两种预测结果来看,短时负荷预测更能体现出模型的优越性。

3 结论

针对预测中数据分解和精度提升的问题,提出了基于优化二次分解的组合预测模型,对数据进行二次分解以提高数据序列的规律性;提出改进的沙猫优化算法对VMD分解的参数进行寻优;使用改进的混合模型BiLSTNet对序列进行预测。通过Matlab平台对澳大利亚电力负荷数据集进行仿真分析,得到以下结论。

(1)通过二次分解提取数据序列的规律特征。采用ICEEMDAN对数据序列进行初次分解实现对数据的降噪分解,其次使用VMD进行二次分解,得到稳定性较好并且规律性强的序列,以便后续得到较高的预测结果。

(2)改进沙猫种群算法提高算法性能。Kent混沌映射为沙猫优化算法提供了优质的初始种群,纵横搜索策略和自适应t分布扰动策略提高了算法的全局搜索和跳出局部最优能力,实现了对VMD参数的最优配置,并通过对比实验说明了本文改进算法的优越性。

(3)使用集成混合网络BiLSTNet对数据序列进行预测,对比实验预测显示,本文模型的拟合程度达到98.35%。经日预测和周预测对比实验显示,本文算法的准确度达到93.23%和99.03%,充分证明了本文算法的鲁棒性。

参考文献

原文顺序 | 出版日期 | 本文引用

[1]	Eren Y, Küçükdemiral İ. A comprehensive review on deep learning approaches for short-term load forecasting[J]. Renewable and Sustainable Energy Reviews, 2024, 189: 114031.

[2]	Tarmanini C, Sarma N, Gezegin C, et al. Short term load forecasting based on ARIMA and ANN approaches[J]. Energy Reports, 2023, 9: 550-557.

[3]	许世欣, 李雯婷, 彭道刚, 等. 基于二次模态分解与Informer-BiLSTM的电力负荷预测[J]. 浙江电力, 2025, 44(10): 55-68.

[4]	Xu Shixin, Li Wenting, Peng Daogang, et al. Power load forecasting based on quadratic mode decomposition and Informer BiLSTM[J]. Zhejiang Electric Power, 2025, 44(10): 55-68.

[5]	Zhu J, Dong H, Zheng W, et al. Review and prospect of data-driven techniques for load forecasting in integrated energy systems[J]. Applied Energy, 2022, 321: 119269.

[6]	Lim B, Zohren S. Time-series forecasting with deep learning: a survey[J]. Philosophical Transactions of the Royal Society A, 2021, 379(2194): 20200209.

[7]	Mounir N, Ouadi H, Jrhilifa I. Short-term electric load forecasting using an EMD-BI-LSTM approach for smart grid energy management system[J]. Energy and Buildings, 2023, 288: 113022.

[8]	Wu K, Wu J, Feng L, et al. An attention-based CNN-LSTM-BiLSTM model for short-term electric load forecasting in integrated energy system[J]. International Transactions on Electrical Energy Systems, 2021, 31(1): e12637.

[9]	Chen B, Yang W, Yan B, et al. An advanced airport terminal cooling load forecasting model integrating SSA and CNN-Transformer[J]. Energy and Buildings, 2024, 309: 114000.

[10]	Liu F, Liang C. Short-term power load forecasting based on AC-BiLSTM model[J]. Energy Reports, 2024, 11: 1570-1579.

[11]	Luo S, Wang B, Gao Q, et al. Stacking integration algorithm based on CNN-BiLSTM-Attention with XGBoost for short-term electricity load forecasting[J]. Energy Reports, 2024, 12: 2676-2689.

[12]	Zhou M, Wang L, Hu F, et al. ISSA-LSTM: a new data-driven method of heat load forecasting for building air conditioning[J]. Energy and Buildings, 2024, 321: 114698.

[13]	Asiri M M, Aldehim G, Alotaibi F A, et al. Short-term load forecasting in smart grids using hybrid deep learning[J]. IEEE Access, 2024, 12: 23504-23513.

[14]	夏梦, 于惠钧. 基于VMD-IOOA-Bi GRU模型及误差补偿的短期电力负荷预测[J]. 科学技术与工程, 2025, 25(27): 11642-11650.

[15]	Xia Meng, Yu Huijun. Short term power load forecasting based on VMD IOOA Bi GRU model and error compensation[J]. Science Technology and Engineering, 2025, 25(27): 11642-11650.

[16]	肖威, 方娜, 邓心. 基于VMD-LSTM-IPSO-GRU的电力负荷预测[J]. 科学技术与工程, 2024, 24(16): 6734-6741.

[17]	Xiao Wei, Fang Na, Deng Xin. Power load forecasting based on VMD-LSTM-IPSO-GRU[J]. Science Technology and Engineering, 2024, 24(16): 6734-6741.

[18]	Meng Z, Xie Y, Sun J. Short-term load forecasting using neural attention model based on EMD[J]. Electrical Engineering, 2022, 104(3): 1857-1866.

[19]	Chen T, Huang W, Wu R, et al. Short term load forecasting based on SBiGRU and CEEMDAN-SBiGRU combined model[J]. IEEE Access, 2020, 9: 89311-89324.

[20]	Li K, Huang W, Hu G, et al. Ultra-short term power load forecasting based on CEEMDAN-SE and LSTM neural network[J]. Energy and Buildings, 2023, 279: 112666.

[21]	Dragomiretskiy K, Zosso D. Variational mode decomposition[J]. IEEE Transactions on Signal Processing, 2013, 62(3): 531-544.

[22]	Lü L, Wu Z, Zhang J, et al. A VMD and LSTM based hybrid model of load forecasting for power grid security[J]. IEEE Transactions on Industrial Informatics, 2021, 18(9): 6474-6482.

[23]	Geng G, He Y, Zhang J, et al. Short-term power load forecasting based on PSO-optimized VMD-TCN-attention mechanism[J]. Energies, 2023, 16(12): 4616.

[24]	Wang N, Li Z. Short term power load forecasting based on BES-VMD and CNN-Bi-LSTM method with error correction[J]. Frontiers in Energy Research, 2023, 10: 1076529.

[25]	Shi J, Teh J. Load forecasting for regional integrated energy system based on complementary ensemble empirical mode decomposition and multi-model fusion[J]. Applied Energy, 2024, 353: 122146.

[26]	Colominas M A, Schlotthauer G, Torres M E. Improved complete ensemble EMD: a suitable tool for biomedical signal processing[J]. Biomedical Signal Processing and Control, 2014, 14: 19-29.

[27]	周坤, 马添翼, 李婷, 等. 基于BSLO优化的VMD-CNN-GRU模型的夏季高峰电力负荷预测方法[J]. 印刷与数字媒体技术研究, 2025(5): 335-346.

[28]	Zhou Kun, Ma Tianyi, Li Ting, et al. Summer peak power load forecasting method based on BSLO optimized VMD-CNN-GRU model[J]. Research on Printing and Digital Media Technology, 2025(5): 335-346.

[29]	Seyyedabbasi A, Kiani F. Sand cat swarm optimization: a nature-inspired algorithm to solve global optimization problems[J]. Engineering with Computers, 2023, 39(4): 2627-2651.

[30]	Lai G, Chang W, Yang Y, et al. Modeling long-and short-term temporal patterns with deep neural networks[C]// Proceedings of the 41st International ACM SIGIR Conference on Research and Development in Information Retrieval. Pittsburgh, PA: ACM, 2018: 95-104.

[31]	赵星宇, 吴泉军, 朱威. 基于CEEMDAN和TCN-LSTM模型的短期电力负荷预测[J]. 科学技术与工程, 2023, 23(4): 1557-1564.

[32]	Zhao Xingyu, Wu Quanjun, Zhu Wei. Short term power load forecasting based on CEEMDAN and TCN-LSTM models[J]. Science Technology and Engineering, 2023, 23(4): 1557-1564.

[33]	Liu Z, Wang Y, Vaidya S, et al. KAN: Kolmogorov-Arnold networks[J]. arXiv Preprint, arXiv: 2404.19756, 2024.

[34]	Vaswani A. Attention is all you need[J]. Advances in Neural Information Processing Systems, 2017, 30: 5998-6008.

[35]	Sohn G, Zhang N, Olukotun K. Implementing and optimizing the scaled dot-product attention on streaming dataflow[J]. arXiv Preprint, arXiv: 2404.16629, 2024.