基于极光优化和变分模态分解的Informer云资源预测模型

王宇阳 ,  谢晓兰 ,  刘亚荣

科学技术与工程 ›› 2026, Vol. 26 ›› Issue (15) :6496-6505

PDF (8525KB)
科学技术与工程 ›› 2026, Vol. 26 ›› Issue (15) :6496-6505 DOI: 10.12404/j.issn.1671-1815.2505348
自动化技术、计算机技术

基于极光优化和变分模态分解的Informer云资源预测模型

作者信息 +

Cloud Resource Prediction Model Based on Polar Lights Optimization and Variational Mode Decomposition-Informer

Author information +
文章历史 +

摘要

精准预测容器云资源请求的整体趋势及峰值负载,对提升资源利用效率与优化分配策略至关重要。针对现有容器云资源负载预测方法存在的单一模型精度不足、长期时序特征捕捉不充分问题,提出基于极光优化(polar lights optimization,PLO)与变分模态分解(variational mode decomposition,VMD)融合时间卷积网络(temporal convolutional network,TCN)和Informer(PLO-VMD-TCN-Informer)的云资源预测模型,组合模型中的膨胀卷积等结构可以有效提取局部时间模式,并增强模型对细节特征的捕捉能力,VMD可以解决模型对非平稳、非线性的时间序列建模能力较弱的问题,通过PLO动态优化VMD和Informer参数提升建模自动化程度。基于阿里巴巴公开数据集的实验表明,本模型在关键指标上全面优于主流基准模型,其中均方根误差(root mean square error,RMSE)降低24.03%~28.00%,平均绝对百分比误差(mean absolute per-centage error,MAPE)降低22.37%~31.59%,证明了所提模型的有效性。

Abstract

Accurate prediction of overall trends and peak loads in container cloud resource requests is crucial for improving resource utilization and optimizing allocation strategies. To address the limitations of existing prediction methods, such as insufficient accuracy of single models and inadequate capture of long-term temporal features, a hybrid cloud resource prediction model was proposed, which integrated polar lights optimization (PLO), variational mode decomposition (VMD), temporal convolutional network (TCN), and Informer (PLO-VMD-TCN-Informer). In the combined model, structures such as dilated convolutions were utilized to effectively extract local time patterns and enhance the model’s ability to capture detailed features. VMD was employed to improve the modeling capability for non-stationary and nonlinear time series, while PLO was applied to dynamically optimize the parameters of VMD and Informer, thereby increasing the level of modeling automation. Experiments based on the public Alibaba dataset show that the proposed model outperforms mainstream benchmark models across all key metrics. Specifically, the root mean square error (RMSE) is reduced by 24.03% to 28.00%, and the mean absolute percentage error (MAPE) is reduced by 22.37% to 31.59%, validating the effectiveness of the proposed model.

Graphical abstract

关键词

容器云 / 云资源负载预测 / 极光优化算法(PLO) / 变分模态分解(VMD) / 时间卷积网络(TCN) / Informer

Key words

container cloud / cloud resource load prediction / polar lights optimization / variational mode decomposition / temporal convolutional network / Informer

引用本文

引用格式 ▾
王宇阳, 谢晓兰, 刘亚荣. 基于极光优化和变分模态分解的Informer云资源预测模型[J]. 科学技术与工程, 2026, 26(15): 6496-6505 DOI:10.12404/j.issn.1671-1815.2505348
WANG Yu-yang, XIE Xiao-lan, LIU Ya-rong. Cloud Resource Prediction Model Based on Polar Lights Optimization and Variational Mode Decomposition-Informer[J]. Science Technology and Engineering, 2026, 26(15): 6496-6505 DOI:10.12404/j.issn.1671-1815.2505348

登录浏览全文

4963

注册一个新账户 忘记密码

预测云计算工作负载是一项显著挑战,这源于其固有的复杂性、多维性及高度动态的时变行为。评估预测的准确性至关重要,这将直接影响基础设施管理员为优化资源利用率和满足服务水平协议(service-level agreement,SLA)而必须实时做出的管理决策[1]。
目前,国内外学者通过各类算法对容器云资源进行预测。总的来说容器云资源负载预测方法可划分为传统预测方法和基于深度学习的预测方法两类。在容器云负载预测的早期研究中,学者广泛采用传统预测方法,如支持向量机(support vector machine,SVM)等。赵莉[2]通过引入混沌分析算法对资源负载时序数据进行深度解析与重构,增强了SVM的复杂模式学习能力,有效提升预测的准确度。但传统时间序列预测方法依赖序列的规律性与趋势性,在复杂环境中存在明显局限,其非线性特征提取能力不足,难以有效捕捉突发波动与动态平稳性变化,导致在真实云场景中适用性受限。
由于传统预测方法对数据特征造成的限制,许多研究采用深度学习方法实现时间序列预测[3-4]。由于单一模型的预测精度效果不佳,于是有学者开始将传统方法和深度学习模型相结合,显著提升了模型的预测精度[5-7]。但原始数据序列可能会出现数据不平稳问题,会影响模型的预测性能,故束文娟等[8]借用变分模态分解(variational mode decomposition,VMD)将非平稳序列转化为平稳模态分量以规避频率混叠。谢晓兰等[9]采用VMD和完全自适应噪声集合经验模态分解(complete ensemble empirical mode decomposition with adaptive noise, CEEMDAN)对序列进行二次分解,有效解决了数据不平稳问题。为寻找最优参数以及减少人为判断偏差影响,史爱武等[10]采用改进灰狼算法动态优化VMD参数。Bacanin等[11]利用改进粒子群算法优化VMD-长短期记忆网络(long short-term memory,LSTM)架构,通过分解增强与注意力机制提升预测精度。上述模型虽凭借其强大的自动特征提取与非线性建模能力提升了预测精度,但其庞大的参数量导致高昂计算成本,并难以有效协同捕捉序列中的长短期依赖关系。
由此,现引入 Informer 模型对容器云资源进行负载预测。该模型通过 ProbSparse 自注意力机制有效克服了传统 Transformer 的计算瓶颈,并拥有完整的编码器-解码器架构,能够灵活地适应短期与长期预测等时间序列任务,具备优异的通用性与迁移能力。樊智勇等[12]将时间卷积网络(temporal convolutional network,TCN)与Informer进行融合并采用麻雀优化算法对参数进行寻优,显著提升了预测的准确性和可靠性。黄铝文等[13]融合了Informer的全局感知与长短期记忆网络(long short-term memory,LSTM)的短期建模能力,结合改进的反向残差前馈网络优化特征提取,实现了高精度多步预测。Li等[14]提出CEEMDAN-Informer-LSTM混合模型,经CEEMDAN和T检验分量重组显著提升预测精度。殷建华等[15]通过将原始序列分解并分配至Informer等模型进行分量预测,集成结果并采用误差校正策略,有效提升了预测精度。但上述方法仍存在不足,尽管其通过引入 ProbSparse 自注意力机制削弱了对局部短期模式与非平稳信号的捕捉能力,却因侧重长程依赖而弱于局部细节与非平稳性建模,导致其实际泛化能力受限。
针对上述问题,现提出一种基于TCN与Informer,融合VMD与极光优化算法(polar lights optimization, PLO)的混合模型(PLO-VMD-TCN-Informer),主要思路如下:
(1)为解决Informer对局部时间结构的建模不够精细,容易忽略短期趋势和局部波动方面的不足,引入TCN,使用膨胀卷积等结构,能够在不增加参数量的前提下扩大感受野,从而有效提取局部时间模式,并增强模型对细节特征的捕捉能力。
(2)为了弥补Informer对非平稳、非线性的时间序列建模能力较弱的问题,引入VMD,将原始序列分解为多个本征模态函数(intrinsic mode function,IMF)。这些子序列频率各异、相对平稳,使模型能专注于不同尺度的特征学习,从而强化其整体建模能力。
(3)为了解决VMD和Informer参数寻优问题,采用PLO进行高效搜索,在有限迭代次数内逼近最优解,替代人工试错,减小人为判断偏差影响,提升建模自动化程度。
在整体设计上,三个模块依次衔接、协同增强,三者融合形成“多尺度分解—智能调优—局部建模”的高效预测架构,有效提升了模型精度、稳定性与泛化能力。
最后,通过阿里巴巴Cluster-trace-v2018数据集对所提模型的预测精度进行验证,以期更有效地应对数据中的多尺度特征、噪声与突发事件,为容器云资源负载提供更精准高效的预测方案。

1 PLO优化VMD参数

1.1 变分模态分解

VMD作为一种自适应、非递归的时频分析方法,其通过构建变分优化框架克服了经验模态分解(empirical mode decomposition,EMD)固有的端点效应与模态混叠问题。该方法基于坚实的变分理论及维纳滤波原理,可有效降低非平稳时间序列的非线性度与复杂度特征。VMD将原始信号分解为一系列具有有限带宽的本征模态分量IMF,每个模态分量都有其特定的频率和幅值。VMD方法具有较高的数据分解精度及较好的抗噪声干扰能力,其相应的约束变分模型可以表示为

$\left\{\begin{array}{l} \min _{\left\{u_{k}\right\},\left\{\omega_{k}\right\}}\left\{\sum_{k}\left\|\partial_{t}\left[\left(\delta(t)+\frac{\mathrm{j}}{\pi t}\right) u_{k}(t)\right] \mathrm{e}^{-\mathrm{j} \omega_{k} t}\right\|_{2}^{2}\right\} \\ \text { s.t. } \sum_{k} u_{k}(t)=f(t) \end{array}\right.$

式(1)中:k为分解的IMF个数;uk为分解后第k个模态分量;ωk为第k个模态的中心频率;δ(t)为单位脉冲函数;f(t)为原始信号。

随后使用拉格朗日函数将有约束的变分问题转化为无约束的变分问题,利用二次惩罚项和拉格朗日乘子法的优势,引入增广拉格朗日表达式,即

L({uk},{ωk},λ)=α$\sum _{\mathit{k}}{‖\frac{\mathit{ }}{\mathit{ }}{\partial }_{\mathit{t}}\left[\left(\mathit{\delta }\left(\mathit{t}\right)+\frac{\mathrm{j}}{\mathrm{\pi }\mathit{t}}\right){\mathit{u}}_{\mathit{k}}\left(\mathit{t}\right)\right]{\mathrm{e}}^{-\mathrm{j}{\mathit{w}}_{\mathit{k}}\mathit{t}}‖}_{2}^{2}$+

${‖\frac{\mathit{ }}{\mathit{ }}\mathrm{f}\left(\mathrm{t}\right)-\sum _{\mathit{k}}{\mathit{u}}_{\mathit{k}}\left(\mathit{t}\right)‖}_{2}^{2}$+<λ,f(t)-$\sum _{\mathit{k}}$uk(t)>

式(2)中:α为惩罚因子;λ为拉格朗日乘子;采用交替方向乘子算法求解式(2)中的鞍点,再计算可得到模态分量uk以及对应的中心频率ωk。公式为

${\stackrel{\wedge }{\mathit{u}}}_{\mathit{k}}^{\mathit{n}+1}$(ω)=$\frac{\mathit{f}\left(\mathit{\omega }\right)-\sum _{\mathit{i}\ne \mathit{k}}{\stackrel{\wedge }{\mathit{u}}}_{\mathit{i}}\left(\mathit{\omega }\right)+\stackrel{\wedge }{\mathit{\lambda }}\left(\mathit{\omega }\right)/2}{1+2\mathit{\alpha }(\mathit{\omega }-{\mathit{\omega }}_{\mathit{k}}{)}^{2}}$
${\mathit{\omega }}_{\mathit{k}}^{\mathit{n}+1}$=$\frac{{\int }_{0}^{\mathit{\infty }}\mathit{\omega }{\left|{\stackrel{\wedge }{\mathit{u}}}_{\mathit{i}}\left(\mathit{\omega }\right)\right|}^{2}\mathrm{d}\mathit{\omega }}{{\int }_{0}^{\mathit{\infty }}{\left|{\stackrel{\wedge }{\mathit{u}}}_{\mathit{k}}^{\mathit{n}+1}\left(\mathit{\omega }\right)\right|}^{2}\mathrm{d}\mathit{\omega }}$

式中:ω≥0;n为迭代次数;${\stackrel{\wedge }{\mathit{u}}}_{\mathit{k}}$和$\stackrel{\wedge }{\mathit{\lambda }}$为经傅里叶变后的结果;每次更新都会得到对应的模态分量以及对应的中心频率,参数λ的更新公式为

${\stackrel{\wedge }{\mathit{\lambda }}}^{\mathit{n}+1}$(ω)=${\hat{\mathit{\lambda }}}^{\mathit{n}}$(ω)+τ[$\stackrel{\wedge }{\mathit{f}}$(ω)-$\sum _{\mathit{k}}{\stackrel{\wedge }{\mathit{u}}}_{\mathit{k}}^{\mathit{n}+1}$(ω)]

式(5)中:τ为拉格朗日乘子的更新步长。

依据式(6)的计算结果,评估是否满足预设精度标准ε,从而确定是否终止迭代过程。

e=$\stackrel{\mathit{K}}{\sum _{\mathit{k}=1}}\frac{{‖\frac{\mathit{ }}{\mathit{ }}{\stackrel{\wedge }{\mathit{u}}}_{\mathit{k}}^{\mathit{n}+1}\left(\mathit{\omega }\right)-{\stackrel{\wedge }{\mathit{u}}}_{\mathit{k}}^{\mathit{n}}\left(\mathit{\omega }\right)‖}_{2}^{2}}{{‖\frac{\mathit{ }}{\mathit{ }}{\stackrel{\wedge }{\mathit{u}}}_{\mathit{k}}^{\mathit{n}}\left(\mathit{\omega }\right)‖}_{2}^{2}}$<ε

最终,能够获取所有经分解后的模态分量,以及各分量所对应的中心频率。这些模态分量共同构建起信号的特征集合,为后续开展数据特征学习与识别工作,奠定了不可或缺的数据基础。

1.2 极光优化算法

PLO是一种受极光形成机制启发的元启发式优化算法。该算法的设计原理源于太阳系高能粒子在向地球两极运动过程中受地球磁场与大气层相互作用的物理现象。由于各种不可控因素,每个粒子的轨迹也不可预测,但向极地地区附近汇合构成了它们旅程的最终目的地。通过对高能粒子飞行轨迹及其运动过程进行模拟,提出了粒子碰撞策略可助力算法高效跳出局部最优状态。PLO寻优步骤如下。

(1)初始化:

X(N,D)=LB+R(UB-LB)=$\left[\begin{array}{llll}\mathrm{X}\left(\mathrm{1,1}\right)& \mathrm{X}\left(\mathrm{1,2}\right)& \dots & \mathrm{X}(1,\mathrm{D})\\ \mathrm{X}\left(\mathrm{2,1}\right)& \mathrm{X}\left(\mathrm{2,2}\right)& \dots & \mathrm{X}(2,\mathrm{D})\\ \mathit{︙}& \mathit{︙}& \mathrm{ }& \mathit{︙}\\ \mathrm{X}(\mathrm{N},1)& \mathrm{X}(\mathrm{N},2)& \dots & \mathrm{X}(\mathrm{N},\mathrm{D})\end{array}\right]$

式(7)中:N为种群中包含的候选解的大小;D为解空间的可扩展维度;X(N,D)为初始种群矩阵;UB、LB为空间边界; R取值为[0,1]的随机数序列。

(2)回转运动:

$\mathit{v}\left(\mathit{t}\right)=\mathit{C}{\mathrm{e}}^{\frac{\mathit{q}\mathit{B}-\mathit{a}}{\mathit{m}}}$

式(8)中:C为积分常数;粒子电荷q、质量m、地球磁场B均为常数,阻尼因子α取[1,1.5]的随机数;v(t)为带电粒子在时刻t的运动速度。

(3)极光椭圆步道:天文学观测表明,极光粒子主要沿椭圆轨道分布,其运动轨迹受地球大气层的非线性扰动。PLO算法引入Levy飞行机制模拟该过程中粒子的非高斯随机运动特性,从而有效满足全局搜索的时效性需求。表达式为

Ao=Levy(d)[Xavg(j)-X(i,j)]+LB+r1(UB-LB)/2

式(9)中:Levy(d)为飞行的随机步长;d为解空间维度;Xavg(j)为高能粒子群在第j维上的质心位置;X(i,j)为第i个高能粒子在第j维上的当前位置;r1取[0,1]的随机数;Ao为算法在当前迭代中生成的新候选解。

将回转运动与椭圆轨道运动两种策略相结合进行局部与全局搜索,计算模型为

Xnew(i,j)=X(i,j)+r2[W1v(t)+W2Ao]
W1=$\frac{2}{1+{\mathrm{e}}^{-2{(\mathit{t}/\mathit{T})}^{4}}}$-1
W2=${\mathrm{e}}^{-{(2\mathit{t}/\mathit{T})}^{3}}$

式中:Xnew(i,j)为高能粒子完成更新后的位置;r2为不可控环境等因素对粒子带来的干扰,取[0,1]的值;W1和W2为两种搜索策略的权重;t为当前迭代次数;T为最大迭代次数。

(4)粒子碰撞:极光粒子在太阳系飞行以及进入地球大气过程中都会发生碰撞导致极光形状发生变化,粒子间的混沌碰撞使得PLO能够离开局部最优。数学模型可以表示为

Xnew(i,j)=X(i,j)+sin(r3π)[X(i,j)-X(a,j)]

式(13)中:X(i,j)为子簇中的任意粒子位置;r3取[0,1]的随机数。

1.3 PLO-VMD参数优化流程

在进行VMD分解之前,需要预先设定四个关键参数:模态数量K、惩罚因子α、噪声容限t以及收敛精度ε。其中,t和ε对分解结果的影响相对较小,通常采用经验设定为默认值。采用经验法确认K和α取值的方式具有随机性,参数取值若不合适,可能会导致分解结果过度或不足。

为了消除人为设定K和α参数所带来的主观性和潜在偏差,采用PLO对这两个参数进行自适应搜索,以最小化原始信号与VMD重构信号之间的误差为目标,确保所选参数能够在全局范围内达到最优匹配。

整个流程将PLO优化方法与VMD分解技术紧密结合,以寻找最佳参数组合,从而提高信号分解的准确性与稳定性,为后文预测模型的构建提供了良好的数据基础。PLO-VMD优化流程如图1所示。

2 负载预测模型

2.1 时间卷积网络

TCN通过空洞因果卷积与残差连接的协同设计,在时序建模中展现显著优势:指数扩张的感受野有效捕获长程依赖,严格保持因果性约束;残差结构缓解训练退化,提升优化稳定性。这些特点使得TCN 在时间序列预测任务中表现出色,已成为时序数据处理的主流架构。

因果卷积是一种特殊的卷积操作,其核心特性在于严格保证输出仅依赖于当前及历史输入数据,完全排除了未来信息的干扰。这种设计精准契合了时间序列数据的固有特性,即事件的发生遵循严格的时间先后顺序,未来状态无法影响过去。因果卷积作为一种具有严格时间约束的神经网络结构,其结构如图2所示。

因果卷积和传统的卷积神经网络的不同之处在于它是单向的结构,不能看到未来的数据,对于上一层t时刻的值,只依赖于下一层t时刻及其之前的值,保证了未来数据不被泄露。如根据x1,x2,…,xt 去预测 y1,y2,…,yt。因果卷积的定义为,滤波器F= (f1,f2,…,fm),序列X=(x1,x2,…,xT),在xt处的因果卷积表达式为

(FX)(xt)=$\stackrel{\mathit{K}}{\sum _{\mathit{m}=1}}$fmxt-K+m

传统因果卷积因固定卷积核尺寸限制长程依赖捕获能力,需堆叠多层实现。因此,TCN采用膨胀卷积,以指数级扩张感受野,在保持浅层结构的同时高效建模长程时序关系,与传统卷积不同,膨胀卷积允许在卷积过程中对输入进行间隔采样,其采样率由扩张率d控制。其结构如图3所示。

TCN残差结构如图4所示,引入残差结构是为了缓解膨胀卷积导致的梯度问题,通过输入与输出的跨层直连,网络可同时学习恒等映射与残差分量,避免特征提取中的信息丢失,增强梯度传播稳定性,提升深层网络训练效率。

2.2 Informer

Informer是一种专为长序列时间序列预测(long sequence time-series forecasting,LSTF) 设计的Transformer模型。相较于传统的Transformer,Informer具备了三个独特特点。首先,他采用ProbSparse自注意力机制,具有O(Llog2L)的时间复杂度和内存使用,能够有效捕获序列中的长期依赖关系。其次,通过自注意力蒸馏技术,Informer能够高效处理极长的输入序列。最后,Informer的生成式解码器可以一次性预测整个长时间序列,在预测过程中大幅提高了效率。经过大规模数据集的实验验证,Informer在LSTF问题上表现优秀,为长序列时间序列预测提供了一种高效准确的解决方案,克服了传统Transformer模型的限制。其架构如图5所示,该模型主要由编码器与解码器构成,其中编码器通过多头稀疏概率自注意力机制与蒸馏操作堆叠实现,编码过程为

A(Q,K,V)=softmax$\left(\frac{\mathit{Q}{\mathit{K}}^{\mathrm{T}}}{\sqrt{\mathrm{d}}}\right)$V

式(15)中: A(·)为自注意力函数;Q为查询向量;K为键向量;V为值向量;d为防止梯度消失而增加的比例因子;softmax为激活函数。

(1)ProbSparse自注意力机制。一个查询向量的分布p(kj|qi)与均匀分布的q(kj|qi)之间的差异可以用KL散度(Kullback-Leibler divergence)来表示,计算KL的表达式为

KL(q‖p)=ln$\stackrel{{\mathit{L}}_{\mathit{K}}}{\sum _{\mathit{j}=1}}$exp$\left(\frac{{\mathit{q}}_{\mathit{i}}{{\mathit{k}}^{\mathrm{T}}}_{\mathit{j}}}{\sqrt{\mathrm{d}}}\right)$-$\frac{1}{{\mathit{L}}_{\mathit{K}}}\stackrel{{\mathit{L}}_{\mathit{K}}}{\sum _{\mathit{j}=1}}\frac{{\mathit{q}}_{\mathit{i}}{{\mathit{k}}^{\mathrm{T}}}_{\mathit{j}}}{\sqrt{\mathrm{d}}}$-lnLK

式(16)中:kj为第j个键向量;qi为第i个查询向量;LK为键向量的数量。

去掉常数,就可以定义第i个查询向量的稀疏性度量为

M(qi,K)=ln$\stackrel{{\mathit{L}}_{\mathit{K}}}{\sum _{\mathit{j}=1}}$exp$\left(\frac{{\mathit{q}}_{\mathit{i}}{{\mathit{k}}^{\mathrm{T}}}_{\mathit{j}}}{\sqrt{\mathrm{d}}}\right)$-$\frac{1}{{\mathit{L}}_{\mathit{K}}}\stackrel{{\mathit{L}}_{\mathit{K}}}{\sum _{\mathit{j}=1}}\frac{{\mathit{q}}_{\mathit{i}}{{\mathit{k}}^{\mathrm{T}}}_{\mathit{j}}}{\sqrt{\mathrm{d}}}$

第一项为一个LSE(Long-Sum-Exp)运算,第二项为一个算术平均值,如果第i个查询向量获得了一个较大的M(qi,K),这表明它的注意力权重分布p更加多样化,很可能包含长尾分布中的主要注意力。因此对于所有的查询向量来说,选取M(qi,K)排名前u的若干个查询向量作为$\stackrel{\wedge }{\mathit{Q}}$,这里的u=clnLQ,c为一个常数采样因子,LQ为查询向量的数量,那么ProbSparse 自注意力机制的过程就表示为

A(Q,K,V)=softmax$\left(\frac{\stackrel{\wedge }{\mathit{Q}}{\mathit{K}}^{\mathrm{T}}}{\sqrt{\mathrm{d}}}\right)$V

(2)Informer的encoder。为了解决算法中包含冗余的问题,Informer通过引入自注意力机制蒸馏操作来提炼出主要的注意力,这大幅度地缩短了输入的时间维度。从第j层到j+1的蒸馏操作表示为

${\mathit{X}}_{\mathrm{j}+1}^{\mathit{t}}$=MaxPool[ELU(Convld$[{\mathit{X}}_{\mathit{j}}^{\mathit{t}}{]}_{\mathrm{A}\mathrm{B}}$)]

式(19)中:[·]AB为Multi-head ProbSparse自注意力机制以及其他必要的操作;Conv1d为在时间维度上执行一维卷积,其后紧跟ELU激活函数,然后在通过MaxPool进行最大池化下采样,将输入的长度减半。自注意力机制蒸馏操作可将总内存占用量降至O[(2-ε)Llog2L],其中ε是一个极小的数值。

(3)Informer的decoder。Informer提出了一种生成式推理过程来提高推理速度,具体来说,解码器的输入为

${\mathit{X}}_{\mathit{f}\mathit{e}\mathit{e}\mathit{d}\_\mathit{d}\mathit{e}}^{\mathit{t}}$=Concat(${\mathit{X}}_{\mathrm{t}\mathrm{o}\mathrm{k}\mathrm{e}\mathrm{n}}^{\mathit{t}}$,${\mathit{X}}_{0}^{\mathit{t}}$)∈R(Ltoken+Ly)dmodel

式(20)中:${\mathit{X}}_{\mathrm{t}\mathrm{o}\mathrm{k}\mathrm{e}\mathrm{n}}^{\mathit{t}}$为起始令牌;${\mathit{X}}_{0}^{\mathit{t}}$为一个为预测序列保留的占位符。起始令牌是自然语言处理动态解码过程中一项极其有效的技术,一般会把起始令牌设定为一个特殊的标记。在Informer中,起始令牌是一个序列,是从encoder的输入中截取得到的,${\mathit{X}}_{0}^{\mathit{t}}$包含预测序列的时间戳嵌入。整个decoder的解码过程摒弃了动态解码机制,仅通过单次前向计算就能直接生成完整的输出序列。在模型训练阶段,损失函数选用的是均方误差(mean square error,MSE)。

2.3 TCN-Informer组合模型

通过引入膨胀卷积等机制,TCN部分能够在不同尺度上提取稳定且具有判别性的时序模式,而Informer部分则利用稀疏注意力机制显著降低计算复杂度,并有效建模远距离的时间依赖性。TCN-Informer模型是一种融合了TCN与Informer架构优势的深度学习框架,其核心优点在于能够同时高效地捕捉时间序列数据中的局部依赖关系与长期趋势特征,模型结构图如图6所示。

TCN-Informer具备较强的序列到序列建模能力,适用于多种任务场景如长期与短期预测、异常检测以及分类等。TCN-Informer在保持高预测精度的同时提升了计算效率,为复杂时间序列分析提供了兼具鲁棒性与可解释性的解决方案。

3 PLO-VMD-TCN-Informer 模型构建

针对传统人工特征提取方法在复杂时序数据处理中存在的效率低下,以及 VMD 参数优化过程中全局搜索能力不足、单一预测模型特征表征能力薄弱和特征冗余等问题,提出了基于PLO-VMD-TCN-Informer的云资源预测模型。

组合预测模型通过深度融合 PLO 优化算法与 VMD 分解技术,实现参数组合的全局寻优,显著提升信号分解的准确性与稳定性;同时有机整合 TCN 和 Informer 的架构优势,使预测序列既能精准捕捉 CPU 利用率的长期变化趋势,又能细腻刻画短期波动特征,相较单一预测模型展现出更优的预测精度与泛化能力。如图7所示为该预测模型的预测流程。

4 实验分析

4.1 实验环境

本实验使用的计算机配置为Windows11系统,CPU为AMD Ryzen 9 7945HX,32 G运行内存,GPU为RTX4060,磁盘空间1 TB;编程环境为基于python3.9的PyCharm以及基于PyTorch2.0搭建的深度学习框架。

4.2 数据来源与预处理

本文中使用的数据集来自阿里巴巴集团发布的开放式集群跟踪数据集Cluster-trace-v2018。该数据集覆盖了约4 000台机器,记录了每台机器大约8 d的资源使用情况,主要包含六个不同的表格,包括每台机器的资源使用情况表,每个容器的资源使用情况表,容器的原信息和事件信息表等,本实验选用这六张表中的machine_usage.csv(机器的资源使用情况表)。通过阅读相关文献和研究,发现CPU是服务器上最关键的资源之一,它的负载最能体现云资源的使用情况,对于应用性能和资源分配至关重要,故选取CPU进行负载预测,并随机挑取表中的一台机器数据进行实验,数据集参数如表1所示。

从machine_usage.csv(机器的资源使用情况表)中提取出服务器的资源指标数据,由于时间戳的间隔范围不相同,需要对原始数据进行标准时间格式处理,采用插值法填补缺失值,并对训练数据集进行最小最大值归一化处理,以加速预测算法收敛。最小最大归一化公式定义为

X't=$\frac{{\mathit{X}}_{\mathit{t}}-{\mathit{X}}_{\mathrm{m}\mathrm{i}\mathrm{n}}}{{\mathit{X}}_{\mathrm{m}\mathrm{a}\mathrm{x}}-{\mathit{X}}_{\mathrm{m}\mathrm{i}\mathrm{n}}}$

式(21)中:X't为归一化后t时刻的值;Xt为元数据集t时刻的值;Xmin为原数据集中的最小值;Xmax为原数据集中的最大值。

经过上述一系列的数据处理,最终整理得到采样频率为60 s的数据集。将数据集分为训练集和测试集是一个标准的机器学习实验步骤,通过将数据集的80%用于训练,可以确保模型有足够的数据来学习,并将20%用于测试,用于评估模型的性能。

4.3 评价指标

为了验证所提出的负载预测模型的有效性,实验中采用决定系数R2、均方误差(mean square error,MSE)、均方根误差(root mean square error,RMSE)、平均绝对误差(mean absolute error,MAE)和平均绝对值百分比误差(mean absolute percentage error,MAPE)作为评价指标,它们的计算公式分别为

R2=1-$\frac{\stackrel{\mathit{m}}{\sum _{\mathit{i}=1}}({\mathit{y}}_{\mathit{i}}-{\stackrel{\wedge }{\mathit{y}}}_{\mathit{i}}{)}^{2}}{\stackrel{\mathit{m}}{\sum _{\mathit{i}=1}}({\mathit{y}}_{\mathit{i}}{-\stackrel{-}{\mathit{y}})}^{2}}$
MSE=$\frac{1}{\mathit{m}}\stackrel{\mathit{m}}{\sum _{\mathit{i}=1}}({\mathit{y}}_{\mathit{i}}-{\stackrel{\wedge }{\mathit{y}}}_{\mathit{i}}{)}^{2}$
RMSE=$\sqrt{\frac{1}{\mathit{m}}\stackrel{\mathit{m}}{\sum _{\mathit{i}=1}}({\stackrel{\wedge }{\mathit{y}}}_{\mathit{i}}-{\mathit{y}}_{\mathit{i}}{)}^{2}}$
MAE=$\frac{1}{\mathit{m}}\stackrel{\mathit{m}}{\sum _{\mathit{i}=1}}\left|{\stackrel{\wedge }{\mathit{y}}}_{\mathit{i}}-{\mathit{y}}_{\mathit{i}}\right|$
MAPE=$\frac{1}{\mathit{m}}\stackrel{\mathit{m}}{\sum _{\mathit{i}=1}}\left|\frac{{\stackrel{\wedge }{\mathit{y}}}_{\mathit{i}}-{\mathit{y}}_{\mathit{i}}}{{\mathit{y}}_{\mathit{i}}}\right|$

式中:m为样本数量;yi为i时刻的真实值;${\stackrel{\wedge }{\mathit{y}}}_{\mathit{i}}$为模型对于i时刻的预测值;$\stackrel{-}{\mathit{y}}$为所有真实值的平均值。

4.4 PLO优化分析

为了消除人为设定参数所带来的主观性和潜在偏差,采用PLO对预测模型超参数进行寻优。如图8所示为PLO的迭代曲线。由于informer的参数数量较大,如果进行全部寻优则时间空间开销较大,因此选取训练轮数、学习率、批次大小、TCN卷积层数作为主要优化。具体优化流程如图9所示。

(1)训练轮数。训练轮数的选择至关重要,它决定了模型学习的充分性、训练效率以及最终的性能。需要根据训练过程中的损失变化、验证集表现来动态调整,确保在避免过拟合的同时,模型能够学习到足够的有用特征。

(2)学习率。学习率是训练过程中最关键的超参数之一,直接影响模型的收敛速度和效果。如果学习率设置过高,可能会导致梯度爆炸和不稳定;如果设置过低,模型会收敛过慢或停滞。因此,选择一个合适的学习率对优化过程至关重要。

(3)批次大小。批次大小影响到训练时每次更新权重时用到的数据量。较小的批次会使模型更新频繁,能更好地捕捉到数据的多样性,但可能导致噪声较大。较大的批次可以提高计算效率并可能使模型收敛更加平滑,但可能会浪费内存并导致训练时间增加。

(4)TCN卷积层数。TCN用于处理时序数据,卷积层的数量影响模型提取特征的深度和层次。过多的卷积层可能导致模型过拟合,过少则无法捕捉到足够的时序特征。

在寻优前需要对参数进行经验性的范围限定,预测模型参数优化搜索范围如表2所示。

通过PLO对模型超参数进行寻优后,最终选择的超参数配置如表3所示。

4.5 VMD 分解效果分析

基于Cluster-trace-v2018数据集,采用PLO对VMD的[k,α]最佳参数组合进行全局寻优,并进行分解效果分析。初始化PLO-VMD 参数:模态分量k寻优范围取[3,10],惩罚因子寻优范围α取[200,5 000]。VMD算法需要设置的其他参数对分解效果影响较小,故将其设置为经验值,即噪声容限t=0,初始化中心频率init=1,直流分量DC=0,收敛精度ε =1×10-7。经PLO优化后得到[k,α]最佳参数组合为[5, 3 809.77]。基于此参数组合,将容器云资源数据输入VMD模型进行分解,得到5个 IMF分量。如图10所示为各IMF分量的时域波形,可直观反映不同频率成分的时变特征,横坐标为采样时间,单位为秒,代表信号的时间序列点,纵坐标为各模态分量(IMF)的幅值,代表对应时间点上该模态的信号强度。

4.6 对比实验

将各个模型的预测值与真实值进行对比,观察各个模型的预测情况,设横坐标为采样点,纵坐标为机器对应样本点的CPU利用率,为保证实验的稳定性,每个模型重复多次实验取平均值,模型性能对比如图11所示。为了更清晰地对比不同方法的预测精度,各模型对CPU利用率的预测结果如表4所示。

从表4中可以看出PLO-VMD-TCN-Informer模型展现出显著的性能优势,相较于对比模型,其在所有评价指标上均实现了可观的提升。R2表示模型的拟合度,该值越接近1表示模型拟合度越好,PLO-VMD-TCN-Informer组合模型的R2高于其他模型;RMSE相比于单一模型降低24.03%~28.00%,表明预测误差的稳定压缩;MAPE相比于单一模型降低22.37%~31.59%,证实了模型在相对误差维度上的优越泛化能力。

4.7 消融实验

为验证本文所提出PLO-VMD-TCN-Informer模型中PLO与VMD在CPU利用率预测中的作用及影响,设计了以TCN-Informer为基础的消融实验,通过移除模型中的模块得到变体模型,实验对应的模型分别为:实验一:TCN-Informer,实验二:VMD-TCN-Informer,实验三:PLO-VMD-TCN-Informer。

不同变体模型预测误差实验结果如图12所示,模型预测性能指标如表5所示。

从表5可以看出消融实验的量化分析,各组件引入对预测性能产生显著提升。引入VMD后,R2提升了1.57%,RMSE约下降了7.31%,MAPE降低了0.69%,模型拟合与误差表现改善;进一步融合PLO后,R2进一步提升了1.02%、RMSE进一步降低了5.47%、MAPE进一步下降了0.34%。结果说明依次融入 VMD 和 PLO,持续优化模型对数据的拟合及预测精度,增强了模型性能。

5 结论

提出一种基于极光优化和变分模态分解的Informer云资源预测模型,通过PLO优化VMD参数,增强非平稳负载信号的自适应分解能力;再通过 TCN提取局部时间模式,强化细节特征捕捉;随后引入 Informer 的 ProbSparse 自注意力机制与生成式解码器,降低长序列预测计算复杂度;最后利用 PLO 优化模型超参数。与单一模型相比,所提出的模型表现较优,可以对容器云资源的分配提供有效的参考,提高容器云的利用率,具有一定的实际应用价值。

参考文献

[1]

Morichetta L A ustdar S. Time series predictions for cloud workloads: a comprehensive evaluation[C]// 2024 IEEE International Conference on Service-Oriented System Engineering (SOSE). Shanghai: IEEE, 2024: 36-45.

[2]

赵莉. 基于支持向量机的云计算资源负载预测模型[J]. 南京理工大学学报, 2018, 42(6): 687-692.

[3]

Zhao Li. Load forecasting model of cloud computing resources based on support vector machine[J]. Journal of Nanjing University of Science and Technology, 2018, 42(6): 687-692.

[4]

陈基漓, 张长晖, 谢晓兰. 基于生成对抗网络与深度学习的少数据云资源预测[J]. 科学技术与工程, 2022, 22(36): 16099-16107.

[5]

Chen Jili, Zhang Changhui, Xie Xiaolan. Few data cloud resource prediction based on generative adversarial network and deep learning[J]. Science Technology and Engineering, 2022, 22 (36): 16099-16107.

[6]

薛宇飞. 基于LSTM算法的云资源库存需求预测[J]. 信息与电脑(理论版), 2023, 35(10): 197-199.

[7]

Xue Yufei. Cloud resource inventory demand forecast based on LSTM algorithm[J]. China Computer & Communication (Theoretical Edition), 2023, 35(10): 197-199.

[8]

Patel E, Kushwaha D S. A hybrid CNN-LSTM model for predicting server load in cloud computing[J]. The Journal of Supercomputing, 2022, 78(8): 1-30.

[9]

李新飞, 谢晓兰. 基于Holt-Winters及长短期记忆的云资源组合预测模型[J]. 科学技术与工程, 2022, 22(13): 5306-5311.

[10]

Li Xinfei, Xie Xiaolan. Cloud resource combination prediction model based on HW-LSTM[J]. Science Technology and Engineering, 2022, 22(13): 5306-5311.

[11]

陈基漓, 李海军, 谢晓兰. 基于时间卷积和长短期记忆网络的短期云资源预测模型[J]. 科学技术与工程, 2025, 25(7): 2856-2864.

[12]

Chen Jili, Li Haijun, Xie Xiaolan. Short-term cloud resource prediction model based on temporal convolution and long short-term memory[J]. Science Technology and Engineering, 2025, 25(7): 2856-2864.

[13]

束文娟, 曾凡平, 陈国柱, 等. 基于变分模态分解与门控循环单元网络的云资源预测[J]. 计算机应用, 2021, 41(S2): 159-164.

[14]

Shu Wenjuan, Zeng Fanping, Chen Guozhu, et al. Cloud resource prediction based on variational mode decomposition and gated recurrent unit network[J]. Journal of Computer Applications, 2021, 41(S2): 159-164.

[15]

谢晓兰, 董宇. 基于二次分解和宽度学习系统的容器云资源预测模型[J]. 实验室研究与探索, 2025, 44(3): 94-100.

[16]

Xie Xiaolan, Dong Yu. A container cloud resource prediction model based on quadratic decomposition and broad learning system[J]. Research and Exploration in Laboratory, 2025, 44(3): 94-100.

[17]

史爱武, 罗干, 李林逸, 等. 基于MVMD-MHAT-BiLSTM的云资源负载预测方法[J]. 软件导刊, 2024, 23(12): 18-26.

[18]

Shi Aiwu, Luo Gan, Li Linyi, et al. Cloud resource load prediction method based on MVMD-MHAT-BiLSTM[J]. Software Guide, 2024, 23(12): 18-26.

[19]

Bacanin N, Simic V, Zivkovic M, et al. Cloud computing load prediction by decomposition reinforced attention long short-term memory network optimized by modified particle swarm optimization algorithm[J]. Annals of Operations Research, 2023(12): 1-34.

[20]

樊智勇, 张瑾, 刘涛. 基于RF-TCN-SSA-Informer模型的飞机状态预测方法[J]. 科学技术与工程, 2025, 25(28): 12139-12147.

[21]

Fan Zhiyong, Zhang Jin, Liu Tao. Aircraft state prediction method based on RF-TCN-SSA-Informer models[J]. Science Technology and Engineering, 2025, 25(28): 12139-12147.

[22]

黄铝文, 刘宇航, 屈昆仪, 等. LSTM与Informer融合预测冠层区域温度[J]. 农业工程学报, 2025, 41(8): 222-232.

[23]

Huang Lüwen, Liu Yuhang, Qu Kunyi, et al. Canopy area temperature prediction with fusion of LSTM and Informer[J]. Transactions of the Chinese Society of Agricultural Engineering, 2025, 41(8): 222-232.

[24]

Li J C, Sun L P, Wu X, et al. Enhancing financial time series forecasting with hybrid deep learning: CEEMDAN-Informer-LSTM model[J]. Applied Soft Computing, 2025, 117: 113241.

[25]

殷建华, 戴冠正, 丁宁, 等. 基于STL-Informer-BiLSTM-XGB模型的供热负荷预测[J]. 科学技术与工程, 2024, 24(21): 8942-8949.

[26]

Yin Jianhua, Dai Guanzheng, Ding Ning, et al. Heating load forecasting based on STL-Informer-BiLSTM-XGB model[J]. Science Technology and Engineering, 2024, 24(21): 8942-8949.

基金资助

广西重点研发计划(桂科AB23026036)

广西重点研发计划(桂科AB23026004)

国家自然科学基金(62262011)

PDF (8525KB)

51

访问

0

被引

详细

导航
相关文章

/

〈 〉