基于随机森林与Q-learning融合的多元电力数据存储优化决策方法

叶学顺; 贾东梨; 周俊; 唐英; 贾梓豪

doi:10.12404/j.issn.1671-1815.2501706

科学技术与工程 ›› 2026, Vol. 26 ›› Issue (3) :1065-1074 DOI: 10.12404/j.issn.1671-1815.2501706

论文：电工技术

基于随机森林与Q-learning融合的多元电力数据存储优化决策方法

叶学顺 ¹ ,
贾东梨 ¹ ,
周俊 ¹ ,
唐英 ²^,^* ,
贾梓豪 ²

作者信息 +

Storage Optimization Decision Method for Multivariate Power Data Based on the Integration of Random Forest and Q-learning

YE Xue-shun ¹ ,
JIA Dong-li ¹ ,
ZHOU Jun ¹ ,
TANG Ying ²^,^* ,
JIA Zi-hao ²

Author information +

文章历史 +

摘要

大规模和多样的电力数据存储面临效率低和内存容量不足的瓶颈问题。数据索引和数据压缩等传统数据存储优化方法各有优劣势,如何有效应用于电力数据存储是目前研究的难点。为了解决这个问题,提出了一种融合随机森林和Q-learning的多元电力数据存储优化决策方法。该方法中的关键技术包括:首先提出了基于改进随机森林算法的存储优化策略决策模型,引入信息增益方法,综合评价数据存储时对数据库的数据访问频率、查询时间、存储速度以及数据冗余率等因素影响,做出数据直接存储、数据索引存储和数据压缩存储的存储优化方法策略决策;其次提出了基于改进Q-learning算法的数据存储算法决策模型,引入多尺度学习机制、优先经验放回机制和正负向奖励机制,决策数据索引存储时适用的索引算法以及数据压缩存储时适用的数据压缩算法。本方法有效融合了数据索引与数据压缩的技术优势,大幅提升数据存储效率并节约存储空间,为大规模多元电力数据管理提供新的解决方案。

Abstract

Storage of large-scale and multivariate power data faces challenges such as low efficiency and insufficient memory capacity. Traditional data storage optimization methods like data index and data compress methods have their own advantages and disadvantages. How to effectively apply these methods to power data storage is a core problem in current research. To solve the problem, a storage optimization decision method for multivariate power data that integrates random forest algorithm and Q-learning algorithm was proposed. Key technologies of this method were these as follows. Firstly, a storage optimization strategy decision model based on an improved random forest algorithm was developed. By the introduction of information gain method, the model could evaluate the data access frequency, query time, storage speed and data redundancy rate during database data storage, and made choice on storage optimization strategies like direct data storage, data index storage, and data compress storage. Secondly, a data storage algorithm decision model based on the improved Q-learning algorithm was proposed. By the introduction of multi-scale learning mechanism, prioritized experience replay mechanism and positive/negative reward mechanism, the model could determine the suitable index algorithm for data index storage and the compress algorithm for data compress storage. The proposed method effectively integrates the technological advantages of data index and data compress storage, can improve data storage efficiency and save storage space significantly, and thus provide a new solution for the management of large-scale and multivariate power data.

Graphical abstract

关键词

随机森林算法 / Q-learning算法 / 数据存储优化方法 / 数据索引算法 / 数据压缩算法

Key words

random forest algorithm / Q-learning algorithm / data storage optimization method / data index algorithm / data compress algorithm

引用本文

引用格式 ▾

叶学顺, 贾东梨, 周俊, 唐英, 贾梓豪. 基于随机森林与Q-learning融合的多元电力数据存储优化决策方法[J]. 科学技术与工程, 2026, 26(3): 1065-1074 DOI:10.12404/j.issn.1671-1815.2501706

YE Xue-shun, JIA Dong-li, ZHOU Jun, TANG Ying, JIA Zi-hao. Storage Optimization Decision Method for Multivariate Power Data Based on the Integration of Random Forest and Q-learning[J]. Science Technology and Engineering, 2026, 26(3): 1065-1074 DOI:10.12404/j.issn.1671-1815.2501706

登录浏览全文

4963

注册一个新账户忘记密码

近年来,随着智能设备广泛部署实现配电网数据实时收集^[1],数据规模大幅激增甚至突破TB级别^[2]。同时,随着电力系统可视化程度提升,除台账数据外,配电网数据中引入了大量几何形态、尺寸、材质、拓扑等模型数据^[3]。数据规模和多样性增加给数据存储带来巨大压力^[4]。传统的存储架构在处理如此庞大复杂数据时,面临存储查询响应时间过长^[5]、数据冗余^[6]等瓶颈问题。

为了解决上述问题,研究者提出了各种存储优化方法。例如,在缩短存储查询响应时间方面,曾飞等^[7]、李悦艺等^[8]提出数据索引方法,通过为每一行数据新增索引信息实现数据快速定位来提高数据查询效率。关于数据索引算法,夏秀峰等^[9]提出基于倒排索引的正则路径索引,通过将字段映射到文档或数据对应位置实现快速匹配。耿庆田等^[10]提出基于B+树的数据索引算法,通过节省建立索引时间来提高查询速度。不过因数据索引处理会增加存储开销,高查询频率数据存储时才能补偿这一开销,故适用于高查询频率数据存储。在数据冗余问题方面,于浩等^[11]研究数据压缩方法,通过数据压缩存储解决存储容量不足问题。关于数据压缩算法,周航等^[12]提出LZW(Lempel-Ziv-Welch)压缩算法能提供快速解压速度和合适压缩比;许晓飞等^[13]提出LZ77数据压缩算法实现对低频信息无损压缩。不过因数据解压缩会延迟影响查询效率,该方法适用于数据体积大且查询频率低的数据存储。可以说,各数据存储优化方法及其实施算法有不同优劣势,适用场景不同。

如何结合大规模多元电力数据存储需求和时间尺度特性,有效发挥数据索引和数据压缩等数据存储优化方法的优势并综合应用,解决效率低和内存容量不足的瓶颈问题是目前研究的难点。为此,现提出一种基于随机森林与Q-learning融合的电力数据存储决策方法。该方法的实施包括两项关键技术。①提出基于改进随机森林算法的存储优化策略决策模型,通过综合评价数据库存储时数据访问频率、查询时间、存储速度以及数据冗余率等因素影响,做出数据直接存储、数据索引存储和数据压缩存储的存储优化方法决策;②提出基于改进Q-learning算法的数据存储算法决策模型,引入多尺度学习机制、优先经验放回机制和正负向奖励机制,决策数据索引存储时适用的索引算法以及数据压缩存储时适用的数据压缩算法。

迄今,在电力数据领域,随机森林与Q-learning算法已应用于电力数据的特征分析及预测,如:洪德华等^[14]基于随机森林算法识别电力数据内在关联的关键特征;李强等^[15]为提高电网安全运行和调度,针对智能配电网异常数据提出了一种基于多元数据特征和改进随机森林算法的异常数据分析方法;张羽姗等^[16]基于随机森林算法构建了短期电力负荷预测模型;涂潜等^[17]结合Q-learning算法和主成分分析法对电网工程变电及线路等数据进行处理以预测可能导致建设工期延长的主要因素。本文中扩展随机森林与Q-learning算法指新的应用领域,通过两种算法的有效结合并发挥各自优势,实现电力数据存储优化精细决策,达到提升存储效率和节约存储空间的目的,为大规模多元电力数据管理提供新的解决方案。

1 关键技术

1.1 基于改进随机森林算法的存储优化策略决策模型设计

1.1.1 随机森林算法

随机森林是一种集成机器学习算法,通过结合多个决策树的预测结果提高算法性能^[18]。其实施方法如下:假设有训练集D,包含k个样本,其中,第i样本的输入特征向量为x_i和输出特征向量为y_i,且x_i∈R^m、y_i∈Rⁿ,R^m和Rⁿ分别为m维输入特征空间集合及n维输出特征空间集合。采用式(1)的有放回的均匀抽样法对训练集D进行采样,每次采样生成一个子集,共T个子集。第t子集D⁽^t⁾的样本索引集合记为S_t(t=1,2,…,T),则

(1)D⁽^t⁾={(x_i,y_i)|i∈S_t}

每个子集训练一棵决策树,则共生成有T个决策树。其中,各决策树选择的输入特征向量是从输入特征全集中的一个子集随机选取的,表达式为

(2)Split Feature=argmin_u_{∈Random subset}

∑ v = 1 w (y v - y ∧) 2

式(2)中:u为输入特征索引;w为当前节点中的样本数;y_v为第v个样本的真实值;

y ∧

为根据第v个样本的特征向量进行分裂后的决策值。即找到一个索引u,使在当前特征下样本的真实值y_v和分裂后的决策值

y ∧

之间的平方差之和最小化。

所有树在训练完成后,对新输入的数据点,分别使用每棵决策树进行决策,然后对所有决策结果进行平均,可对平均后的决策向量取概率最高的类别,得到最终的决策结果,表达式为

(3)

y ∧

=argmax[

1 T ∑ t = 1 T y ∧ (t)

(x)]

式(3)中:

y ∧

为输入样本x的初步决策值(最终决策值对应概率最高的类别);

y ∧ (t)

为第t棵决策树的决策值。

可以看出,随机森林算法通过结合样本随机性和特征随机性,对复杂关系具有较强的适应性,特别适用于资源分配、决策分析等涉及复杂数据关系的问题,因此,本文中采用随机森林算法进行电力数据存储优化方法的策略决策。

本文中设计的基于改进随机森林算法的存储优化策略决策模型中,输入特征向量x由在存储每一数据列时对数据库存储查询时的数据访问频率、查询时间、存储速度以及数据冗余率构成。输出特征向量y由直接存储、数据索引存储及数据压缩存储3种存储优化策略构成。

1.1.2 改进的随机森林算法

考虑到随机森林算法若输入特征间高度相关会导致特征分裂效果重叠而出现过度拟合现象,而使泛化能力降低,本文中对随机森林算法进行了以下改进。

首先,在构建数据样本(x_i,y_i)时,对模型输出的“直接存储”、“数据索引”或“数据压缩”策略结果采用独热编码^[19]进行编码数值化处理,即对应的输出特征向量y_i分别由[001]、[010]和[100]表示。对数据访问频率、查询时间、存储速度以及数据冗余率这4个输入特征向量x_i的特征值通过数值分区离散化预处理方法得到:即4个特征分别以次访问/天、毫秒、兆字节/秒和比特冗余率作为衡量单位,从数据库的查询日志中获取其数值大小后,使用等频分箱方法将数据按照值的分布划分为若干个区间,即

(4)x_ij=⌊

i k / K j

」, i=1,2,…,k, j=1,2,…,K_j

式(4)中:⌊」为下取整符号;x_ij为第i样本的输入特征向量x_i中第j输入特征的值,K_j为x_ij的区间总数量。

将各个输入特征均离散化为“非常低”“低”“偏低”“中”“偏高”“高”“非常高”7个区间,即K_j=7。且对这7个输入特征也采用独热编码进行编码数值化处理,分别为[1000000]、[0100000]、[0010000]、[0001000]、[0000100]、[0000010]、[0000001],后文中用x_σ(σ=1,2,…,K_j)标识。

其次,在决策树的选择和构建过程中引入信息增益方法,在采用式(2)为各决策树选择输入特征向量时,计算每个输入特征的信息增益,然后选择信息增益最大的那个输入特征进行分裂。其中,信息增益计算公式为

(5)InfoGainx_vu=H(y)-H(y|x_vu)

式(5)中:x_vu为待评估输入特征;InfoGainx_vu为x_vu信息增益;H(y)为输出特征向量y的熵;H(y|x_vu)为给定输入特征x_vu后的输出特征向量y的调减熵。且

(6)H(y)=

∑ l = 1 β

p(y_l)log₂p(y_l)

式(6)中:p(y_l)表示输出特征向量y在数据集中取某一具体类别y_l的概率;β为输出特征向量y的类别数量。

(7)H(y|x_vu)=-

∑ l = 1 ∑ = 1 K j

p(y_l|x_vu=x)×log₂p(y_l|x_vu=x)

式(7)中:p(y_l|x_vu=x)表示输入特征x_vu取值x时y属于类别y_l的概率。

1.1.3 基于改进随机森林算法的存储优化策略决策模型

所设计的基于改进随机森林算法的存储优化策略决策模型如图1所示。由于配电网各类型数据的数据特征相对固定,该模型采用离线训练和在线推理工作模式,以满足数据存储实时处理要求。

1.2 基于改进Q-learning算法的数据存储算法决策模型设计

1.2.1 传统Q-learning算法

Q-learning是一种强化学习算法, 通过逐步学习找到在给定当前状态下应采取的最佳行动^[20]。其中,衡量在给定状态下采取某个行动好坏的Q函数按照式(8)进行,通过逐步学习直到Q函数收敛,说明找到了最佳行动。

(8)Q(s_t₊₁,a_t₊₁)←Q(s_t,a_t)+αδ_t

式(8)中:s_t为系统当前时刻t的状态;a_t为在状态s_t下采取的行动;Q(s_t,a_t)表示在状态s_t下采取行动a_t时能够获得的预期回报;s_t₊₁为系统在下一个时刻t+1的新状态;a_t₊₁为在状态s_t₊₁下采取的行动;Q(s_t₊₁,a_t₊₁)表示在状态s_t₊₁下采取行动a_t₊₁时能够获得的预期回报;α为学习率,0<α<1;δ_t为数据时序差分误差(temporal difference error,TD误差),反映当前Q值和未来最优Q值估计之间的偏差,表达式为

(9)δ_t=r_t+γ

m a x a' t + 1

Q(s_t₊₁,a'_t₊₁)-Q(s_t,a_t)

式(9)中:γ为折扣因子,0≤γ≤1,较小的γ值意味着智能体更加看重当前奖励;a'_t₊₁表示在状态s_t₊₁下所有可能采取得行动;

m a x a' t + 1

Q(s_t₊₁,a'_t₊₁)表示在状态s_t₊₁下所有可能动作中可能获得的最大未来回报;r_t为即时奖励,设置r_t>0则为正向奖励,r_t<0则为负向奖励。

将Q-learning算法用于本研究时,s_t为数据索引存储或数据压缩存储,即由上述基于改进随机森林算法的存储优化策略决策模型输出的结果。a_t为实施数据索引或数据压缩的具体算法。以MySQL数据库的数据存储为例,可选用的数据索引存储算法如下^[10-11]:倒排索引算法复杂索引处理耗时长,但经索引处理后数据能快速定位实现加速数据查询响应,适用于数据访问频率高的场合;B+树索引算法相对简单且定位索引性能稳定,适用于数据访问频率中等、索引范围相对较大场合;数据访问频率低的场合采用MySQL中的自带方法B树索引算法,该算法索引处理耗时最短。数据压缩存储算法选择如下^[12-13]:数据冗余程度高的场合采用虽算法复杂压缩处理耗时长但能提供快速解压速度和合适压缩比的LZW压缩算法;数据冗余程度中的场合采用能平衡压缩率和解压速度的LZ77压缩算法;数据冗余程度低的场合采用算法简单的Base64编码压缩算法,该算法压缩处理耗时最短。

1.2.2 改进的Q-learning算法

进一步地,为适应多元电力数据的特殊性,本研究在上述传统Q-learning算法的基础上,进行了以下改进。

1)Q函数学习的改进

为了应对多元电力数据多时间尺度特性,在Q-learning算法中引入多尺度学习机制,具体的实现方法如下。

首先,尺度的划分基于待存储数据访问频率进行划分为短期尺度、中期尺度和长期尺度共3个时间尺度,具体划分可以根据实际需要确定。例如,在后文的配电网可视化平台应用中数据访问频率在1 440次/d以上的被归为短期尺度,在1次/d以下的被归为长期尺度,其余为中期尺度。

在每一个尺度上对评价指标进行卷积计算,捕捉各尺度卷积特征。计算公式为

(10)${h}_{t}^{i}$=Conv(${E}_{t}^{i}$,c_i)

式(10)中:${E}_{t}^{i}$为尺度i上当前时刻t的评价指标;c_i为尺度i上卷积核的大小,设为3×3;${h}_{t}^{i}$为在尺度i上提取的卷积特征;其中,对应3个时间尺度,i=1为短期特征;i=2为中期特征;i=3为长期特征。

其次,将所有尺度上的卷积特征${h}_{t}^{i}$组合成多尺度卷积特征向量,表达式为

(11)${h}_{t}^{multi}$=concat(${h}_{t}^{1}$,${h}_{t}^{2}$,${h}_{t}^{3}$)

式(11)中:concat表示拼接操作;${h}_{t}^{multi}$是组合后的多尺度卷积特征向量,以融合待存储数据评价指标的短期、中期和长期的多尺度特征。

然后,将得到的多尺度特征${h}_{t}^{multi}$代入式(9)和式(8),得

(12)${\delta }_{t}^{multi}$=r_t+γ$\underset{a\text{'}{ }_{t+1}}{max}$Q(${h}_{t+1}^{multi}$,a'_t₊₁)-Q(${h}_{t}^{multi}$,a_t)

(13)Q(${h}_{t}^{multi}$,a_t₊₁)←Q(${h}_{t}^{multi}$,a_t)+α${\delta }_{t}^{multi}$

通过${h}_{t}^{multi}$代替s_t的改进,使得Q-learning在迭代学习过程中,对采取某个具体数据索引算法或数据压缩算法的行动而计算Q函数,就需要依据存储数据评价指标的时间尺度特征来进行。换言之,改进的Q-learning算法加入了对所存储数据时间尺度特性的考量,使得 Q-learning 在决策时能够综合考虑多个时间尺度的信息,从而提高算法的灵活性,做出更加精确的决策。

2)TD误差δ_t的改进

多元电力数据范围广、种类多,导致评估未来状态的

m a x a' t + 1

Q(s_t₊₁,a'_t₊₁)存在较大不确定性,式(12)计算的TD误差δ_t偏差大。为解决这一问题,引入优先经验回放机制,为了确保TD误差大的数据优先得到学习,从而更好地熟悉并应对大TD误差数据,优化学习能力。具体的实现方法如下。

首先,设置经验池,对Q-learning每一次的学习,将当前的状态、动作、奖励和下一个状态作为一条新经验,存储到经验池中。首先由式(12)的

δ t m u l t i

对当前时刻t的经验回放优先级权重ω_t进行计算,公式为

(14)${p}_{t}^{multi}$=$\sum _{i=1}^{3}\left|{\delta }_{t}^{multi}\right|$τⁱ+∈

(15)ω_t=

p t m u l t i ∑ j = 1 N p t j m u l t i

式中:${p}_{t}^{multi}$为在当前时刻t新计算出的待加入经验池的一条经验数据的经验回放优先级;${p}_{tj}^{multi}$为当前时刻t经验池中已存储的第j条经验数据的经验回放优先级;N为当前时刻t经验池中已有经验数据的总条数;τⁱ为时间尺度i下的TD误差权重,这里时间尺度即为前述卷积特征计算的3个时间尺度,且τⁱ在i=1,2,3时分别取值1.0、0.5和0.2。因为小时间尺度的数据变动通常是突发性的、不可预测的,设定较大的τⁱ权重值,有助于算法重视对小时间尺度变化的数据学习;∈=0.000 1是防止优先级为零而设置的常数。

然后,将由式(15)计算的优先级权重ω_t加入了多尺度学习机制后的TD误差计算,将式(12)进一步改进为

(16)${\delta }_{t}^{multi}$=ω_t[r_t+γ_i$\underset{a\text{'}{ }_{t+1}}{max}$Q(${h}_{t+1}^{multi}$,a'_t₊₁)-Q(${h}_{t}^{multi}$,a_t)]

把式(18)代入式(15)完成Q值的更新过程。

3)即时奖励r_t的改进

即时奖励的确定综合考虑存储算法对于存储效率及存储资源的影响,为此,设置评价指标为

(17)E=c_eδ_qT_q+δ_SS_q

式(17)中:E为评价指标;T_q为存储数据查询时间;S_q为存储数据所占内存大小;δ_q和δ_S分别表示T_q和S_q的权重,本文中设置δ_q=δ_S=0.5;比例因子c_e用于将T_q和S_q调整到相近量级,通过重复试验及计算得到c_e=5.988。

r_t的设置基于评价指标E的变化进行,公式为

(18)r_t=

E t - E t - 1 E t - 1

×100%

式(18)中:E_t为当前时刻评价指标;E_t_-1为前一时刻评价指标。这样,将基于评价指标的自适应正负向奖励机制引入Q-learning算法,有利于优化模型的学习效果和性能。

综上,通过引入多尺度学习机制、优先经验放回机制和正负向奖励机制实现对Q-learning算法的改进,改进后的算法称为多尺度优先经验放回机制的Q-learning算法(multiscale learning-prioritized experience replay Q-learning, ML-PER Q-learning)。

基于此ML-PER Q-learning算法的数据索引/压缩存储算法决策模型如图2所示。同样,该模型也采用离线训练和在线推理工作模式,以满足数据存储实时处理要求。

2 算例测试

以一基于Unity3D开发的配电网可视化平台的数据存储为例,测试所提出的基于随机森林与Q-learning融合的电力数据存储决策方法的有效性。该配电网可视化平台配置在一台具有Intel(R) Core(TM) i9-9900 CPU、GTX1660显卡及16 G内存的计算机上。本文所有案例均在该计算机上完成。

2.1 配电网可视化平台数据

该配电网可视化平台所使用的可视化数据包括配电网台账数据、设备模型数据及三维环境模型数据,存储在MySQL数据库中。平台通过Unity3D调用和读取MySQL数据库中存储的3种数据一键式实现了配电网单体设备、馈线、台区等模型的构建和可视化展示。

(1)台账数据。该平台所使用的台账数据从配电网数据系统(PMS)中获取,以csv格式存放在数据库中。如图3所示,台账数据以行标识符(ID)、线路名称(line name)、线路信息(line information)、线路长度(line length)、导线型号(conductor model)、生产厂家(manufacturer)、设备名称(equipment name)和设备型号(equipment model)为表头依次存放在配电网台账数据库的各行中。

(2)设备模型数据。该平台所使用的配电网设备模型通过3Ds Max内置的脚本语言MaxScript创建,以json格式存放在数据库中。以图4(a)所示的杆塔模型为例,其json格式的模型驱动参数数据如图4(b)示。这些模型数据以行标识符(ID)、设备类型(device type)、主体高度(main body height)和直径(main body diameter)、横杆高度(crossarm height)和长度(crossarm length)、绝缘子数量(crossarm insulator count)及材质纹理(texture material)为表头依次存放在配电网设备模型数据库的一行中。

(3)三维环境模型数据。该平台所使用的三维环境模型采用CityEngine软件内置的脚本语言CE scripting language编程创建,以csv格式存放在数据库中。以图5(a)所示的三维环境数据为例,其csv格式的三维环境模型参数见图5(b)所示。这些模型数据以行标识符(ID)与模型名称(Type)、矢量位置(PositionX,PositionY)、贴图格式(Texture)及建筑物风格(Style)等为表头依次存入环境场景数据库中。

这样,用于数据存储实验的配电网可视化数据总行数共25 576行,其中,csv格式的台账数据有20 740行,包含一年内某市的某一区下所有电力数据信息;json格式的设备模型数据有4 125行,有13种共391个设备;json格式的环境模型数据有711行,覆盖地域面积约为21 km²。

2.2 配电网可视化平台数据存储实验

2.2.1 基于改进随机森林的存储优化策略决策模型的有效性验证

1)数据集制作

数据集一般会被划分为训练集、测试集和验证集。训练集数据用于模型建模素材,测试集数据用于模型性能测试,最终使用模型通过验证集数据进行应用验证。抽取上述25 576行配电网可视化数据中数据量十分之一的典型数据用作训练集和测试集,且二者的比例为8∶2,其余数据作为验证集。

对训练集中电力数据的每个输入特征向量采用遍历实验法寻找对应的输出特征向量,形成输入特征向量-输出特征向量样本。具体方法是:对已有电力数据分别采用直接存储、数据索引及数据压缩的数据存储方法进行数据存储试验;各次试验中除记录各输入特征以及输出特征的数值外,也记录存储时间以及存储数据所占内存大小,然后依据式(18)计算的评价模型存储效率及存储空间节约综合性能的评价指标数值;对于某一输入特征向量条件,选择能获得最大评价指标数值的数据存储方法作为相应的输出特征向量,完成数据集中一个样本的构建。

2)随机森林算法改进前后模型的性能对比

考虑到模型性能受决策树数量影响大,需要首先确定最优决策树数量T。用训练集数据进行模型决策树数量寻优试验的方法是:依次增加决策树数量并获得不同决策树数量下模型输出与样本输出间的误差,该误差值逐渐减小并趋于一个稳定值,此时可以认为已经收敛到最优解。采用传统随机森林算法模型和采用本文提出的改进随机森林算法模型的决策树数量寻优试验结果如图6所示。

由图6可得,随机森林算法改进前后的模型中决策树数量最优解均为42棵。但相比而言,采用本文改进随机森林算法后模型实现决策树数量寻优时收敛速度更快,且收敛后模型误差值大幅减小。这一结果表明,通过改进随机森林算法能提升算法的学习能力,从而增加模型决策的准确性。

用测试集数据进行测试,两个模型中决策树数量均设置为50。测试结果表明,采用传统以及改进随机森林方法的模型的决策准确率分别为72.5%和91.7%,验证了随机森林算法改进后模型决策的准确性得到大幅提高。

3)存储优化策略决策模型验证测试

用训练好的本文模型对验证集中各类数据进行存储优化决策,结果如下。

(1)直接存储的数据:台账中的线路长度、线路信息、设备经纬度信息数据;设备模型中的尺寸参数;三维环境模型中的矢量位置和建筑风格。在配电网可视化平台中这些数据仅在需要更新时才会查看修改等,访问频率低且数据量适中,因此对这些数据模型进行传统直接存储。

(2)数据索引的数据:台账中的线路名称和设备名称;设备模型中的设备类型;三维环境模型中的模型名称。这样因为,在配电网可视化平台中有关某配电网设备的作业一般通过三维环境模型名称指定模型所属三维环境区域,通过线路名称选择馈线,通过设备类型及设备名称快速搜寻定位到相应设备,这一系列操作过程关联的数据访问频率高,模型倾向于采用数据索引存储。

(3)数据压缩的数据:台账中的馈线导线型号、生产厂家和设备型号;设备模型中的材质纹理;三维环境模型中的贴图格式。这样因为如图3~图5所示这些数据字段较为固定且重复内容多,数据冗余程度高,因此模型更倾向于采用数据压缩存储。

需要指出的是,采用传统随机森林算法的模型的决策结果略有不同:对馈线线路名称和设备模型类型数据进行直接存储。这是因为在配电网可视化平台中有关某配电网设备的作业也可以通过设备名称直接搜寻定位,采用这种方法时无需访问馈线线路名称和设备模型类型数据,因此降低了这两种数据的调用频率。改进的随机森林算法因引入信息增益机制,对数据访问频率等4个输入特征更敏感而做出了更加细粒度的决策。

2.2.2 基于改进Q-learning算法的数据存储算法决策模型有效性验证

1)改进Q-Learning算法后模型收敛性测试

使用本文存储优化策略决策模型确定需要进行数据索引或数据压缩的数据,分别输入数据索引/压缩存储算法决策模型,测试Q-Learning算法改进前后模型收敛性的改善情况。测试中记录模型在逐步学习中各轮次的Q函数值,直至收敛。测试结果如图7所示。

由图7所示的Q函数值收敛曲线可以看出,无论是数据索引存储还是数据压缩存储,用本文提出的ML-PER Q-learning算法学习时Q函数值在学习过程中及收敛后均远高于传统Q-learning算法。Q函数值越高表示算法在训练过程中学到的策略越有效。因此可以看出,本文中ML-PER Q-learning算法比传统Q-learning算法的学习效率高。

2)改进Q-Learning算法后模型决策验证

利用基于改进Q-learning算法的数据索引/压缩存储算法决策模型,对需要进行数据索引或数据压缩的数据,进行数据索引或数据压缩算法决策的结果如下:

(1)数据索引存储算法及适用数据。

①倒排索引算法:台账中的设备名称、三维环境模型名称。

②B+树索引算法:台账的线路名称。

③B树索引算法:台账中的设备类型。

可以看出,模型对于数据索引存储算法的决策主要依据配电网可视化平台对数据的调用频率以及算法复杂程度。数据访问频率高的数据采用了算法复杂但响应速度提升效果好的倒排索引算法;数据访问频率不高的数据采用了算法相对简单的B+树索引和MySQL中的自带方法B树索引算法。

(2)数据压缩存储算法及适用数据。

①LZW压缩算法:三维环境模型的贴图格式。

②LZ77压缩算法:台账的导线型号和设备型号;设备模型的材质纹理。

③Base64编码压缩算法:台账的生产厂家。

可以看出,模型对于数据压缩存储算法的决策主要依据配电网可视化平台对数据的冗余程度以及算法复杂程度。环境模型贴图格式数据重复率高、数据冗余程度大就倾向于选择压缩力度大的算法;而不同设备生产厂家不同,数据重复率低冗余程度小就倾向于选择更为简单的算法。

2.2.3 基于随机森林与Q-learning融合的电力数据存储决策方法应用测试

1)配电网可视化数据整体存储测试

在基于Unity3D开发的配电网可视化平台上,依次使用常规直接存储方法、文献[8]提到的全部压缩方法、文献[7]提到的全部索引方法和本文提出的基于随机森林与Q-learning融合的电力数据存储决策方法,将上述25 576行数据整体存入MySQL数据库并在Unity3D调用进行配电网可视化建模与展示。4种存储方法建模结果相同,如图8所示。

记录上述测试中查询时间、内存占用并计算评价指标E,对比4种方法的有效性,结果如表1所示。可以看出,相对于常规直接存储方法,采用全部压缩存储方法时内存资源占用最少但查询时间增加。采用索引存储方法查询时间减小但对内存资源占用增加。采用本文方法后查询时间以及内存占用均得以降低。相比于传统的直接存储方法,本文方法查询效率提升了17.5%,内存占用降低了46%。作为综合评价模型存储效率及存储空间节约性能指标的E数值在采用本文方法时最小,相比于传统的直接存储方法降低了41.8%。

2)配电网可视化数据刷新存储测试

该基于Unity3D开发的配电网可视化平台提供漫游功能可实时数据刷新,这时需要对数据库数据进行反复查询调用。直接用评价指标E考察4种存储方法在数据刷新时受存储数据量和存储查询次数影响的情况,测试试验结果如图9所示。可以看出,无论存储数据量的大小和存储查询次数的多少,采用本文方法时评价指标E均最小;而且,随着存储数据量和存储查询次数的增加,采用本文方法的评价指标E与其他3种方法之间的差距加大。说明本文提出方法在提升存储效率及节约存储空间方面的优势随着存储数据量和存储查询次数的增加更显著。

3 结论

为了解决大规模和多样的电力数据存储面临效率低和内存容量不足的瓶颈问题,提出了一种融合随机森林和Q-learning的电力数据存储优化决策方法。研究的关键技术包括:

(1)通过进行输入特征数值分区离散化预处理和引入信息增益方法对传统随机森林算法进行了改进。在此基础上,提出了基于改进随机森林算法的存储优化策略决策模型,通过综合评价数据库存储时数据访问频率、查询时间、存储速度以及数据冗余率等因素影响,做出数据直接存储、数据索引存储和数据压缩存储的存储优化策略决策。

(2)通过引入多尺度学习机制、优先经验放回机制和正负向奖励机制改进传统Q-learning算法,提出了ML-PER Q-learning算法。在此基础上,提出了基于ML-PER Q-learning算法的数据索引和压缩存储算法决策模型,决策数据索引存储时适用的索引算法以及数据压缩存储时适用的数据压缩算法。

通过基于Unity3D开发的配电网可视化平台的数据存储测试结果表明,本方法有效融合了数据索引与数据压缩的技术优势,提升数据存储效率并节约存储空间。该方法为大规模多元电力数据管理提供新的解决方案。

参考文献

原文顺序 | 出版日期 | 本文引用

[1]	李高扬, 王宁, 高若田, 等. 面向新型电力系统智能化提效的多源异构数据融合技术研究[J]. 电测与仪表, 2024, 61(11): 116-121.

[2]	Li Gaoyang, Wang Ning, Gao Ruotian, et al. Research on multi-source heterogeneous data fusion technology for intelligent efficiency improvement of new power systems[J]. Electrical Measurement & Instrumentation, 2024, 61(11): 116-121.

[3]	孙滢涛, 张锋明, 陈水标, 等. 基于多域特征提取的电力数据异常检测方法[J]. 电力系统及其自动化学报, 2022, 34(6): 105-113.

[4]	Sun Yingtao, Zhang Fengming, Chen Shuibiao, et al. Power data anomaly detection algorithm based on multi-domain feature extraction[J]. Proceedings of the CSU-EPSA, 2022, 34(6): 105-113.

[5]	马彦彰, 李先允. 变电站数字孪生体的SFM三维建模方法[J]. 建筑结构, 2023, 53(7): 169.

[6]	Ma Yanzhang, Li Xianyun. SFM three-dimensional modeling method for substation digital twin[J]. Building Structures, 2023, 53(7): 169.

[7]	张东霞, 苗新, 刘丽平, 等. 智能电网大数据技术发展研究[J]. 中国电机工程学报, 2015, 35(1): 2-12.

[8]	Zhang Dongxia, Miao Xin, Liu Liping, et al. Research on the development strategy for smart grid big data[J]. Proceedings of the CSEE, 2015, 35(1): 2-12.

[9]	姜吉宁, 信俊昌, 郝琨, 等. 混合存储区块链中的时空关键字查询[J]. 东北大学学报(自然科学版). 2023, 44(12): 1696-1704.

[10]	Jiang Jining, Xin Junchang, Hao Kun, et al. Spatio-temporal keyword query in hybrid storage blockchain[J]. Journal of Northeastern University (Natural Science), 2023, 44(12): 1696-1704.

[11]	孙文鹏, 王硕, 李京. 一种面向区块链系统的轻量级高效可验证查询方法[J]. 小型微型计算机系统, 2024, 45(8): 1944-1952.

[12]	Sun Wenpeng, Wang Shuo, Li Jing. A lightweight efficient verifiable query method for blockchain systems[J]. Mini-micro Computer Systems, 2024, 45(8): 1944-1952.

[13]	曾飞, 杨雄, 苏伟, 等. 基于区块链与数据湖的电力数据存储与共享方法[J]. 电力工程技术, 2022, 41(3): 48-54.

[14]	Zeng Fei, Yang Xiong, Su Wei, et al. Power data storage and sharing method based on blockchain and data lake[J]. Power Engineering Technology, 2022, 41(3): 48-54.

[15]	李悦艺, 张丰, 杜震洪, 等. 基于LSM-OCTree的时空流分布式调度和存储方案[J]. 浙江大学学报(理学版), 2023, 50(2): 204-212.

[16]	Li Yueyi, Zhang Feng, Du Zhenhong, et al. Spatio-temporal flow distributed scheduling and storage scheme based on LSM-OCTree[J]. Journal of Zhejiang University (Science Edition), 2023, 50(2): 204-212.

[17]	夏秀峰, 孙翔天, 孙尧, 等. 基于倒排索引的正则路径查询算法[J]. 计算机工程与设计, 2024, 45(8): 2343-2349.

[18]	Xia Xiufeng, Sun Xiangtian, Sun Yao, et al. Regular path query algorithm based on inverted index[J]. Computer Engineering and Design, 2024, 45(8): 2343-2349.

[19]	耿庆田, 狄婧, 常亮, 等. 基于B+树的数据索引存储[J]. 吉林大学学报(理学版), 2013, 51(6): 1133-1136.

[20]	Geng Qingtian, Di Jing, Chang Liang, et al. Data indexing and storage based on B+ tree[J]. Journal of Jilin University (Science Edition), 2013, 51(6): 1133-1136.

[21]	于浩, 杨家辉, 习伟, 等. 智能配用电数据压缩方法研究进展及展望[J]. 供用电, 2024, 41(8): 2-14.

[22]	Yu Hao, Yang Jiahui, Xi Wei, et al. Research progress and prospects of smart distribution and power consumption data compression methods[J]. Power Supply and Consumption, 2024, 41(8): 2-14.

[23]	周航, 潘小辉, 孙佳炜, 等. 基于CZ-BWT改进的LZW压缩算法在电力报文中的应用[J]. 计算机集成制造系统, 2024, 30(8): 2947-2953.

[24]	Zhou Hang, Pan Xiaohui, Sun Jiawei, et al. Application of the CZ-BWT improved LZW compression algorithm in power messages[J]. Computer Integrated Manufacturing Systems, 2024, 30(8): 2947-2953.

[25]	许晓飞, 陈亮. 应用整数小波变换的LZ77电力数据压缩算法[J]. 西安工程大学学报, 2018, 32(3): 337-342.

[26]	Xu Xiaofei, Chen Liang. LZ77 power data compression algorithm using integer wavelet transform[J]. Journal of Xi’an University of Engineering, 2018, 32(3): 337-342.

[27]	洪德华, 刘翠玲, 赵林燕, 等. 基于多域特征分析与选择的电力数据识别方法[J]. 水电能源科学, 2023, 41(9): 211-215.

[28]	Hong Dehua, Liu Cuiling, Zhao Linyan, et al. Power data recognition method based on multi-domain feature analysis and selection[J]. Hydropower and Energy Science, 2023, 41(9): 211-215.

[29]	李强, 张立梅, 白牧可. 基于多元数据特征和改进随机森林的智能配电网异常数据辨识[J]. 科学技术与工程, 2023, 23(5): 2007-2015.

[30]	Li Qiang, Zhang Limei, Bai Muke. Intelligent distribution network anomaly data identification based on multivariate data features and improved random forest[J]. Science Technology and Engineering, 2023, 23(5): 2007-2015.

[31]	张羽姗, 周亚同. 基于VMD-SSA-RF算法的短期电力负荷预测模型优化[J]. 电工电能新技术, 2024, 43(12): 30-39.

[32]	Zhang Yushan, Zhou Yatong. Short-term power load forecasting model optimization based on VMD-SSA-RF algorithm[J]. Electrical Engineering and New Technology, 2024, 43(12): 30-39.

[33]	涂潜, 占亚波, 陈东亮, 等. 基于Q-Learning的电网工程数据处理与分析方法研究[J]. 电子设计工程, 2023, 31(12): 124-127, 132.

[34]	Tu Qian, Zhan Yabo, Chen Dongliang, et al. Research on power grid engineering data processing and analysis method based on Q-Learning[J]. Electronic Design Engineering, 2023, 31(12): 124-127, 132.

[35]	管铖, 刘明月, 满卫东, 等. 连续小波结合随机森林算法估算互花米草叶片叶绿素含量[J]. 光谱学与光谱分析, 2024, 44(10): 2993-3000.

[36]	Guan Cheng, Liu Mingyue, Man Weidong, et al. Estimation of chlorophyll content in leaves of Spartina alterniflora by continuous wavelet combined with random forest algorithm[J]. Spectroscopy and Spectral Analysis, 2024, 44(10): 2993-3000.

[37]	王鹏, 邓智, 范毓洋. 面向独热编码的有限状态机抗单粒子翻转设计[J]. 电讯技术. 2022, 62(8): 1178-1183.

[38]	Wang Peng, Deng Zhi, Fan Yuyang. Finite state machine anti single particle flipping design for single hot encoding[J]. Telecommunications Technology 2022, 62(8): 1178-1183..

[39]	向征, 何雨阳, 全志伟. 流量拥堵空域内一种基于Q-Learning算法的改航路径规划[J]. 科学技术与工程, 2022, 22(32): 14494-14501.

[40]	Xiang Zheng, He Yuyang, Quan Zhiwei. A rerouting path planning based on Q-Learning algorithm in congested airspace[J]. Science Technology and Engineering, 2022, 22(32): 14494-14501.