基于Adam优化的改进PSO-RBF牵引变压器故障诊断研究*

doi:10.11985/2023.04.023

基于Adam优化的改进PSO-RBF牵引变压器故障诊断研究^*

邵宁宁^,¹, 王英^,¹^,²

1.兰州交通大学自动化与电气工程学院兰州 730070

2.兰州交通大学光电技术与智能控制教育部重点实验室兰州 730070

Research on PSO-RBF Traction Transformer Fault Diagnosis Based on Adam Optimization

SHAO Ningning^,¹, WANG Ying^,¹^,²

1. School of Automation and Electrical Engineering, Lanzhou Jiaotong University, Lanzhou 730070

2. Key Laboratory of Optoelectronic Technology and Intelligent Control of Ministry of Education,Lanzhou Jiaotong University, Lanzhou 730070

收稿日期: 2022-10-26 修回日期: 2023-07-11

基金资助:

*国家自然科学基金资助项目(52067013)

Received: 2022-10-26 Revised: 2023-07-11

作者简介 About authors

邵宁宁，男，1994年生，硕士。主要研究方向为牵引变压器故障诊断。E-mail：1316574327@qq.com

王英，男，1978年生，博士，副教授。主要研究方向为高速铁路动车组可靠供电控制与预测。E-mail：254043274@qq.com

摘要

牵引变压器作为铁路供电的重要设备，承担着电气化铁路电力输送和电压转换的重要作用，其运行情况决定了整个牵引供电系统的安全稳定运行。由于牵引变压器运行环境恶劣，运行时同时受“电-磁-力-热”等多种内外应力，而且负载特性复杂，使得牵引变压器的故障诊断难度增大。对牵引变压器的故障诊断研究，不仅可以在牵引变压器发生故障前及时进行预警，而且可以为牵引变压器的检修提供充分的理论支撑，从而提高铁路供电系统的安全性和可靠性。把基于经典动量概念的Adam优化算法与PSO算法相结合，提出了一种基于油中溶解气体的牵引变压器故障诊断的新方法。首先构建PSO-RBF牵引变压器故障诊断模型，通过加速因子非线性搭配的仿真，采用非线性指数递减搭配来提高粒子群的寻优能力。以某铁路局管辖内牵引变压器的故障数据来进行仿真分析，诊断结果验证了IPSO-RBF-Adam牵引变压器故障诊断模型的诊断率和稳定性优于PSO-RBF模型。

关键词： 牵引变压器; 故障诊断; RBF神经网络; PSO算法

Abstract

Traction transformer, as an important equipment of railway power supply, plays an important role in power transmission and voltage conversion of electrified railway, and its operation determines the safety and stability operation of the whole traction power supply system. Due to the harsh operating environment of the traction transformer, it is also subjected to various internal and external stresses such as “electric-magnetic-force-thermal”, and complex load characteristics, which makes the difficulty of fault diagnosis of the traction transformer increased. The research on the fault diagnosis of traction transformers can not only give timely warning before the failure of traction transformer, but also can provide sufficient theoretical support for the overhaul of traction transformer, so as to improve the safety and efficiency of railway power supply. A new method for traction transformer fault diagnosis based on dissolved gas in oil is proposed by combining Adam optimization algorithm based on classical momentum concept with PSO algorithm. Firstly, a PSO-RBF traction transformer fault diagnosis model is constructed, through the simulation experiment of nonlinear acceleration factor collocation, the nonlinear exponential decreasing collocation is used to improve the optimization ability of particle swarm optimization. The IPSO-RBF-ADAM traction transformer fault diagnosis model is better than PSO-RBF model in diagnosis accuracy and stability by simulation analysis of traction transformer fault data under the jurisdiction of a railway bureau.

Keywords： Traction transformer; fault diagnosis; RBF neural network; particle swarm optimization algorithm

PDF (592KB) 元数据多维度评价相关文章导出 EndNote| Ris| Bibtex 收藏本文

本文引用格式

邵宁宁, 王英. 基于Adam优化的改进PSO-RBF牵引变压器故障诊断研究^*[J]. 电气工程学报, 2023, 18(4): 209-216 doi:10.11985/2023.04.023

SHAO Ningning, WANG Ying. Research on PSO-RBF Traction Transformer Fault Diagnosis Based on Adam Optimization[J]. Chinese Journal of Electrical Engineering, 2023, 18(4): 209-216 doi:10.11985/2023.04.023

1 引言

牵引变压器作为铁路供电的命脉元件，其运行情况决定了整个牵引供电系统的安全稳定运行^[1]，因此必须加强对牵引变压器故障诊断的研究。基于油中溶解气体的牵引变压器故障诊断常用的方法有油色谱分析法^[2-3]、BP神经网络^[4-5]和混合神经网络法^[6-7]。由于牵引变压器运行环境恶劣，运行时同时受“电-磁-力-热”等多种内外应力，而且牵引变压器负载特性复杂，使得牵引变压器的故障诊断难度增大。

20世纪70年代，KENNEDY等^[8]提出PSO优化算法，其思想源于鸟群的觅食行为，算法采用迭代的优化思路，根据粒子的迭代来更新局部最优值和全局最优值。文献[9]提出了一种关于加速因子动态调整的策略，研究发现对于特定的问题，加速因子c₁和c₂选用特定的非线性组合，可以提高目标函数的收敛速度。RBF神经网络^[10]能够逼近任意的非线性函数，具有良好的泛化能力，并有较快的学习收敛速度，已成功应用于非线性函数逼近、数据分类、系统建模和故障诊断等。文献[11]采用PSO算法对RBF模型的径向基函数中心、方差以及隐含层到输出层的连接权值进行寻优，使其更正确地反映输入样本空间的实际分布，进而保证较强的拟合性能。

Adam算法是KINDMA等^[12]于2015年提出的一种自适应梯度优化算法，其基本思路为通过动态调整模型参数的学习率，同时对一阶距估计和二阶距估计进行偏置校正，使每次迭代后的学习率都在规定的范围内，从而使算法的学习率更加稳定。Adam结合了动量与自适应学习率来替代梯度下降法，非常适用于本文嘈杂、稀疏且参数较大的油色谱数据，而PSO算法在速度迭代过程中，省去了交叉和变异操作，相对编程更为简单，与遗传算法相比，所有粒子寻优是跟随当前最优粒子，而不是整个种群以比较均匀的速度向最优解区域移动，到达最优解位置的时间相对更短^[13]。

文献[14]将PSO算法中粒子更新思路与Adam算法的梯度优化相结合，采用Adam优化PSO算法，可以拓展求解空间，从而提高PSO算法的收敛速度。将Adam算法与PSO-RBF故障诊断模型相结合，提高算法的收敛性能和模型诊断的准确性，发挥两种算法在建模中的不同优点，可以有效地提高变压器故障诊断率。

通过Adam计算梯度的一阶矩估计和二阶矩估计，为不同的参数设计独立的自适应性学习率，超参数可以很直观地解释，并且基本上只需要极少量的调参，能够实现高效计算，所需内存少，能够快速精准对牵引变压器故障进行诊断。本文将采用基于经典动量概念的Adam和PSO相结合，针对特征气体含量噪声高容易判断失误、求解过程中存在稀疏梯度的问题，提出了一种基于油中溶解气体的牵引变压器故障诊断的新方法。以某铁路局管辖内牵引变压器的故障数据来进行仿真分析，验证和分析IPSO-RBF-Adam牵引变压器故障诊断模型的有效性和可靠性。

2 牵引变压器油中溶解气体的分析

2.1 牵引变压器油中溶解气体产生的原理

牵引变压器在正常工作状态下，油中溶解气体的主要成分是O₂和N₂。当牵引变压器在异常或故障状态下，内部会释放出大量的热量，牵引变压器的油在电、热、磁场和机械力的多重作用下，碳氢化合物发生热裂解和电裂解，在初期主要发生断链反应，碳链持续断裂生成小分子的碳链，随着反应的继续进行，小分子碳链继续发生脱氢反应和断链反应，油中碳氢化合物分子内部的化学键继续断裂后生成新的小分子链和自由基，然后小分子链在自由基的作用下继续发生二次脱氢和断链反应，碳氢化合物分子内部的C—H键和C—C键重新组合，最终生成了C₂H₄、C₃H₆、CH₄、H₂、C₂H₆等特征气体和自由基^[15]。

2.2 牵引变压器常见故障与气体的关系

牵引变压器的内部故障，从性质上一般分为热性故障和电性故障两种，热性故障的50%是由内部开关接触不良引起的，其余的50%则是由内部局部短路、铁心接地、导线过热、油道堵塞等所引起的。温度在150~700 ℃的故障被称为中低温过热故障，温度大于700 ℃的热故障称为高温过热。当牵引变压器内部的电磁回路向周围空间或绝缘系统的绝缘材料放电时，就会产生电性故障，电性故障类型主要可分为低能放电、局部放电和高能放电三种^[16]。

牵引变压器在正常工作状态下，其内部会产生少量的气体以小分子状态溶解在变压器油中，当变压器内部出现热性或电性故障时，变压器绝缘油在高强度电场的作用下，就会加快变压器内部气体的分解，不同故障类型下分解的气体也有所不同，牵引变压器常见故障与气体成分的关系^[17]如表1所示。

表1 牵引变压器常见故障与气体成分的关系

故障类型	主要成分	次要成分
中低温过热	CH₄、C₂H₄	H₂、C₂H₆
高温过热	CH₄、C₂H₄、CO、CO₂	H₂、C₂H₆
高能放电	H₂、C₂H₂	CH₄、C₂H₄、C₂H₆
低能放电	H₂、C₂H₂	无
局部放电	H₂、CH₄、CO	C₂H₂、C₂H₆、CO₂

新窗口打开| 下载CSV

3 改进PSO算法

3.1 标准PSO算法

PSO优化算法通过研究鸟群捕食行为，设置一个无质量的微粒来模拟鸟群中的鸟，每个粒子在搜索空间中独立寻找当前最优解，将其作为当前粒子的个体极值p_best，个体极值与整个粒子群中其他粒子进行比较，将最佳个体极值作为整个粒子群的当前全局最优解g_best，粒子群的速度和位置更新过程分别如式(1)、(2)所示

(1)

v_{i d} (t + 1) = ω v_{i d} (t) + c_{1} r_{1} (p_{i d} - x_{i d} (t)) + c_{2} r_{2} (p_{g d} - x_{i d} (t))

(2)

x_{i d} (t + 1) = x_{i d} (t) + v_{i d} (t)

式中，id为粒子群的当前迭代次数；ω为惯性权值；c₁和c₂为加速因子；x_id为粒子i第d维的位置；v_id为粒子i第d维的速度；r₁和r₂为[0,1]的随机数。

3.2 改进PSO算法

标准粒子群算法最主要的缺点是容易产生早熟收敛，易陷入局部最小值。因此本文对惯性权值ω和加速因子c₁和c₂分别进行改进，防止算法早熟来提高PSO算法的全局寻优能力。

3.2.1 惯性权重ω的改进

惯性权重ω影响粒子群的整体性能，ω越大粒子的全局搜索能力越强，ω越小粒子的局部搜索能力越强。因此最优惯性权重ω可以平衡粒子的全局搜寻能力和局部搜寻能力增强粒子的寻优性能。当粒子的适应度小于平均适应度时，需要扩大搜索范围来寻找最优值；当粒子的适应度大于平均适应度时，需要缩小搜索范围进行局部精确搜索，本文对惯性权重的改进如式(3)所示

(3)

ω = \{\begin{matrix} ω_{max} + \frac{ω_{max} - ω_{min}}{{it}_{max}^{2}} iter f (x_{i d}) \leq f_{c} \\ ω_{max} - \frac{ω_{max} - ω_{min}}{{it}_{max}^{2}} iter f (x_{i d}) > f_{c} \end{matrix}

式中，ω_min和ω_max为预设的最小和最大惯性权重系数；f(x_id)表示第d次迭代时粒子i的适应度；iter为寻优步长；it_max为最大迭代次数；f_c为第d次迭代时所有粒子的平均适应度。

3.2.2 加速因子c₁和c₂的改进

用PSO优化神经网络的权值和宽度向量，加速因子c₁和c₂的搭配不仅能加快粒子的搜寻速度，而且能降低粒子陷入局部极小值的可能。目前关于加速因子的研究很少，大部分PSO算法中c₁和c₂都取默认值2.0或者c₁+c₂=4的固定线性搭配，本文通过构建 $c_{1} = c_{max} - \frac{c_{max} - c_{min}}{{it}_{max}^{2}} {iter}^{2}$ ，c₂的二次递增搭配c₂= $a c_{1}^{2}$ +b、对数递增搭配c₂=log_ac₁+b、二次递减搭配c₂=- $a c_{1}^{2}$ +b和指数递减搭配c₂= $a^{- c_{1}}$ +b，通过仿真分析，来研究加速因子c₁、c₂之间函数关系的变化对粒子群寻优性能的影响。

3.3 改进PSO算法寻优能力测试

为研究加速因子的4种非线性搭配对粒子群寻优性能的影响，本节仿真所用四种测试函数如表2所示。

表2 四种测试函数

函数名称	测试函数
Sphere函数	$f_{1} = \sum_{i = 1}^{d} x_{i}^{2}$
Rosenbrock函数	$f_{2} = \sum_{i = 1}^{d} [100 {(x_{i + 1} - x_{i}^{2})}^{2} + {(x_{i} - 1)}^{2}]$
Griewank函数	$f_{3} = \frac{1}{4 000} \sum_{i = 1}^{d} x_{i}^{2} - \prod_{i = 1}^{d} \cos (\frac{x_{i}}{\sqrt{i}}) + 1$
Rastrigrin函数	$f_{4} = \sum_{i = 1}^{d} [x_{i}^{2} - 10 \cos (2 π x_{i}) + 1 0]$

新窗口打开| 下载CSV

将标准PSO算法与改进的二次递增IPSO1算法、对数递增IPSO2算法、二次递减IPSO3算法以及指数递减IPSO4算法进行仿真对比分析，所有算法迭代次数为500，四种测试函数的仿真迭代如图1~4所示，测试函数的寻优结果如表3所示。

图1

新窗口打开| 下载原图ZIP| 生成PPT

图1 Sphere函数仿真迭代图

图2

新窗口打开| 下载原图ZIP| 生成PPT

图2 Rosenbrock函数仿真迭代图

图3

新窗口打开| 下载原图ZIP| 生成PPT

图3 Griewank函数仿真迭代图

图4

新窗口打开| 下载原图ZIP| 生成PPT

图4 Rastrigrin函数仿真迭代图

表3 四种测试函数的寻优结果

算法类型	相同迭代次数(500次)算法寻优结果
算法类型	f₁函数	f₂函数	f₃函数	f₄函数
PSO	1.75×10^-4	5.99×10^-2	3.09×10^-5	8.01×10^-2
IPSO1	4.51×10^-4	9.54×10^-2	1.24×10^-4	7.29×10^-2
IPSO2	1.42×10^-4	9.37×10^-2	8.93×10^-5	7.58×10^-2
IPSO3	1.31×10^-4	8.82×10^-2	2.37×10^-5	9.96×10^-2
IPSO4	4.73×10^-4	9.58×10^-3	7.65×10^-6	9.92×10^-3

新窗口打开| 下载CSV

由表3中四组仿真结果可知，指数形式改进的IPSO4算法在收敛速度和精度上均优于标准PSO和其改进PSO算法。具体可知，IPSO4在f₂、f₃和f₄上的收敛值均比标准PSO低出一个数量级；在避免陷入局部最优方面，IPSO4脱离局部最优的次数多，表明其全局搜索能力更强；由IPSO4收敛曲线变化趋势可知，IPSO具有更快的收敛幅度，搭配指数形式改进的IPSO4算法能更好地平衡全局勘探与局部开发过程的过渡，使得目标函数能更充分地接近最优解。

4 基于Adam优化的IPSO-RBF牵引变压器故障诊断

4.1 基于Adam优化的IPSO-RBF变压器故障诊断算法

本文所研究的变压器故障数据具有嘈杂、稀疏且参数较大等特点，采用Adam算法替代标准RBF采用的梯度下降算法进行模型训练，有利于增强算法本身跳出局部最优的能力，使得模型在处理稀疏数据时具有更强的拟合性能。根据Adam算法的基本原理，把动量的概念与粒子群自适应惯性权重相结合，来研究基于Adam优化的自适应惯性权重。在粒子群中，根据粒子的动量、粒子当前最优值和群体全局最优值到当前粒子的位置来决定粒子下一次的迭代速度v_id，在维度j上粒子i的梯度g_ij如式(4)所示

(4)

g_{i j} = {gbest}^{i} - x_{i j}

引入动量概念的梯度值m_ij和梯度平方和指数加权平均v_ij如式(5)所示

(5)

\{\begin{cases} m_{i j} = β_{1} m_{i}_{, j - 1} + (1 - β_{1}) g_{i j} \\ v_{i j} = β_{2} v_{i}_{, j - 1} + (1 - β_{2}) g_{i j}^{2} \end{cases}

为准确表示出对期望值的无偏估计，m_ij和v_ij的校正值分别用 ${\hat{m}}_{i}_{j}$ 和 ${\hat{v}}_{i}_{j}$ 表示，其计算过程如式(6)所示

(6)

\{\begin{cases} {\hat{m}}_{i j} = \frac{m_{i j}}{1 - β_{1}^{i}} \\ {\hat{v}}_{i j} = \frac{v_{i j}}{1 - β_{2}^{i}} \end{cases}

在维度j上粒子i的惯性权重如式(7)所示

(7)

ω_{i j} = \frac{\sqrt{{\hat{v}}_{i j}}}{α} {\hat{m}}_{i j} + β

式中，α和β是调节系数。

4.2 基于Adam优化的IPSO-RBF牵引变压器故障诊断模型

基于Adam优化的IPSO-RBF牵引变压器故障诊断模型如图5所示。构建模型主要分为三个步骤：IPSO模块的搭建，RBF神经网络模块的搭建，基于Adam算法优化的IPSO-RBF变压器故障诊断模型。

图5

新窗口打开| 下载原图ZIP| 生成PPT

图5 基于Adam优化的IPSO-RBF牵引变压器故障诊断模型

4.3 基于Adam优化的IPSO-RBF变压器故障诊断模型的训练

使用Adam优化IPSO-RBF神经网络模型的变压器故障诊断流程如下所示。

步骤1：参数初始化，从训练集中提取m个变压器样本数据。

步骤2：计算损失函数的梯度。

步骤3：更新步长。

步骤4：依据式(5)计算梯度的一阶矩估计m_ij、二阶矩估计v_ij。

步骤5：依据式(6)对一阶矩估计m_ij、二阶矩估计v_ij进行校正。

步骤6：依据式(7)更新参数ω_ij，优化RBF网络的权值和阈值。

基于Adam优化的IPSO-RBF变压器故障诊断流程图如图6所示。

图6

新窗口打开| 下载原图ZIP| 生成PPT

图6 基于Adam优化的IPSO-RBF牵引变压器故障诊断流程图

4.4 Adam模型参数设定

由于本节的模型是基于优化IPSO-RBF变压器模型产生的，所以RBF神经网络的参数和IPSO算法的各参数与前文一致，Adam算法的各参数如表4所示。

表4 Adam算法参数

参数	具体设置
学习率η	0.001
一阶矩阵衰减率µ	0.9
二阶矩阵衰减率v	0.999
稳定常数εε	1×10^-8
初始一阶矩估计m₀	0
初始二阶矩估计v₀	0

新窗口打开| 下载CSV

5 验证及分析

根据IEC 60599和GB/T 72522标准，通过文献[18]获取的300组样本数据，选择210组作为训练样本，90组作为测试样本，具体的数据集分类如表5所示。样本由特征气体的含量构成，特征气体主要为H₂、CH₄、C₂H₆、C₂H₄和C₂H₂，数据精确到0.01 μL/L。本文在Matlab2018b上运行，配置为Windows 10系统、i7处理器。

表5 数据集分类

运行状态	低能放电	高量放电	局部放电	中低温过热	高温过热	正常
训练集个数	31	37	38	35	34	35
测试集个数	15	15	15	15	15	15

新窗口打开| 下载CSV

5.1 牵引变压器故障诊断模型测试

为验证本文模型的有效性，分别采用PSO-RBF、WOA-RBF、改进的IPSO-RBF和基于Adam优化的IPSO-RBF的模型对油中溶解的气体进行仿真分析，四种方法的故障诊断结果分别如图7~10所示，四种方法的迭代损失率对比如图11所示。

图7

新窗口打开| 下载原图ZIP| 生成PPT

图7 PSO-RBF神经网络故障诊断结果

图8

新窗口打开| 下载原图ZIP| 生成PPT

图8 WOA-RBF神经网络故障诊断结果

图9

新窗口打开| 下载原图ZIP| 生成PPT

图9 IPSO-RBF神经网络故障诊断结果

图10

新窗口打开| 下载原图ZIP| 生成PPT

图10 基于Adam优化的IPSO-RBF神经网络故障诊断结果

图11

新窗口打开| 下载原图ZIP| 生成PPT

图11 四种方法的迭代损失率对比

5.2 牵引变压器故障诊断模型的性能对比分析

为了全面地比较PSO-RBF、WOA-RBF、IPSO-RBF和IPSO-RBF-Adam算法在牵引变压器故障诊断领域中的性能表现，对误差函数的训练误差曲线和测试集的准确率进行对比，四种模型性能对比分析如表6所示。

表6 四种模型性能对比分析

诊断方法	迭代次数	误差均方值	诊断错误	准确率(%)
PSO-RBF	231	0.050 6	8	91.111
WOA-RBF	165	0.034 9	5	94.444
IPSO-RBF	142	0.021 4	4	95.556
IPSO-RBF-Adam	101	0.004 7	2	97.778

新窗口打开| 下载CSV

通过对比模型的训练误差曲线可得，在四种模型中，PSO-RBF故障诊断模型的训练效果最差，IPSO-RBF神经网络模型的训练误差曲线在第142次迭代后开始趋于平缓，训练效果明显，说明加速因子的指数递减搭配可以加快粒子的搜索速度，减少粒子陷入局部极小值的可能。基于Adam优化IPSO-RBF的变压器故障诊断模型训练效果最好，说明Adam算法在训练过程中自动对数据集添加轻微的扰动，引入了物理中动量的概念和偏置校正工作保证自适应策略的稳定性，该策略既利用了粒子的特征又满足了惯性权重递减的设置策略，从而提高了模型的迭代能力。

如表6所示，PSO-RBF模型、WOA-RBF模型IPOS-RBF模型以及IPSO-RBF-Adam模型的变压器故障诊断识别准确率分别为91.111%、94.444%、95.556%和97.778%。结果表明，采用指数型非线性惯性以及Adam对PSO-RBF进行联合改进，能有效增强模型的分类识别性能。在上述四种模型中，识别错误样本个数分别为8、5、4和2。IPSO-RBF-Adam模型识别错误的样本分别出现在高温过热和正常类别，而其他模型含错误识别样本的类别均超过2组，表明IPSO-RBF-Adam表明在处理异常数据时具有更强的泛化性能。

文献[19]提出一种基于VSRP与β-GWO-SVM的变压器故障诊断模型，并与粒子群优化支持向量机模型(PSO-SVM)进行对比，模型诊断精度为91.87%。文献[20]提出了一种基于深度训练网络和改进的模糊C均值聚类的变压器故障诊断方法，所提方法准确率为93.3%。文献[21]利用多策略改进的麻雀算法对BiLSTM的相关超参数进行寻优，建立的综合故障诊断模型故障诊断率为94%。文献[22]提出基于线性判别分析(Linear discriminant analysis, LDA)法建立的诊断模型，运用线性判别分析最终诊断准确率为97.27%，结果表明本文所提方法可以有效地提升牵引变压器故障诊断性能。

6 结论

本文将经典动量概念的Adam算法与粒子群算法相结合，提出了一种基于油中溶解气体的牵引变压器故障诊断新方法。具体如下所述。

(1) 建立PSO-RBF牵引变压器故障诊断模型，通过加速因子非线性搭配的仿真，研究发现加速因子的非线性指数递减搭配提高了粒子群的寻优能力，降低了粒子陷入局部极小值的可能。

(2) 根据Adam算法的基本原理，把动量的概念与粒子群自适应惯性权重相结合，融合Adam算法与PSO算法各自特点，PSO算法用于RBF网络初始值寻优，Adam用于RBF网络的结构调整，建立了基于Adam优化的IPSO-RBF牵引变压器故障诊断模型，仿真结果验证了所提算法提高了牵引变压器故障诊断模型的诊断速度和诊断正确率，在一定程度上改善了模型的故障识别率，具有一定理论研究和工程实际意义。

参考文献

原文顺序

文献年度倒序

文中引用次数倒序

被引期刊影响因子

[1]

李波.

智能牵引变压器故障诊断技术研究

[J]. 铁道工程学报, 2020, 37(8):71-76.