电气工程学报, 2023, 18(2): 142-148 doi: 10.11985/2023.02.013

电力系统

基于Bagging-组合核函数相关向量机的短期负荷预测模型研究*

邱山,1, 龚文杰,2, 张智晟,1

1.青岛大学电气工程学院 青岛 266071

2.国网青岛供电公司 青岛 266002

Research on Short-term Load Forecasting Model Based on Bagging-combined Kernel Function Relevance Vector Machine

QIU Shan,1, GONG Wenjie,2, ZHANG Zhisheng,1

1. College of Electrical Engineering, Qingdao University, Qingdao 266071

2. Qingdao Electric Power Company of State Grid, Qingdao 266002

通讯作者: 张智晟，男，1975年生，博士，教授。主要研究方向为电力系统短期负荷预测和经济调度。E-mail：slnzzs@126.com

收稿日期: 2021-08-10   修回日期: 2022-05-20  

基金资助: 国家自然科学基金资助项目(52077108)

Received: 2021-08-10   Revised: 2022-05-20  

作者简介 About authors

邱山，男，1998年生，硕士研究生。主要研究方向为电力系统负荷预测。E-mail：qiushan6789@126.com

龚文杰，男，1974年生，硕士，高级工程师。主要研究方向为电力系统运行与管理。E-mail：18678997882@163.com

摘要

为充分发挥组合核函数在相关向量机预测模型中的优势，有效提高负荷预测的精度，提出基于Bagging-组合核函数相关向量机的短期负荷预测模型。首先构造了高斯核函数与Morlet小波核函数加权组合的组合核函数相关向量机的预测模型，然后采用粒子群算法对两个核函数的最优权值进行优选。为提高模型的泛化能力，采用Bagging算法对原始数据多次抽样构造训练样本集。通过实际算例仿真，与多种相关向量机预测模型对比分析，验证了该模型具有较好的预测精度。

关键词： 短期负荷预测; 相关向量机; 组合核函数; Bagging算法; 小波核函数

Abstract

In order to give full play to the advantages of the combined kernel function in the relevance vector machine forecasting model and effectively improve the accuracy of load forecasting, a short-term load forecasting model based on the Bagging-combined kernel function correlation vector machine is proposed. Firstly, the forecasting model of combined kernel function relevance vector machine is constructed by weighted combination of Gaussian kernel function and Morlet wavelet kernel function, and then the particle swarm optimization algorithm is used to optimize the optimal weights of the two kernel functions. In order to improve the generalization ability of the model, the Bagging algorithm is used to sample the original data multiple times to construct a training sample set. Through the simulation of actual example, compared with a variety of relevance vector machine forecasting models, it is verified that the proposed model has good prediction accuracy.

Keywords： Short-term load forecasting; relevance vector machine; combinatorial kernel function; Bagging algorithm; Morlet wavelet kernel function

PDF (309KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

邱山, 龚文杰, 张智晟. 基于Bagging-组合核函数相关向量机的短期负荷预测模型研究*[J]. 电气工程学报, 2023, 18(2): 142-148 doi:10.11985/2023.02.013

QIU Shan, GONG Wenjie, ZHANG Zhisheng. Research on Short-term Load Forecasting Model Based on Bagging-combined Kernel Function Relevance Vector Machine[J]. Chinese Journal of Electrical Engineering, 2023, 18(2): 142-148 doi:10.11985/2023.02.013

1 引言

高精度的短期负荷预测是电力系统调度控制的基础，是电网安全稳定运行的前提[1]。目前学者们已将多种智能方法应用于负荷预测中，包括人工神经网络、支持向量机、相关向量机[2⇓-4]等。支持向量机通过核方法进行非线性分类，是一个具有稀疏性和稳健性的分类器，其分类预测结果由支持向量决定，因此支持向量机能抓住关键样本并“剔除”大量冗余样本,在短期负荷预测中取得了不错的效果。如文献[5]通过运用支持向量机，结合结构风险最小化原则对短期负荷进行预测，降低了对预测经验的依赖。但是支持向量机要求核函数构成的矩阵必须是正定的，并且在训练中会出现支持向量增多，导致过拟合和计算速度下降的问题。相关向量机(Relevance vector machine，RVM)仅需要对核参数进行设置，需要调节的参数少，计算量相对较小[6]，可有效克服支持向量机的不足，因此相关向量机在短期负荷预测领域已得到了较好的应用。文献[7]首先寻找与待测日有相似特征的数据，然后利用相关向量机进行预测得到预测结果，不仅预测结果优于支持向量机，还能得到支持向量机无法得到的概率值。

但常规相关向量机通常采用单一核函数，无法体现数据全部特性，导致预测精度有时不满足要求，所以有学者提出构建组合核函数的方法来弥补单一核函数的不足。如文献[8]构建高斯核函数和二次多项式核函数组成的组合核函数RVM，并与高斯核函数和张量积线性样条函数组成的组合核函数RVM以及高斯核RVM、多项式核RVM、样条核RVM等单一核函数RVM模型进行对比，验证得出不同类型组合核函数比单一核函数预测精度更高，其中高斯核与多项式核的组合核函数RVM效果最好。但常规组合核函数RVM对变化较为剧烈的大样本高维数据预测效果不理想。小波分析理论在处理非平稳信号问题时有不错的效果，拥有较好的局部化分析能力，因此将小波函数构造成为向量机的核函数，在突变点信号分析与预测上都有良好表现。同时由于小波核函数的稀疏性，也可以降低计算量，提高训练速度。如文献[9]中将小波核函数应用到支持向量机的构造中，提升了模型的计算速度和精度。

本文构建了基于Bagging-组合核函数相关向量机的短期负荷预测模型。首先构建高斯核函数和小波核函数加权组合的组合核函数RVM预测模型，将高斯核函数与小波核函数组合，共同对数据进行处理，可使每个核函数充分发挥各自特点。针对电力系统负荷波动的特点，通过粒子群算法优化组合权重。Bagging算法作为一种集成算法通过对数据集进行多次抽取，可有效降低结果的方差，提升模型的预测准确率[10]，已被广泛应用于预测领域。本文采用Bagging算法对原始数据多次抽样构造训练样本集，结合实际算例仿真，通过与多种相关向量机预测模型对比得出，本文所提模型具有较好的预测精度。

2 组合核函数相关向量机短期负荷预测模型

2.1 相关向量机

相关向量机基于贝叶斯理论，通过选择合适的核函数，将原本低维空间中的非线性问题转化为高维空间中的线性问题，利用最大化后验概率和最大似然方法得到相关向量和相应权值，多用于解决分类回归预测的问题[11]。设输入值为xii=1N，目标值为t=t1,t2,⋯,tNT，其中N是样本总数，则x与t符合以下关系

t=∑i=1NωiK(x,xi)+εi

式中，K(x,xi)是选用的核函数，ωi代表不同权重，εi是均值为零，方差为σ2的高斯噪声。

首先可以合理假设tii=1N是彼此独立的随机变量，在已知ωii=0N与σ2的条件下，t的概率分布如下

p(tω,σ2)=(2πσ2)−N2exp(−||t−Φω||22σ2)

式中，ω=ω0,ω1,ω2,⋯,ωNT，Φ为核函数矩阵，可表示为

Φ=1          K(x1,x1)          K(x1,x2)      ⋯    K(x1,xN)1          K(x2,x1)          K(x2,x2)      ⋯    K(x2,xN)⋮                           ⋮                                                      ⋮                                                   ⋮            1          K(xN,x1)          K(xN,x2)      ⋯    K(xN,xN)     

求解式(3)可以利用最大似然估计的思想，但可能会造成类似于支持向量机中支持向量过多的问题，所以为ω加上先决条件，它们的概率分布服从标准正态分布

p(ωiαi)=N(ωi0,αi−1)

可以得到

p(t*|t)=∫p(t*|ω,σ2)p(ω,α,σ2|t)  dωdαdσ2

式(5)可以用贝氏定理拆开，变成定积分形式，经过替换后得到

p(t*|t)=∫p(t*|ω,α,σ2)p(ω|t,α,σ2)p(α,σ2|t)dωdαdσ2

然后就可以用超参数替代求近似解，并得出定积分结果

(αMP,σMP2)=arg  maxα,σ2  p(α,σ2|t)
p(t*|t)=∫p(t*|ω,αMP,σMP2)p(ω|t,αMP,σMP2)dω

现在只需要求出两个超参数的解就可以得到结果，通过对两个超参数求偏微分等于零的解得到迭代公式

αinew=γiμi2
(σ2)new=t−Φμ2N−∑i=0Nγi
γi=1−αi∑i,i

式中，∑i,i 是∑中第i项在对角线上的元素。先给出两个超参数的初始值，然后由迭代公式不断更新，就能逼近αMP和σMP2。

在足够多的更新之后，大部分的αi会接近无限大，即对应的ωi为0，其他的αi会稳定接近有限值，与之对应的xi就称之为相关向量[12-13]。

2.2 高斯核函数与小波核函数加权组合的组合核函数相关向量机模型

核函数的选择与构建对最终预测结果有很大影响，核函数选用与构建得当能很好地提高模型预测精度[14]。

在目前被选用的核函数中，高斯核函数是局部核的典型，能较好地反映局部关系[15-16]，高斯核函数具有较好的灵活性，可将有限维数据映射到高维空间，使数据线性可分。高斯核函数如式(12)所示

K1(x,xi)=exp−x−xi22σ2

式中，σ2是宽度因子。

单一的高斯核函数无法很好地解决数据不平稳或有突变点的问题，并且在训练数据较多的情况下相关向量机的预测效果并不理想。小波分析具有良好的多尺度特性，在每一个尺度下，通过将信号平移伸缩，就能得到信号在所在位置所有的频率成分，同时得到其时域上所在的位置，所以能很好处理非稳定信号分析问题。并且由于小波核函数是近似正交的，因此有助于提高稀疏性，加快训练速度[17-18]。Morlet小波核函数建立在母小波函数基础上，可以表示为

ψ(x)=cos(1.75x)exp−x22

通过平移不变定理，构造适用于向量机的Morlet小波核函数[19]，其公式为

K2(x,x′)=∏i=1dcos(1.75xi−x′iσ)exp[−(xi−x′i)22σ2]

式中，σ是伸缩因子。

因此本文构造了高斯核函数与Morlet小波核函数加权组合的组合核函数相关向量机预测模型。由小波核函数与高斯核函数构造的组合核函数如式(15)所示

K=λK1(x,xi)+(1−λ)K2(x,x′)

式中，λ为每个核函数的权重。组合核函数RVM预测模型如图1所示。

图1

新窗口打开| 下载原图ZIP| 生成PPT

图1   组合核函数RVM模型图


组合核函数权重的取值决定了组合模型的预测精度，本文采取粒子群算法对组合权重进行优选，其中目标函数选取为平均绝对误差，得到令目标函数最小的权重系数。

将高斯核函数与小波核函数线性组合，能很好地发挥双核优势，取长补短，有效提高了模型预测精度。

3 基于Bagging-组合核函数相关向量机预测模型

Bagging算法是一种集成算法，它的思想是在训练集取样时，随时有放回地抽取多个训练集，形成若干个弱学习器，每个弱学习器独立训练进行预测，最后将每个弱学习器组合形成一个强学习器，得到最终预测结果[20]。

为提高模型的泛化能力，本文采用Bagging算法对原始数据多次抽样构造训练样本集。通过对训练集多次重复采样，构造多个弱学习器，将每个训练集单独放入组合核函数RVM模型中进行训练和预测，能有效提高整个预测过程中的稳定性，对某些误差较大的点有很好的改进，提高了整个模型的泛化能力。

综上，本文首先利用Bagging算法抽样构造样本集，将历史负荷数据以及天气条件等影响因素作为输入数据，构建组合核相关向量机预测模型进行短期负荷预测。具体预测模型如图2 所示。

图2

新窗口打开| 下载原图ZIP| 生成PPT

图2   预测模型图


4 算例分析

4.1 模型建立及数据预处理

为了验证本文所提模型的预测效果，选取某地区电网实际负荷数据进行算例仿真。负荷数据采样周期为15 min，即每日采样96个负荷数据。其他影响因素还包含日最高气温、最低气温、工作日类型、降水概率、平均气温。在进行预测之前，首先要对数据进行归一化处理[21⇓-23]。选取预测日前两周的历史负荷数据以及天气条件等影响因素构成训练集。Bagging算法抽样时随机抽取10天的数据，共抽取五组数据构成5个弱学习器。在进行负荷预测时，当前预测点为t时刻，则选取前一日t、t+1、t-1时刻历史负荷数据(共3维)，以及当日最高气温、日最低气温、工作日类型(工作日为1，休息日为0)、天气因素(雨雪等恶劣天气影响因子为0，阴天多云影响因子为0.5，晴天影响因子为1)、平均气温、降水概率(共6维)形成输入矩阵(共9维)，t时刻的预测值为输出值(共1维)。本文预测模型中高斯核函数核宽为2，小波核函数中伸缩因子为0.4。在使用粒子群算法时，设置初始粒子数为50，迭代次数为300次，粒子速度最大值为0.4，最小值为-0.4，惯性权重的最大值为0.95，最小值为0.4。

本文选取了高斯核RVM预测模型(模型1)、小波核RVM预测模型(模型2)、高斯核与小波核组合核函数RVM预测模型(模型3)、高斯核与多项式核组合核函数RVM预测模型(模型4)和基于Bagging-高斯核与小波核组合核函数RVM预测模型(模型5)进行对比。模型1、模型2、模型3和模型4用于对比不同组合核函数RVM与单一核函数RVM模型预测精度的差异；模型3与模型5用于验证采用Bagging算法对模型预测精度的影响。

4.2 算例结果分析

为验证本文提出模型的有效性，分别用5种模型进行负荷预测，预测结果如图3所示。

图3

新窗口打开| 下载原图ZIP| 生成PPT

图3   工作日5种模型负荷预测曲线


图3中5种模型预测曲线都能反映一日负荷的变化情况，负荷的最小值出现在5 h附近，11 h和20 h出现两个负荷峰值。5种预测模型精度分别用平均绝对误差、最大误差百分比和方均根误差进行评判，结果如表1所示。

表1   工作日5种模型预测误差分析

预测模型EMAPE(%)Emax(%)RMSE/MW
模型11.524.2755.440 5
模型21.677.4859.368 0
模型31.183.9634.293 1
模型41.414.4538.190 7
模型51.013.5232.089 1

新窗口打开| 下载CSV


通过表1可以得出，与模型1和模型2对比，在平均绝对误差上模型3降低了0.34%和0.49%，模型4降低了0.11%和0.25%，意味着组合核函数RVM预测模型体现出了组合核函数的优势，不同核函数各自发挥作用，平均绝对误差相较于单一核函数RVM预测模型都有所下降。同时模型3与模型4在方均根误差上也有明显缩小。模型3相比于模型4平均绝对误差下降了0.23%，最大误差也下降了0.49%，方均根误差也下降了4 MW，可见由于在核函数中加入小波核函数，能有效改善预测误差较大点的预测结果，从而高斯核与小波核的组合核函数预测效果是优于高斯核与多项式核的组合核函数的。模型5与其他模型相比，平均绝对误差分别下降0.51%、0.66%、0.17%和0.40%，最大误差分别下降0.75%、3.96%、0.44%和0.93%，方均根误差也是5种模型中最小的，约32 MW。由此可以得出基于Bagging-组合核函数RVM预测模型预测精度最高。同时与模型3相比，可以看出Bagging算法的引入进一步降低了组合核函数RVM模型预测结果的误差。

为继续验证基于Bagging-组合核函数RVM预测模型是否能够连续多天保持较高的预测精度，用5种模型分别预测春季连续七天的负荷情况，其中工作日与周末分别选取日类型相同的历史负荷作为输入数据进行预测，误差分析如表2所示。

表2   春季一周内5种模型预测误差分析

时间模型1模型2模型3模型4模型5
EMAPE(%)Emax(%)EMAPE(%)Emax(%)EMAPE(%)Emax(%)EMAPE(%)Emax(%)EMAPE(%)Emax(%)
周一3.197.762.326.802.127.522.245.002.076.15
周二2.845.162.897.712.367.162.514.451.923.55
周三1.495.152.696.512.017.082.616.511.686.12
周四1.524.271.677.481.183.961.454.891.013.52
周五1.654.063.827.191.103.922.084.221.003.89
周六2.737.563.628.152.737.792.325.901.986.87
周日2.978.593.058.202.717.882.876.452.505.75
平均值2.346.072.867.422.036.472.295.341.735.12

新窗口打开| 下载CSV


对比表2各项数据可以看出，模型3与模型4连续一周预测结果误差的平均值仍低于模型1与模型2，模型3相较模型1和模型2误差下降了0.29%和0.81%，模型4下降了0.07%和0.59%，可见采用组合核函数RVM预测模型效果仍是优于单一核函数RVM预测模型。模型3的误差平均值相较于模型4也下降了0.22%。模型5在连续一周的预测中精度最高，且误差波动不大，一周误差的平均值比另外四种模型分别下降了0.64%、1.16%、0.35%和0.57%，最大误差也下降了1.02%、2.28%、1.36%和0.22%，由此可见采用Bagging算法对模型预测的精度和稳定性都有提升。

由于同一地区在不同季节负荷变化情况是不一样的，为验证本文所提模型在其他季节同样适用，利用模型5对同一地区夏季和秋季也进行了连续一周的负荷预测，结果如表3和表4所示。

表3   夏季连续一周预测误差表

时间模型5
EMAPE(%)Emax(%)RMSE/MW
周一2.174.2263.815 9
周二2.895.3975.512 2
周三2.445.9563.000 1
周四2.474.3765.576 4
周五2.565.3759.214 2
周六2.896.6971.786 1
周日2.766.8770.422 7
平均值2.595.5567.046 5

新窗口打开| 下载CSV


表4   秋季连续一周预测误差表

时间模型5
EMAPE(%)Emax(%)RMSE/MW
周一1.345.8947.625 6
周二1.635.3347.779 1
周三1.794.9352.546 1
周四1.455.1741.663 8
周五1.834.2450.637 6
周六1.896.4852.998 0
周日2.226.8755.945 1
平均值1.735.5449.885 0

新窗口打开| 下载CSV


通过对夏季和秋季一周的负荷预测可以看出，在其他季节，本文提出的短期负荷预测模型仍能保持较高预测精度和稳定性。

5 结论

本文提出了一种基于Bagging-组合核函数RVM模型，能较好地对电力负荷进行预测。高斯核函数与小波核函数加权组合的组合核函数形式能有效降低计算量，提高模型计算速度和泛化能力，充分发挥小波核函数具有多尺度和较高稀疏性的特点。同时为了提高模型稳定性，采用Bagging算法对原始数据多次抽取构造训练集。通过实际算例仿真，验证了该模型与多种相关向量机预测模型相比具有更好的精度与稳定性。负荷预测关键在于预测的准确性，未来可以将本文所提模型与精度更高的算法相结合，进一步提高负荷预测精度。

参考文献

LIU Yahui, LUO Huan, ZHAO Bing, et al.

Short-term power load forecasting based on clustering and XGBoost method

[C]// 2018 IEEE 9th International Conference on Software Engineering and Service Science (ICSESS), November 23-25,2018, Beijing,China. Piscataway:IEEE, 2018:536-539.

[本文引用: 1]

李丹, 张远航, 杨保华, 等.

基于约束并行LSTM分位数回归的短期电力负荷概率预测方法

[J]. 电网技术, 2021, 45(4):1356-1364.

[本文引用: 1]

LI Dan, ZHANG Yuanhang, YANG Baohua, et al.

Short time power load probabilistic forecasting based on constrained parallel-LSTM neural network quantile regression mode

[J]. Power System Technology, 2021, 45(4):1356-1364.

[本文引用: 1]

程宇也. 基于人工神经网络的短期电力负荷预测研究[D]. 杭州: 浙江大学, 2017.

[本文引用: 1]

CHENG Yuye. Short-term load forecasting based on neural network[D]. Hangzhou: Zhejiang University, 2017.

[本文引用: 1]

MARTENS D, BAESENS B, VAN G T.

Decompositional rule extraction from support vector machines by active learning

[J]. IEEE Transactions on Knowledge and Data Engineering, 2009, 21(2):178-191.

DOI:10.1109/TKDE.69      URL     [本文引用: 1]

李元诚, 方廷健, 于尔铿.

短期负荷预测的支持向量机方法研究

[J]. 中国电机工程学报, 2003, 23(6):55-59.

[本文引用: 1]

LI Yuancheng, FANG Tingjian, YU Erkeng.

Study of support vector machines for short-term load forecasting

[J]. Proceedings of the CSEE, 2003, 23(6):55-59.

[本文引用: 1]

YU Weimiao, DU Tiehua, LIM K.

Comparison of the support vector machine and relevant vector machine in regression and classification problems

[C]// 8th International Conference on Control,Automation,Robotics and Vision, December 6-9,2004,Kunming,China. IEEE, 2004, 2:1309-1314.

[本文引用: 1]

何晔, 邹晓松, 李卓, 等.

一种面向运行可靠性的短期负荷预测方法研究

[J]. 电测与仪表, 2019, 56(10):93-98.

[本文引用: 1]

HE Ye, ZOU Xiaosong, LI Zhuo, et al.

A short-term load forecasting method oriented for operational reliability

[J]. Electrical Measurement & Instrumentation, 2019, 56(10):93-98.

[本文引用: 1]

段青, 赵建国, 马艳.

优化组合核函数相关向量机电力负荷预测模型

[J]. 电机与控制学报, 2010, 14(6):33-38.

[本文引用: 1]

DUAN Qing, ZHAO Jianguo, MA Yan.

Relevance vector machine based on particle swarm optimization of compounding kernels in electricity load forecasting

[J]. Electric Machines and Control, 2010, 14(6):33-38.

[本文引用: 1]

谭吉玉, 刘高常.

基于小波支持向量机模型的矿区生态安全评价方法研究

[J]. 黄金科学技术, 2020, 28(6):902-909.

[本文引用: 1]

TAN Jiyu, LIU Gaochang.

Ecological security evaluation of mining area based on WSVM

[J]. Gold Science and Technology, 2020, 28(6):902-909.

[本文引用: 1]

TAO Dacheng, TANG Xiaoou, LI Xuelong, et al.

Asymmetric bagging and random subspace for support vector machines-based relevance feedback in image retrieval

[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2006, 28(7):1088-1099.

PMID:16792098      [本文引用: 1]

Relevance feedback schemes based on support vector machines (SVM) have been widely used in content-based image retrieval (CBIR). However, the performance of SVM-based relevance feedback is often poor when the number of labeled positive feedback samples is small. This is mainly due to three reasons: 1) an SVM classifier is unstable on a small-sized training set, 2) SVM's optimal hyperplane may be biased when the positive feedback samples are much less than the negative feedback samples, and 3) overfitting happens because the number of feature dimensions is much higher than the size of the training set. In this paper, we develop a mechanism to overcome these problems. To address the first two problems, we propose an asymmetric bagging-based SVM (AB-SVM). For the third problem, we combine the random subspace method and SVM for relevance feedback, which is named random subspace SVM (RS-SVM). Finally, by integrating AB-SVM and RS-SVM, an asymmetric bagging and random subspace SVM (ABRS-SVM) is built to solve these three problems and further improve the relevance feedback performance.

杨树仁, 沈洪远.

基于相关向量机的机器学习算法研究与应用

[J]. 计算技术与自动化, 2010, 29(1):43-47.

[本文引用: 1]

YANG Shuren, SHEN Hongyuan.

Research and application of machine learning algorithm based on relevance vector machine

[J]. Computing Technology and Automation, 2010, 29(1):43-47.

[本文引用: 1]

DEMIR B, ERTURK S.

Hyperspectral image classification using relevance vector machines

[J]. IEEE Geoscience and Remote Sensing Letters, 2007, 4(4):586-590.

DOI:10.1109/LGRS.2007.903069      URL     [本文引用: 1]

黄帅栋, 卫志农, 高宗和, 等.

基于非负矩阵分解的相关向量机短期负荷预测模型

[J]. 电力系统自动化, 2012, 36(11):62-66.

[本文引用: 1]

HUANG Shuaidong, WEI Zhinong, GAO Zonghe, et al.

A short-term load forecasting model based on relevance vector machine with nonnegative matrix factorization

[J]. Automation of Electric Power Systems, 2012, 36(11):62-66.

[本文引用: 1]

杨柳, 张磊, 张少勋, 等.

单核和多核相关向量机的比较研究

[J]. 计算机工程, 2010, 36(12):195-197.

DOI:10.3969/j.issn.1000-3428.2010.12.067      [本文引用: 1]

针对相关向量机中的核函数选择问题进行研究，对高斯核函数进行改进，提出修正的高斯核函数方法，并比较改进的高斯核函数与普通高斯核函数的特性，证明提出的核函数的优良特性。在对单一核函数改进的基础上，进行多核相关向量机核函数的研究，结合局部性高斯核函数和全局性多项式核函数形成混合核函数，并运用于相关向量机。在不同大小的数据集上对几种核函数进行对比实验，验证修正的高斯核函数及混合核函数的性能。

YANG Liu, ZHANG Lei, ZHANG Shaoxun, et al.

Comparison research of single kernel and multi-kernel relevance vector machine

[J]. Computer Engineering, 2010, 36(12):195-197.

DOI:10.3969/j.issn.1000-3428.2010.12.067      [本文引用: 1]

This paper researches the selection problem of kernel function for Relevance Vector Machine(RVM). Improved Gauss kernel function is proposed. The characteristic of improved Gauss kernel function and normal Gauss kernel function are compared. The improving performance of proposed kernel function is validated. Besides the improving of single kernel function, multi-kernel RVM is researched, by combining local Gaussian kernel and global polynomial kernel, form multi-kernel function, and use it in RVM. Comparison experiments of kinds of kernel functions run on different datasets, and the performance of improved Gauss kernel function and mixture kernel function are validated.

张朝龙, 何怡刚, 杜博伦, 等.

一种基于多核相关向量机的模拟电路故障预测方法

[J]. 电子测量与仪器学报, 2019, 33(11):95-101.

[本文引用: 1]

ZHANG Chaolong, HE Yigang, DU Bolun, et al.

Analog circuit fault prognostic approach based on MKRVM

[J]. Journal of Electronic Measurement and Instrument, 2019, 33(11):95-101.

[本文引用: 1]

雷亚国, 陈吴, 李乃鹏, 等.

自适应多核组合相关向量机预测方法及其在机械设备剩余寿命预测中的应用

[J]. 机械工程学报, 2016, 52(1):87-93.

DOI:10.3901/JME.2016.01.087      [本文引用: 1]

针对支持向量机(Support vector machine, SVM)的惩罚系数难以确定、核函数必须满足Mercer定理等问题，相关向量机(Relevance vector machine, RVM)应运而生以解决上述问题，并在趋势预测等领域得到一定的应用。核函数是决定RVM预测精度的关键因素之一，目前的研究通常是人为选择单一核函数，因此增加了对参数的依赖性并降低了RVM预测的鲁棒性。为了解决以上问题，提出一种新的自适应多核组合RVM预测方法。该方法首先选择多个核函数，利用粒子滤波产生核函数权重，建立多核组合RVM集，然后经过不断地迭代预测、权值更新和重采样，自适应获取最优多核组合RVM，从而自适应融合多个核函数的特性，克服基于单一核函数RVM的局限，提高预测精度和鲁棒性。利用仿真对提出方法进行了验证，并将其应用于机械设备的剩余寿命预测，取得了比基于单一核函数RVM更好的预测效果。

LEI Yaguo, CHEN Wu, LI Naipeng, et al.

A relevance vector machine prediction method based on adaptive multi-kernel combination and its application to remaining useful life prediction of machinery

[J]. Journal of Mechanical Engineering, 2016, 52(1):87-93.

DOI:10.3901/JME.2016.01.087      [本文引用: 1]

In view of some shortcomings of support vector machine, for instance, it is difficult to select the regularization parameter and the kernel function must satisfy Mercer’s condition, relevance vector machine (RVM) is developed and applied to the field of trend prediction. The performance of RVM, to a large extent, depends on the kernel function. However, a single kernel function is generally selected artificially and subjectively in current studies on RVM, which increases its dependency of the RVM to parameters and decreases the robustness in prediction process. To solve the problem, a new adaptive multi-kernel RVM is proposed for prediction. In the method, multiple kernel functions are selected originally and their weights are generated by the particle filter (PF) algorithm to construct multi-kernel RVM models. Then the optimal multi-kernel RVM model is obtained by iterative processes, i.e., predicting, weights updating and resampling. The effectiveness of the proposed method is validated by a simulation study and a case study of remaining useful life prediction of machinery. The results demonstrate that the proposed method obtains higher prediction accuracies compared with the single kernel RVM models.

郑永康, 陈维荣, 戴朝华, 等.

Gaussian小波SVM及其混沌时间序列预测

[J]. 控制工程, 2009, 16(4):468-471.

[本文引用: 1]

ZHENG Yongkang, CHEN Weirong, DAI Chaohua, et al.

Gaussian wavelet SVM and its application to chaotic time series forecasting

[J]. Control Engineering of China, 2009, 16(4):468-471.

[本文引用: 1]

TOLAMBIYA A, KALRA P.

WSVM with morlet wavelet kernel for image compression

[C]// 2007 IEEE International Conference on System of Systems Engineering, April 16-18,2007,San Antonio,TX,USA. Piscataway:IEEE, 2007:1-5.

[本文引用: 1]

武方方, 赵银亮.

一种基于Morlet小波核的约简支持向量机

[J]. 控制与决策, 2006(8):848-852,856.

[本文引用: 1]

WU Fangfang, ZHAO Yinliang.

Novel reduced support vector machine on Morlet wavelet kernel function

[J]. Control and Decision, 2006(8):848-852,856.

[本文引用: 1]

毕云帆, 撖奥洋, 张智晟, 等.

基于模糊Bagging-GBDT的短期负荷预测模型研究

[J]. 电力系统及其自动化学报, 2019, 31(7):51-56.

[本文引用: 1]

BI Yunfan, HAN Aoyang, ZHANG Zhisheng, et al.

Study on short-term load forecasting model based on fuzzy Bagging-GBDT

[J]. Proceedings of the CSU-EPSA, 2019, 31(7):51-56.

[本文引用: 1]

孔祥玉, 郑锋, 鄂志君, 等.

基于深度信念网络的短期负荷预测方法

[J]. 电力系统自动化, 2018, 42(5):133-139.

[本文引用: 1]

KONG Xiangyu, ZHENG Feng, E Zhijun, et al.

Short-term load forecasting based on deep belief network

[J]. Automation of Electric Power Systems, 2018, 42(5):133-139.

[本文引用: 1]

孔祥玉, 李闯, 郑锋, 等.

基于经验模态分解与特征相关分析的短期负荷预测方法

[J]. 电力系统自动化, 2019, 43(5):46-52.

[本文引用: 1]

KONG Xiangyu, LI Chuang, ZHENG Feng, et al.

Short-term load forecasting method based on empirical mode decomposition and feature correlation analysis

[J]. Automation of Electric Power Systems, 2019, 43(5):46-52.

[本文引用: 1]

王继东, 宋智林, 冉冉.

基于改进支持向量机算法的光伏发电短期功率滚动预测

[J]. 电力系统及其自动化学报, 2016, 28(11):9-13.

[本文引用: 1]

WANG Jidong, SONG Zhilin, RAN Ran.

Short-term photovoltaic power generation rolling forecast based on optimized SVM

[J]. Proceedings of the CSU-EPSA, 2016, 28(11):9-13.

[本文引用: 1]

/

〈 〉