基于OS-ELM和Bootstrap方法的超短期风电功率预测附录VIP免费

附录A对于N个不同的训练样本,jjxy，jx是1n维输入向量，jy是1m维输出向量，具有D个隐层节点和无限可微激活函数gx的SLFN结构可以以零误差逼近这N组样本，即存在βi,i和ib，使0jjyr，也可写成如下形式：1,1,,DTijijigbjNiβxy(A1)式中：i为1n维向量，表示输入层与隐含层的神经元的连接权值；i为1m维向量，表示隐含层与输出层神经元的连接权值；ib为隐含层神经元的阀值；jr为网络的输出；g为激活函数，可以是“sig”，“rbf”，“sin”等多种形式。这N个方程可写成矩阵形式：HR(A2)111111DNDTTDTTNDNDgbgbgbgbxxHxx(A3)1DmTTDand1NmTTDrrRELM全局最优输出权值可写为：*HR(A4)OS-ELM主要包括2个步骤。1）初始化阶段给定网络初始的隐含层节点数，初始训练样本，激活函数，随机产生输入层和隐含层之间连接权值和阀值初始化网络，求得初始隐含层输出矩阵H0和输出权值向量0。2）在线序贯学习阶段当第t+1批次样本数据到来，t+1次隐含层输出矩阵和输出权值向量可根据下式更新：11111(1)(1)1111(1)(1)1tttDDNDTtTtDtTtTtNDNgbgbgbgbxxHxx(A5)11111TTtttttttQHRH(A6)式中：11111TttttttTtttQHHQQQIHQH；1000()TQHH;1tN表示第t+1批次样本的个数；1tX=[(1)1tx,(1)2tx,...,1(1)ttNx]，表示第t+1批次样本的输入向量。整个流程详见图A1，首先通过标准ELM建立初始网络，随后根据最新批次的样本数据不断更新参数H和，更新网络，直到所有数据学习完毕。开始准备一定数量的训练样本，给定隐层神经元数量D随机生成和b初始化网络：通过(3)和(4)计算得到和H00标准ELM读取新一批次数据更新网络：通过(5)和(6)更新H和所有数据更新完毕？结束YesNo图A1OS-ELM流程图Fig.A1FlowchartofOS-ELM附录BB1误差评估概念1)残差样本对于BN个误差评估训练样本,1,2,...,jjByjNx，假定预测残差jjjyrx是一个随机变量，其中jrx表示原始网络隐函数，jy为对应的实测值，方差为22jVarjjxx，其总体分布F未知。为了消除模型系统误差的影响，将预测残差中心化：11BNjjkkBN,1,2...,BjN(B1)上述12,,...BN即构成误差总体分布F的一个观测。2)Bootstrap训练样本从12,,...BN中有放回地进行BN次随机抽样，记第j次抽到样本为*j(*12{,,...}BjN)，由此构造一组Bootstrap训练样本*,1,2,...,jjByjNx，其中*jy定义为：**jjjyrx(B2)理论上*j可以近似逼近j，神经网络隐函数*r可以近似逼近r，即Bootstrap输出*r可以有效模拟实际的网络输出jy。进一步，为考虑输入jx对残差j的影响采取如下方式：产生一组N(0,1)随机变量12,,...,NB来模拟输入向量对残差的影响，最终的Bootstrap训练样本输出可以写成：**jjjjyrx(B3)3)Bootstrap置信区间给定任意测试样本输入x，如图5(b)所示得到M组预测输出*krx(1,...,kM)。记1,...,MZZ为Bootstrap伪输出*krx由小到大的排序，在给定的置信水平下Bootstrap置信区间为[1MZ,2MZ]。本文对比研究中使用的两种Bootstrap置信区间计算法如下。1）PB法：1M='[]2M，2M='[(1)]2M，'1。2）BCPB法：①记*11MkkrrMxx，计算Bootstrap伪输出分布中不大于rx的概率，即*0rPPrrxx；②计算111000'0'1122,2,2LUZPPZZPZZ（其中，1为标准正态分布的累积函数）；③最终的BCPB置信区间的上下限12,LUMMPMMP。基于Bootstrap法的多ELM误差评估步骤总结如下。步骤1：生成残差样本。对BN个训练样本,1,2,...,jjByjNx，执行以下计算：①给定第j个...