(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221089675 6.3 (22)申请日 2022.07.28 (71)申请人 南京邮电大 学 地址 210003 江苏省南京市 鼓楼区新模范 马路66号 (72)发明人 张玲华　李昊　 (74)专利代理 机构 南京正联知识产权代理有限 公司 32243 专利代理师 杭行 (51)Int.Cl. G06Q 10/04(2012.01) G06Q 50/06(2012.01) G06N 3/04(2006.01) G06N 3/08(2006.01) H02J 3/00(2006.01) (54)发明名称 基于混合神经网络模型的短期负荷预测方 法 (57)摘要 本发明是一种基于混合神经网络模型的短 期负荷预测方法， 包括如下步骤： 对负荷数据集 进行预处理； 将处理后的负荷数据输入到 Inception‑GRU‑MA的混合神经网络模型中， 该模 型是通过处理前24小时的负荷数据， 来得出下一 个小时的预期负荷数据： 结合负荷预测精度的评 价指标对模型进行训练实现Inception ‑GRU‑MA 模型的最佳负荷预测精度。 该预测方法通过GRU 模型来处理负荷数据的时间序列性和非线性， 并 通过MA模型来进一步提取重点特征， 进而得到一 个高精度的STLF模型。 通过对比， 本发明提出的 Inception ‑GRU‑MA模型的ST LF的精度最高， 可以 有效地提高智能电网的社会效益和经济效益。 权利要求书2页 说明书6页 附图4页 CN 115238999 A 2022.10.25 CN 115238999 A 1.一种基于混合神经网络模型的短期负荷预测方法， 其特征在于： 所述短期负荷预测 方法包括如下步骤： 步骤一： 对负荷数据集进行 预处理； 步骤二： 将处理后的负荷 数据输入到本发明所提出的Inception ‑GRU‑MA的混合神经网 络模型中， 该模 型是通过处理前2 4小时的负荷数据， 来得出下一个小时的预期负荷数据， 具 体为： 步骤2‑1： 通过Inception结构对步骤1中预处理后的负荷 数据进行特征提取， 得到输入 数据的特 征向量； 步骤2‑2： 通过GRU模型来处理步骤2中经过Inception结构处理后得到的数据的特征向 量的时间序列和非线性； 步骤2‑3： 将步骤3获得的特征向量的时间序列和非线性输入到多头注意力模型MA， 所 述多头注意力模型MA由多个注意力机制并联而成， 特征向量的时间序列和非线性同时进 行 注意力机制运算， 每个注意力机制运算出来的结果， 经过GRU模型的全连接层 进行线性变换 得到结果输出； 步骤三： 结合负荷预测精度的评价指标对Inception ‑GRU‑MA模型进行训练实现 Inception‑GRU‑MA模型的最佳负荷预测精度。 2.根据权利要求1所述的基于混合神经网络模型的短期负荷预测方法， 其特征在于： 步 骤2‑1中所述Inception结构具有卷积层、 池化层、 全连接层和输出层、 输入层， 所述卷积层 包括1×1卷积核、 3 ×3卷积核、 5 ×5卷积核， 池化层为3 ×3最大池化层， 网络将1 ×1卷积、 3 ×3卷积、 5×5卷积和3 ×3最大池化层堆叠在一起， 对输入层的负荷数据集训练后数据输入 到全连接层中， 全连接层将计算结果进行合并， 得到 输入数据的特 征向量。 3.根据权利要求2所述的基于混合神经网络模型的短期负荷预测方法， 其特征在于： 步 骤2‑1中的特征提取的具体步骤为： 步骤2‑1： 将步骤1中预处 理后的负荷数据输入I nception结构； 步骤2‑2： Inception结构的输入层将信息传送卷积层、 池化层， 而后将捕捉到的信息输 入全连接层； 步骤2‑3： 全连接层将计算结果进行合并， 得到 输入数据的特 征向量。 4.根据权利要求1所述的基于混合神经网络模型的短期负荷预测方法， 其特征在于： 步 骤2‑2中的GRU模型分为四层， 每一层的GRU模型均由数个 GRU网络单元 组成的， 每个 GRU网络 单元分别有两个输入， 一个是当前时刻的数据输入， 以及上一个时刻GRU网络单元 处理过的 输出， 所述GRU网络单 元包含重置门zt和更新门rt两个门结构。 5.根据权利要求1所述的基于混合神经网络模型的短期负荷预测方法， 其特征在于： 步 骤2‑2中通过GRU模型 处理处理Inception结构处理后得到的数据的特征向量的时间序列和 非线性的计算过程如下： rt＝σ(W(z)xt+U(z)ht‑1) zt＝σ(W(r)xt+U(r)ht‑1) 权　利　要　求　书 1/2 页 2 CN 115238999 A 2公式中W(z)， U(z)， W(r)， U(r)， W(h)， U(h)表示对应的权重系数矩阵， ⊙则表示向量元素点乘， tanh和σ 代表着激活函数； ht为t时刻隐藏层的输出； ht‑1为前一时刻隐藏层的输出； Zt用于计 算当前时刻需要更新的内容； rt用于计算 候选隐藏层 6.根据权利要求1所述的基于混合神经网络模型的短期负荷预测方法， 其特征在于： 所 述步骤2‑3中， 每个所述注意力机制由注意力模块组成， 注 意力模块的输入由查询、 键、 值矩 阵三部分组成， 输出 是基于查询和键的相似度与值的加权和， 其计算满足如下公式： 其中， Q、 K、 V分别表示 查询、 键、 值矩阵， dk表示K矩阵的维数。 7.根据权利要求1所述的基于混合神经网络模型的短期负荷预测方法， 其特征在于： 步 骤一中对负荷数据进行 预处理具体为： 将负荷数据集按照占比分为训练数据集60％、 验证数据集20％和测试数据集20％， 并 将负荷数据进行归一 化处理， 计算公式为： 其中x*表示归一化后的负荷值， x表示原始负荷值， xmin和xmax分为负荷数据集种的最小 值和最大值。 8.根据权利要求1所述的基于混合神经网络模型的短期负荷预测方法， 其特征在于： 所 述步骤三种的评价指标平均为绝对 百分比误差MAPE、 均方根误差RMS E、 平均绝对误差MAE和 方差R‑square， 对短期负荷预测模型的性能进行评价， 指标的计算公式如下 所示： 其中N是负荷数据集的总数， 是负荷数据集的平均值， yi和 是第i个样点的负荷真实 值和负荷预测值。权　利　要　求　书 2/2 页 3 CN 115238999 A 3