英语原文共 5 页，剩余内容已隐藏，支付完成后下载完整资料

一种改进的PSO-BP神经网络及其在地震预测中的应用

曹力，刘晓宇

武汉科技大学信息科学与工程学院武汉430081

E-mail： liu_autumn@sina.com

摘要：提出了一种BP（Back Propagation）神经网络与改进的粒子群算法（Particle Swarm Optimization，PSO）算法结合预测地震震级的方法。 已知BP神经网络和正常PSO-BP神经网络有一些缺点，如收敛速度慢，容易陷入局部最小值。 为了改善PSO的性能，一些人提出了线性递减惯性权重策略。 此外，本文在PSO中使用非线性递减惯性权重来获得更快的训练速度和更好的最优解。 与线性递减策略相比，我们的非线性方法中的惯性权重在早期迭代中具有更快的下降速度，这可以提高搜索精度。 在后期迭代中，惯性权重的下降速度较慢，以避免陷入局部最小值。 然后我们应用改进的PSO来优化BP神经网络的参数。 最后，将改进的PSO-BP神经网络应用于地震预测。 仿真结果表明，改进的PSO-BP神经网络比BP神经网络和正态PSO-BP神经网络具有更快的收敛速度和更好的预测效果。

关键词：BP神经网络粒子群优化算法惯性权重地震预测。

1 介绍

地震可能给社会带来不同程度的损害，并导致生命和财产损失。因此地震预测成为地震研究领域的一个重要课题。 BP神经网络^[1]具有较强的非线性处理能力，因此被广泛应用于地震预测研究^[2]。 然而，在BP神经网络的优化过程中，梯度下降算法（又称BP算法）容易导致BP神经网络陷入局部最小值，泛化能力较差，且鲁棒性较差，其学习过程的收敛速度很慢。超出颗粒的局部最小值。

针对BP神经网络的不足，一些人建议使用PSO（粒子群优化）^[3]算法优化BP神经网络的参数网络。 PSO算法是一种新型的群体智能优化算法^[4]。 算法策略简单易行。该需要调整的算法参数如下减。 但同时收敛速度慢，很容易陷入局部最小值。

所以本文提出改进PSO算法。 已知PSO的惯性权重对优化性能影响很大^[5]。 惯性权重通过非线性递减策略进行调整这使得惯性重量有较快的下降速度在早期。 这种惯性重量调整可以增强PSO的本地搜索能力。 在后期该算法的周期，惯性权重有一个较慢速度下降可以减缓速度的下降全球搜索能力。 这种调整有利于跳跃超出颗粒的局部最小值。

本文将改进的PSO算法与BP神经网络相结合，用于优化BP神经网络的参数。 为了验证改进的PSO-BP神经网络，我们将其应用于地震预测。 仿真结果表明了该算法的有效性。

2 BP神经网络

BP神经网络是一个多层前向网络单向传输。它是三个神经网络层或多于三层，如输入层，隐藏层和输出层。一个典型的结构三层网络如图1所示。矢量和是权重和阈值之间的输入层和隐藏层。 矢量和是隐藏之间的权重和阈值层和输出层。 输入图层的编号节点和输出层节点根据确定到实际的情况。 隐藏层节点的数量是一般通过经验公式得出。 通常使用了BP神经网络的传递函数sigmoid对数函数和sigmoid正切函数或线性函数^[1]。

图1 3层BP神经网络结构

BP神经网络通常使用梯度下降算法来调整权重和阈值，因此存在一些缺点：1）学习过程收敛速度慢; 2）训练网络容易陷入局部最小; 3）网络结构难以确定; 4）网络泛化能力难以保证。

3 粒子群算法

3.1 粒子群算法理论

基本粒子的数学描述群优化算法如下：在D维搜索空间中，群体包含N个粒子。第t次迭代中的第i个粒子有电流位置和电流速度。记住它自己的最佳位置，称为本地最佳位置，而且它也是在全球所有粒子中处于最佳位置定位。更新自己的速度和位置根据遵循发展方程^[6]。

（1）

其中，其中，isin;[1,N]; d表示第d维粒子，disin;[1，D]; t表示第t次迭代; 和是加速度系数^[7]，isin;[0,2]; omega;是惯性重量; 和是中的两个随机数范围[0,1];速度通常被限制在一定的范围内范围 isin; [-Vmax Vmax];同时进行搜索颗粒的空间被限制在一定的范围内 isin; [-Xmax, Xmax]。

3.2改进的PSO（IPSO）算法

在基本的PSO算法中，惯性权重Ȧ可以是改变以控制融合和探索基本粒子群优化算法的能力。value的值决定了当前的速度粒子。大的惯性重量可以使粒子有一个速度快，有助于增强全球搜索算法的能力。一个小的惯性重物可以使粒子有一个缓慢的速度，这有助于增强算法的局部搜索能力。研究人员有提出线性递减惯性权重（LDIW）策略^[8]，模糊惯性权重（FIW）策略^[9]和随机惯性体重（RIW）策略^[10]。在这些当中研究中，最常用的策略是线性的降低惯性权重策略。这样的策略可以使该算法在早期具有较强的全局搜索能力期间和后期强大的本地搜索能力。该等式如下所示：

和是的最大值和最小值的。 通常，= 0.9，= 0.4，t是当前迭代次数，是最大迭代次数。但线性递减惯性权重策略具有有些失败：1）在早期阶段，本地搜索能力是较差的。 即使粒子接近全局最优解决方案，粒子总是错过了解决方案，因为粒子的速度太快; 2）在后期，全球搜索能力变差。 该算法很容易陷入进入局部最优。所以本文提出了一种非线性递减惯性体重策略。 等式如下所示。

图2显示了方程（3）的递减曲线，和（4）。 从曲线中我们可以看到：1）早期迭代，由非线性调整惯性权重递减策略比线性递减更快减少策略; 2）在后期迭代中，惯性权重通过非线性递减策略进行调整比线性递减策略的下降要慢。

图2 线性和非线性下降曲线

在改进的PSO算法的早期阶段，t是小，因此接近，算法强大全球搜索能力。随着t的增加，惯性权重nonlinear非线性下降。中的惯性重量Ȧ非线性递减算法的下降速度快于线性递减算法。所以本地搜索能力的改进算法更强。与此同时，粒子的速度下降更快。当粒子是接近全局最优解，它可以搜索优化解决方案。这样的收敛精度变得很高，粒子不容易错过最优解。在改进的PSO算法的后期阶段，惯性权重也非线性地减小。但是惯性权重下降比线性下降慢算法。它可以确保全球搜索能力和多样性缓慢减弱。这样粒子就可以跳出去了可以有效避免的局部最小值算法的陷入局部最小值。本文提出的改进PSO算法可以帮助找到更好的平衡惯性重量之间的全球搜索和本地搜索。在下面的我们称改进的PSO算法为IPSO算法。

3.3基于IPSO的BP参数优化

给定一个BP神经网络，不失一般性有三层。输入层中的神经元数量，隐藏层和输出层分别为I，H和O.BP神经网络的权值和阈值网络在搜索空间中被视为粒子。IPSO算法用于搜索最佳解决方案这些颗粒。 BP神经网络与BP神经网络的结合IPSO在下文中表示为IPSO-BPNN。IPSO-BPNN的优化程序是描述如下。

步骤1：初始化参数：总数颗粒N;最大迭代次数;该BP神经网络的最小均方误差İ= 0.05;粒子群的维数

步骤2：选择BP的MSE（均方误差）神经网络作为适应度函数的粒子适应度一群。是神经网络的实际输出，是目标输出，s是输出节点的数量和k是训练集中样本的数量。

步骤3：初始化每个的位置和速度粒子随机。

步骤4：更新本地最佳Pi（t）和全局最佳G（t）根据等式（5）。更新粒子的速度Vi（t）并根据等式（1）和（2）定位Xi（t）。根据等式（4）更新惯性权重。然后迭代次数加1。

步骤5：判断最大迭代次数tmax或最小均方误差İ被获得。如果是达到，执行步骤6，否则执行步骤4。

步骤6：算法结束，我们得到了全球最佳解决方案Gbest。这是最佳的解决方案BP神经网络的权值和阈值网络。

4地震建模与仿真基于IPSO-BP的预测

4.1地震预报建模

为了测试IPSO算法的效果，本文选择一个沿海地区的地震数据^[11]，位于如东经117°-120°，东经22°-26°为样品来源。根据这些数据，我们提取6代表性的预测指标的时间，空间和强度，即地震频率，蠕变，释放能量，价值b（一个衡量地震水平的标志在特定地区的活动），缺乏震撼，价值Ş（一个有用的指标来判断实际数据的偏转程度和方程G-R）。图1中的三层BP神经网络用于建立地震预报模型。 BP神经网络网络有6个输入节点，代表6个预测索引。 BP神经网络有1个输出节点，即预测性地震震级。该根据。隐藏层节点的数量是15经验公式。隐藏层的传递函数是tan-sigmoid和输出层的传递函数登录乙状结肠。地震数据共有29组，其中1-20组的地震数据被选为BP的训练样本神经网络和群21-29是测试样本BP神经网络来验证该方法的有效性地震预报。已经有29组地震数据已经正常化。PSO和ISPO算法具有相同的初始值粒子群的参数：粒子的总数N = 20;加速度系数c1 = c2 = 2; = 0.4，（3）和（4）中的= 0.9， = 300。然后我们进行模拟。

4.2仿真结果分析

4.2.1培训结果的分析

在建立预测建模之后，我们开始训练三个网络。图3，4，5分别显示了训练基本BP神经网络的收敛结果，具有惯性的PSO优化的BP神经网络权重linear线性下降和BP神经网络通过IPSO优化惯性权重Ȧ下降非线性。这三个网络在下面被称为仿真为BPNN，PSO-BPNN和IPSO-BPNN。

图3 训练BPNN的收敛结果

图4 训练PSO-BPNN的收敛结果

图5 训练IPSO-BPNN的收敛结果

从图3我们可以看出，BPNN的速度很慢收敛速度。 它需要大约120次训练迭代直到达到最小均方误差。 而且PSO-BPNN具有更快的收敛速度。 它需要约51次迭代以获得最小均方误差。与BPNN和PSO-BPNN相比，IPSO-BPNN收敛速度最快。 它只是需要大约22次迭代才能达到最小均值平方误差。

4.2.2测试结果的分析

训练过程结束后，我们选择地震数据，组21-29，测试上述三个网络和检查他们的学习表现。表1是BPNN，PSO-BPNN和IPSO-BPNN的预测结果。

表1. BPNN，PSO-BPNN和IPSO-BPNN的预测结果和误差