基于改进型基因表达式编程的神经网络优化设计

提出一种用基因表达式编程(GEP)自动设计神经网络的算法.针对标准GEP算法在优化神经网络过程中的早熟现象和变异率低问题,对算法进行了改进,并给出算法的具体应用实例.与其它优化算法的对比实验表明,GEP是一种有效的神经网络设计方法,并且改进的GEP算法比标准GEP算法进化效率高,将收敛率提高了37个百分点,收敛速度快,进化代数仅是标准算法的58%.     

双系统协同进化的基因表达式编程及其在函数发现中的应用

受人类进化过程的启发,提出了一种双系统协同进化的基因表达式编程算法DSCE-GEP。DSCE-GEP由自然进化系统和人工干预系统组成。人工干预系统包括个体干预和种群干预。个体干预是依据基因库对种群中的个体进行去劣和增优操作,旨在改善种群中个体的质量;种群干预通过引入随机和镜像个体来提高种群的多样性和全局寻优能力。与权威文献中改进的GEP关于函数发现问题的大量对比实验表明,本文算法在收敛速度、求解质量方面优于对比算法,具有明显的竞争力。     

基于基因表达式编程的邮电业务量预测

基因表达式编程(GEP)是将进化的遗传操作和个体的适应度评价相分离的进化模型,具有比遗传编程快2-4个数量级能力.邮电业务量是反映经济发展的重要指标之一,其预测技术得到了广泛的研究,主要工作包括:阐述了GEP基本原理,以及GEP进行时间序列分析的基本方法;运用了GEP技术,对邮电业务总量进行建模研究,并进行了预测检验和分析.实验结果表明,基于GEP得到的邮电业务总量模型有较好的泛化能力,在测试数据上平均相对误差为4.44%.     

基于差分进化基因表达式编程的全局函数优化

为了提高基因表达式编程(Gene Expression Programming,GEP)在函数优化时的效率,将差分进化(Differ-ential Evolution,DE)引入到GEP中,提出了基于差分进化的基因表达式编程的全局优化算法DEGEPO.主要工作包括:(1)针对全局函数优化问题,根据GEP和DE的特点设计了新的基因编码;(2)设计了新的变异和交叉算子;(3)提出了DEGEPO算法并进行了算法分析;(4)实验验证了算法的有效性.相对于传统GEP,DEGEPO,优化结果精度平均提高了2～4个数量级.     

用态势模型预测基因表达式编程的进化难度

在基因表达式编程(gene expression programming,简称GEP)中,由于不同问题得到的适应度-距离相关系数(fitness-distance correlation,简称FDC)值很相近,所以难以用FDC预测GEP求解不同问题的进化难度.为了解决该问题,提出了态势模型及其区间密度指标来预测GEP的进化难度.主要工作包括:(1)提出了GEP染色体之间的距离和态势模型的新概念;(2)提出了态势模型中的区间密度指标;(3)从动力学角度证明了态势模型是对GEP原搜索空间的一种映射,并且该映射保持了种群在原搜索空间中移动的动力学性质;(4)分析了用态势模型区间密度预测GEP进化难度的合理性;(5)用实验验证了区间密度能够准确预测GEP求解问题的进化难度.     

改进基因表达式编程在股票中的研究与应用

介绍了基因表达式编程方法的基本原理,针对股票指数分析与预测问题,在经典的GEP算法基础上,提出了一种基于动态变异算子的改进的GEP算法--IGEP(improved GEP)算法.动态变异算子随着进化代数和染色体所含基因数目不同而变化,从而加快了GEP的收敛速度和精确度.还对算法进行了复杂度和收敛性分析.最后设计了一种基于IGEP的股票指数分析与预测算法,数值实验结果表明该算法优越于经典GEP算法,非常有效且具有较广泛的通用性.     

基于GEP-BP网络集成的蛋白质二级结构预测方法研究*

为提高蛋白质二级结构预测的精度,提出了一种基于GEP-BP网络集成的两层结构预测模型。首先利用基因表达式编程（GEP）的全局搜索能力同时进化设计BP网络的结构和连接权,并将进化最后一代的个体用BP算法进一步训练学习,然后采用组合方法将部分个体集成构成模型的第一层;根据神经网络输出之间具有相关性,用第二层网络对第一层的预测结果进行精炼。用PDBSelect25中的36条蛋白质共6 122个残基进行测试,结果表明提出的模型能有效预测蛋白质二级结构,将预测精度提高到73.02%。     

基于通用多核处理器平台的并行基因表达式编程算法

基因表达式编程(Gene Expression Programming, GEP)是一种计算量大且通用性强的新型进化算法,其传统计算形式不能充分利用目前主流的多核处理器。为提高算法效率,提出了基于通用多核处理器平台的并行基因表达式编程算法(Parallel Gene Expression Programming Based on General Multi-core Processor, PGEP-MP)。主要工作包括:O)分析通用多核处理器平台下并行基因表达式编程算法的机理;(2)利用MPI和()pcnMP混合编程模型设计基于通用多核处理器平台的基因表达式编程算法的粗粒度与细粒度相结合的并行模型;(3)提出改进PEEP-MP算法效率的进化策略;(4)通过对函数挖掘和分类的实验证明,PEEP-Ml〕算法提高了函数挖掘和分类的效率,在并行双核处理器数为4的情况下,PEEP-MP的平均并行加速比分别是传统GEP算法的4. 22倍和 4. 06倍。     

基于堆栈解码的元胞基因表达式编程算法

基因表达式编程(GEP)算法在评价个体适应度时需要将染色体转换为表达式树,并且在求解复杂问题过程中,由于多样性不足仍出现早熟收敛.针对以上问题,提出一种基于堆栈解码的元胞基因表达式编程算法(SD-CGEP).利用堆栈直接对染色体进行解码和适应度评价,可以提高算法的运行速度;通过引入元胞自动机模型,从而提高算法跳出局部最优的能力. 符号回归实验表明, SD-CGEP算法在演化效率和预测精度上均超过传统GP、GEP算法.     

基于基因表达式编程的信用评估模型挖掘方法

提出了一种基于基因表达式编程(GEP)的信用评估模型挖掘方法GEP-CREDIT。该方法基于客户信贷数据,利用GEP算法自动进行属性筛选,并进行属性融合,在此基础上训练和建立信用评估模型。在德国信用数据库真实数据集上做的实验和性能分析表明,基于GEP的信用评估模型挖掘方法较Nave Bayes算法的预测精度提高了3%;较SVM算法的预测精度提高了1.6%;较KNN(K=17)算法的预测精度提高了6.83%。     

基于自组织递归模糊神经网络的PM2.5浓度预测

针对PM2.5浓度非线性动态变化的特点,提出了一种自组织递归模糊神经网络(self-organizing recurrent fuzzy neural network,SORFNN)方法预测PM2.5小时浓度。首先,通过分析影响PM2.5浓度的多种因素,利用主成分分析法(principal component analysis,PCA)筛选出与PM2.5浓度相关性较强的特征变量作为神经网络的输入变量。然后,根据ε准则和偏最小二乘算法(partial least squares,PLS)进行规则化层神经元的增删,实现递归模糊神经网络结构的自动调整,并采用学习率自适应的梯度下降算法调整模型中心、宽度和权值等参数,建立PM2.5预测模型。最后,利用典型非线性系统辨识和实际PM2.5浓度预测实验进行验证。实验结果表明,所设计的自组织递归模糊神经网络结构精简且预测精度高,较好地满足了PM2.5实时预测的要求。     

基于GEP的高速公路通行费预测方法研究

高速公路通行费未来收入状况的预测对于高速公路运营管理、建设规划有着重要的指导意义。然而,通行费收入水平的变化受到多方面因素的影响,具有较强的非线性和复杂性,传统预测模型无法准确表达通行费收入的发展规律。本文针对复杂的高速公路通行费预测问题,建立了基于基因表达式编程算法(GEP)的高速公路通行费预测模型。该模型利用GEP算法建立通行费当前收入与历史数据之间复杂的函数关系,准确地刻画通行费收入随时间的发展规律。此外,针对节假日期间通行费减免政策的影响,提出了有效的修正模型。最后,本文采集了浙江沪杭甬高速公路股份有限公司等12家公司通行费收入的历史数据进行仿真实验,对比传统的ARIMA以及神经网络预测模型,结果充分验证了本文算法的有效性和准确性。     

基于时空融合的缺失值填补算法

为提升PM 2.5浓度预测精度,提出基于时空融合与缺失值填补的预测方法。抓住时空相关性,以历史气象和PM 2.5浓度数据作为输入,利用长短时记忆神经网络和人工神经网络从时空两个维度对未来一小时PM 2.5水平进行预测,用模型树进行融合。由于数据集中存在大量的连续缺失数据,为弥补其带来的不利影响,利用所提算法对预测模型进行辅助。实验结果表明,时空融合比单维度单模型的预测表现更佳,提出的填补算法使预测误差进一步降低。     

一种基于GEP的分类规则挖掘算法

基于一种新的自动程序设计方法基因表达式程序设计（GEP），通过设计适应函数、初始化群体的优化、增加新的遗传算子以及采用演化策略中的（λ+μ）淘汰策略等对原始GEP算法进行有效的改进，设计出一种新的数据挖掘算法。采用UCI机器学习知识库中的数据集对该算法进行了实验，并通过与C4.5及文献[3]的比较，检验了该算法的准确性。     

基于多层染色体基因表达式程序设计的混合遗传进化算法

提出了一种新的基于多层染色体基因表达式程序设计的混合遗传进化算法:M-GEP-GA。 该算法在基因表达式程序设计的基础上引入了多层染色体,并采用与遗传算法相嵌套的二级演化方法。利用染色体构建的层次调用模型对个体进行表达,用基因表达式程序设计方法优化模型结构,遗传算法优化模型参数。通过对三组数据测试,与用单基因GEP、多基因GEP的结果进行对比,实验表明改进的算法具有更强的寻优能力和更高的稳定性。     

基于多元回归分析的PM2.5预测研究

PM2.5对人体健康和大气环境质量的影响众所周知,分析、预测PM2.5浓度对污染天气防治与干预有着非常重要的作用。利用灰色关联度、多元回归分析等方法对全国各大城市空气质量进行了研究,分析了影响PM2.5浓度的主要因素并进行了影响程度排序,构建了PM2.5预测模型并进行了预测实践,为我国环境空气质量预报和污染天气防治干预提供了有效的决策信息。     

Air pollution forecasting based on attention-based LSTM neural network and ensemble learning

With air pollution having become a global concern, scientists are committed to working on its amelioration. In the field of air pollution prediction, there have been good results in experimental research so far, but few studies have integrated weather forecast information and the properties of air pollution drift. In this work, we propose a novel wind-sensitive attention mechanism with a long short-term memory (LSTM) neural network model to predict the air pollution - PM2.5 concentrations by considering the influence of wind direction and speed on the changes of spatial–temporal PM2.5 concentrations in neighbouring areas. Preliminary predictions for PM2.5 are then made by an LSTM neural network regarding neighbouring pollution; these predictions are “paid attention to” and we finally apply an ensemble learning method based on e X treme G radient B oosting (XGBoost) to combine the preliminary predictions with weather forecasting to make second phase predictions of PM2.5. The experiment is conducted using PM2.5 data and weather forecast data. Our results illustrate that the proposed method is superior to other methods in predicting PM2.5 concentrations, including multi-layer perceptron, support vector regression, LSTM neural network, and extreme gradient boosting algorithm.     

基因表达式编程在软件可靠性建模中的应用

基因表达式编程是一种基于遗传算法和遗传编程的新型机器学习技术,其具有更为优秀的数据挖掘能力,已被成功应用于函数发现领域。提出一种基于基因表达式编程的非参软件可靠性建模方法,该方法将基因表达式编程算法中的若干关键步骤(如初始种群函数集、适应度函数、终止条件等)与软件可靠性建模的若干重要特征相融合,在失效数据集上进行训练,从而获得基于基因表达式编程算法的非参软件可靠性模型。在若干组真实失效数据集上,将所提出的模型与若干典型的基于人工神经网络以及遗传编程的非参软件可靠性模型进行对比实例研究。实例结果表明,基因表达式编程算法的非参软件可靠性模型具有更为显著的模型拟合与预计性能。     

改进YOLOv3网络在图像中评价空气质量

空气质量指数和PM2.5浓度是衡量大气污染程度的两种重要指标。在图像检测算法的框架下,提出了一种基于YOLOv3网络模型的空气质量评价方法。该模型对YOLOv3网络进行了改进,包含多锚点检测机制和卷积投票网两个模块,适用于非固定场景下的空气质量指数评估,以及固定场景下的PM2.5浓度预测。该方法的准确率在2018年全球人工智能应用大赛中得到了总分第3名的成绩,同时基于darknet框架的YOLOv3模型可以达到实时的需求,对空气质量评价的相关研究具有重要的借鉴意义。