基于改进的ReliefF算法的神经网络集成分类模型

为进一步提高集成学习中各个神经网络的差异性,该文采用了一种改进的特征选择方法-基于概率抽样的ReliefF算法,并将其引入到集成所用的Bagging方法中。实验结果表明,该文提出的基于改进的ReliefF算法的神经网络集成分类模型的泛化能力优于Bagging方法。     

基于改进的ReliefF算法的神经网络集成分类模型

为进一步提高集成学习中各个神经网络的差异性,该文采用了一种改进的特征选择方法一基于概率抽样的ReliefF算法,并将其引入到集成所用的Bagging方法中。实验结果表明,该文提出的基于改进的KelietT算法的神经网络集成分类模型的泛化能力优于Bagging方法。     

一种神经网络辨识的混合学习算法

文章提出了一种神经网络辨识的混合学习算法。采用具有递阶结构的遗传算法来获得神经网络拓扑结构和连接权值的全局次优解,之后由BP算法来进一步调整神经网络的连接权值,从而实现神经网络的自动优化设计。仿真结果表明,所得的神经网络结构简单、精度高,并具有良好的泛化能力。     

Novel Approaches to Probabilistic Neural Networks Through Bagging and Evolutionary Estimating of Prior Probabilities

In this contribution, novel approaches are proposed for the improvement of the performance of Probabilistic Neural Networks as well as the recently proposed Evolutionary Probabilistic Neural Networks. The Evolutionary Probabilistic Neural Network’s matrix of spread parameters is allowed to have different values in each class of neurons, resulting in a more flexible model that fits the data better and Particle Swarm Optimization is also employed for the estimation of the Probabilistic Neural Networks’s prior probabilities of each class. Moreover, the bagging technique is used to create an ensemble of Evolutionary Probabilistic Neural Networks in order to further improve the model’s performance. The above approaches have been applied to several well-known and widely used benchmark problems with promising results.      

基于集成卷积神经网络的人脸年龄分类算法研究

人脸年龄估计由于在人机交互和安全控制等领域有潜在应用,因此得到了广泛关注。文中主要进行人脸年龄分组的研究,针对人脸年龄分类问题提出了一种基于集成卷积神经网络的年龄分类算法。首先,训练两个以人脸图像为输入的卷积神经网络,当用卷积神经网络直接提取人脸图像的特征时,主要对 深度的全局特征 进行提取。为了补充人脸图像的局部特征,尤其是纹理信息,将提取的LBP(Local Binary Pattern)特征作为另一个网络的输入。最后,为了结合人脸的全局特征和局部特征,将这3个网络进行集成。该算法在广泛使用的年龄分类数据集Group上取得了不错的效果。     

一种新的神经网络集成方法及其在精准施肥中的应用

为解决作物精准施肥量确定这一难题,提出了一种新的基于神经网络集成的精准施肥量确定方法.在该方法中,采用回放取样生成神经网络个体集合,通过给出一种神经网络相似度度量标准,用聚类算法AP从神经网络个体集合中选出一组精度高、多样性强的网络个体;进而形成分别用拉格朗日乘子和预测有效度法线性集成所选个体的算法LME和FEME.在基准数据集上的实验结果表明：在精度方面,算法LME要明显优于算法FEME和算法BSN(单个最优神经网络算法),且LME具有较好的泛化能力.最后在确定精准施肥量方面,对算法LME进行了实际应用,结果表明LME明显优于传统施肥模型和现有神经网络精准施肥模型.     

一种改进的神经网络非线性预测控制

从建立神经网络非线性预测模型出发,针对BP网络存在收敛速度慢,容易陷入局部最小的缺点,该文在BFGS拟牛顿法的基础上,提出了一种基于并行拟牛顿优化算法的并行拟牛顿神经网络。该并行拟牛顿优化算法采用两个含有不同参数的拟牛顿校正公式,在每次迭代过程中,利用这两个不同的校正公式得到相应的搜索方向,并通过不精确搜索法求取最优步长,最后根据一性能指标取最优的一个搜索方向和相应的步长对网络各层之间的权值进行修正。Matlab仿真结果表明,同BP神经网络和BFGS拟牛顿神经网络相比,该神经网络具有收敛速度快、模型精度高的特点,更适合于实时非线性控制。     

一种基于混合建模的模块化神经网络控制方法

针对传统神经网络用于复杂过程系统的控制时难于收敛的问题,文章提出了基于混合建模的模块化的神经网络模型。采取运行机理建模和神经网络建模相结合的方式,把输入样本空间进行划分,实现基于混合专家网络的建模。试验结果表明,对大型燃煤锅炉供热系统,文章提出的方法可以较好地提高供热系统的稳定性和供热质量。     

基于多维度特征和混合神经网络的代码可读性评估方法

对代码可读性进行定量、准确的评估是有效保障软件质量、降低沟通成本以及维护成本、提高软件开发和演化效率的重要途径.然而,现有的针对代码可读性评估的研究方案大多是基于特征工程的,受到源代码表征方式、技术手段等多方面因素影响,其评估准确率并不高.为此,文中采用深度学习作为主要技术手段,提出了一种基于多维度特征和混合神经网络的代码可读性评估方法,通过整合并运用各种单一神经网络的优势,从字符级、词条级等不同维度挖掘源代码中蕴含的结构信息和语义信息,最终实现对代码可读性的量化评估.实验表明,该方法能够获得高达84.6％的评估准确率,比单独使用卷积神经网络提升了9.2％,比单独使用循环神经网络模型提升了6.5％,并且其表现优于现有的5个可读性模型,验证了所提出的多维度特征和混合神经网络的有效性.     

一种优化多层前向网络的IA-BP混合算法

该文针对免疫算法(IA)在优化较大规模的多层前向神经网络时收敛速度慢的缺点,给出了一种综合免疫算法和BP算法优点的IA-BP混合算法,它首先采用免疫算法进行全局搜索,然后调用BP算法进行局部搜索,从而加快收敛速度。实验结果表明该算法在训练较大规模的前向神经网络时性能要优于免疫算法和BP算法。     

新型高压大容量混合有源电力滤波装置的研究

提出一种新颖的高压大容量混合型有源电力滤波电路(HAPF).无源支路在补偿无功功率的同时还可以滤除因非线性负载产生的特征谐波电流.有源部分通过耦合变压器与基波串联谐振电路并联构成串联谐振注入式混合有源滤波器.详细介绍该新型结构的基本工作原理,分析其谐波补偿特性及谐振抑制特,并对其有源部分的参数设计进行研究.依此方法为某矿厂研制了高压大容量混合型有源电力滤波装置,运行结果表明该装置能很好的满足工程需要.     

Higher-Order Neural Networks Applied to 2D and 3D Object Recognition

A higher-order neural network (HONN) can be designed to be invariant to geometric transformations such as scale, translation, and in-plane rotation. Invariances are built directly into the architecture of a HONN and do not need to be learned. Thus, for 2D object recognition, the network needs to be trained on just one view of each object class, not numerous scaled, translated, and rotated views. Because the 2D object recognition task is a component of the 3D object recognition task, built-in 2D invariance also decreases the size of the training set required for 3D object recognition. We present results for 2D object recognition both in simulation and within a robotic vision experiment and for 3D object recognition in simulation. We also compare our method to other approaches and show that HONNs have distinct advantages for position, scale, and rotation-invariant object recognition.The major drawback of HONNs is that the size of the input field is limited due to the memory required for the large number of interconnections in a fully connected network. We present partial connectivity strategies and a coarse-coding technique for overcoming this limitation and increasing the input field to that required by practical object recognition problems.     

应用于单站降雨预报的神经网络方法

讨论了神经网络应用于天气预报的可行性和优越性,介绍了在单站降雨预报中使用具有离散值的反向传输网络取得的初步研究成果,提出了进一步提高降雨预报准确率的几点设想．     

一种新的基于Agent的神经网络隐层节点数的优化算法

本文提出了一种新的基于Agent的神经网络隐层结构的优化算法(OHA)。该方法包括两个部分,分别由RLAgent和NNAgent合作完成。RLAgent根据强化学习算法找到一个比当前节点数更优的解,并反馈给NNAgent。NNAgent据此构建相应的网络,并采用分层训练的算法对该网络进行优化,训练结果再发给RLAgent。在多次循环后,OHA算法就可以找到一个训练误差最小的全局最优解(权值及隐层节点数)。本文讨论了有关的算法、测试和结果分析。Iris数据集和危险评估数据集的测试结果表明,算法避免了盲目搜索造成的计算开销,明显改善了优化性能。     

混合模型神经网络在短期负荷预测中的应用

提出了可应用于电力系统负荷预测的混合模型神经网络方法,该方法同时具有电力系统负荷预测的传统方法的优点及人工视网络方法的优点,该方法中,不同的负荷分量采用不同类型的预测方法,并采用基本绵谐振分量作神经网络的输入,神经网络的训练采用快速的学习算法进行,该方法具有很强的实时性和适应性,适用于没有气象资料的应用场合,仿真计算的结果表明,预测精度较传统来得高。     

Using a Neural Network to Approximate an Ensemble of Classifiers

Several methods (e.g., Bagging, Boosting) of constructing and combining an ensemble of classifiers have recently been shown capable of improving accuracy of a class of commonly used classifiers (e.g., decision trees, neural networks). The accuracy gain achieved, however, is at the expense of a higher requirement for storage and computation. This storage and computation overhead can decrease the utility of these methods when applied to real-world situations. In this Letter, we propose a learning approach which allows a single neural network to approximate a given ensemble of classifiers. Experiments on a large number of real-world data sets show that this approach can substantially save storage and computation while still maintaining accuracy similar to that of the entire ensemble.     

基于核主元分析与神经网络的传感器故障诊断新方法

提出综合利用核函数主元分析(KPCA)和神经网络的方法实现非线性系统内传感器故障的检测和识别,克服了以往核函数主元分析法只能给出故障检测结果,却无法对故障进行识别的缺陷,并给出了在特征空间中计算残差的简单方法.最后,对一个简单的多变量过程进行了故障检测和识别,验证了这一诊断策略的有效性.     

Synchronization Criteria for an Array of Neutral-Type Neural Networks with Hybrid Coupling: A Novel Analysis Approach

This paper is concerned with an array of neutral-type neural networks with hybrid nonlinear coupling, which is composed of discrete-delay coupling and distributed-delay coupling. The discrete-delay considered in this system is assumed to vary over an interval (0 < h ₁ ≤ τ ₁(t) ≤ h ₂), where the lower and the upper bounds are known. Based on Lyapunov–Krasovskii (L–K) functional and Kronecker product technique, by introducing several new free-weighting matrices, two novel criterions are acquired to ensure the global synchronization of the proposed networks, which are proved to be much less conservative than some exiting results. Moreover, the derivative of discrete-delay can take any value. Finally, numerical examples are provided to show the effectiveness of the proposed results.