Medical image diagnosis of lung cancer by multi-layered GMDH-type neural network self-selecting functions

In this study, a revised Group Method of Data Handling (GMDH)-type neural network self-selecting functions is applied to the computer aided image diagnosis (CAD) of lung cancer. The GMDH-type neural network algorithm has an ability of self-selecting optimum neural network architecture from three neural network architectures, such as sigmoid function neural network, radial basis function neural network and polynomial neural network. The GMDH-type neural network also has abilities of self-selecting the number of layers, the number of neurons in hidden layers and useful input variables. This algorithm is applied to CAD of lung cancers, and it is shown that this algorithm is useful for the CAD, and is very easy to apply to practical complex problems because optimum neural network architecture is automatically organized.     

一款可编程语音处理器的设计与应用

提出了一种基于模糊神经网络的数据挖掘算法,把模糊理论和神经网络结合起来构造、训练模糊神经网络,弥补了神经网络结构复杂、网络训练时间长、结果表示不易理解等不足.经过模糊神经网络的建立和训练达到精度要求,实现了运用模糊神经网络方法从数据库中提取知识的目标.     

催化裂化装置的人工神经网络建模

催化裂化装置(fluid catalytic cracking unit,FCCU)对炼油厂的经济效益至关重要,本文主要探讨了人工神经网络在催化裂化装置建模中的应用。利用实际的工业数据分别采用LMBP,RBF_PLS神经网络对某工厂的催化裂化装置进行了建模试验。将它们的拟合与泛化结果、学习速度以及参数调整进行了比较,其结果显示RBF_PLS神经网络在收敛速度以及预测性能等方面均优于LMBP神经网络。此外,本文在神经网络模型的基础上对其进行了最小二乘校正,得到了比较满意的结果。     

基于遗传优化的RBF-BP网络的实时故障检测

针对单一神经网络对复杂模型难以实时做出准确预测和BP神经网络自身的缺陷,结合RBF神经网络可以逼近任意函数的特性,提出了基于遗传优化的混合神经网络模型(RBF-BP)。由RBF网络和BP网络并联作为一个神经网络(简称为RBF-BP)的隐层,利用该网络对被控对象进行逼近训练、实时故障检测,该算法同时具有RBF网络和BP网络的优点,适用于复杂非线性系统的故障检测。     

Minimal Structure of Self-Organizing HCMAC Neural Network Classifier

The authors previously proposed a self-organizing Hierarchical Cerebellar Model Articulation Controller (HCMAC) neural network containing a hierarchical GCMAC neural network and a self-organizing input space module to solve high-dimensional pattern classification problems. This novel neural network exhibits fast learning, a low memory requirement, automatic memory parameter determination and highly accurate high-dimensional pattern classification. However, the original architecture needs to be hierarchically expanded using a full binary tree topology to solve pattern classification problems according to the dimension of the input vectors. This approach creates many redundant GCMAC nodes when the dimension of the input vectors in the pattern classification problem does not exactly match that in the self-organizing HCMAC neural network. These redundant GCMAC nodes waste memory units and degrade the learning performance of a self-organizing HCMAC neural network. Therefore, this study presents a minimal structure of self-organizing HCMAC (MHCMAC) neural network with the same dimension of input vectors as the pattern classification problem. Additionally, this study compares the learning performance of this novel learning structure with those of the BP neural network,support vector machine (SVM), and original self-organizing HCMAC neural network in terms of ten benchmark pattern classification data sets from the UCI machine learning repository. In particular, the experimental results reveal that the self-organizing MHCMAC neural network handles high-dimensional pattern classification problems better than the BP, SVM or the original self-organizing HCMAC neural network. Moreover, the proposed self-organizing MHCMAC neural network significantly reduces the memory requirement of the original self-organizing HCMAC neural network, and has a high training speed and higher pattern classification accuracy than the original self-organizing HCMAC neural network in most testing benchmark data sets. The experimental results also show that the MHCMAC neural network learns continuous function well and is suitable for Web page classification.     

Three-dimensional medical image recognition of cancer of the liver by a revised radial basis function (RBF) neural network algorithm

In this study, we propose a revised radial basis function (RBF) neural network algorithm and apply this algorithm to computer-aided diagnosis (CAD) of the liver. First, the revised RBF neural network algorithm is applied to recognition of the liver regions, and the recognition results are compared with those obtained using the conventional RBF neural network and the conventional multilayered neural network trained using the back-propagation algorithm. It is shown that the revised RBF neural network is accurate, and is a useful method because the parameters are automatically determined. Then, the revised RBF neural network is applied to CAD of the liver cancer called hepatocellular carcinoma (HCC).     

基于小波理论的神经网络模型构造

小波神经网络是由小波分析理论与神经网络理论结合而成的一种神经网络 ,一般来说 ,小波分析与神经网络的结合有两种不同的方式 ,即辅助式结合 (松散式结合 )方式和嵌套式结合 (紧致式结合 )方式。分别对这两种结合方式作了详细描述 ,并且给出了不同结合方式下的各种小波神经网络模型以及相应的学习算法。     

人工神经网络模型发展及应用综述

人工神经网络与其他学科领域联系日益紧密,人们通过对人工神经网络层结构的探索和改进来解决各个领域的问题。根据人工神经网络相关文献进行分析,综述了人工神经网络算法以及网络模型结构的发展史,根据神经网络的发展介绍了人工神经网络相关概念,其中主要涉及到多层感知器、反向传播神经网络、卷积神经网络以及递归神经网络,描述了卷积神经网络发展当中出现的部分卷积神经网络模型和递归神经网络中常用的相关网络结构,分别综述了各个人工神经网络算法在相关领域的应用情况,总结了人工神经网络的未来发展方向。     

神经网络结构搜索方法综述

如今,深度学习广泛地应用于生活、工作中的各个方面,给我们带来了极大的便利.在此背景下,需要设计针对不同任务的神经网络结构,满足不同的需求.但是,人工设计神经网络结构需要专业的知识,进行大量的实验.因此,神经网络结构搜索算法的研究显得极为重要.神经网络结构搜索(NAS)是自动深度学习(AutoDL)过程中的一个基本步骤,对深度学习的发展与应用有着重要的影响.早期,一些神经网络结构搜索算法虽然搜索到了性能优越的神经网络结构,但是需要大量的计算资源且搜索效率低下.因此,研究人员探索了多种设计神经网络结构的算法,也提出了许多减少计算资源、提高搜索效率的方法.本文首先简要介绍了神经网络结构的搜索空间,其次对神经网络结构搜索算法进行了全面的分类汇总、分析,主要包括随机搜索算法、进化算法、强化学习、基于梯度下降的方法、基于顺序模型的优化算法,再其次探索并总结了提高神经网络结构搜索效率的方法,最后探讨了目前神经网络结构搜索工作中存在的问题以及未来的研究方向.     

混合模型神经网络在短期负荷预测中的应用

提出了可应用于电力系统负荷预测的混合模型神经网络方法,该方法同时具有电力系统负荷预测的传统方法的优点及人工视网络方法的优点,该方法中,不同的负荷分量采用不同类型的预测方法,并采用基本绵谐振分量作神经网络的输入,神经网络的训练采用快速的学习算法进行,该方法具有很强的实时性和适应性,适用于没有气象资料的应用场合,仿真计算的结果表明,预测精度较传统来得高。     

Medical image diagnosis of lung cancer by a revised GMDH-type neural network using various kinds of neuron

A revised group method of data handling (GMDH)-type neural network algorithm using various kinds of neuron is applied to the medical image diagnosis of lung cancer. The optimum neural network architecture for medical image diagnosis is automatically organized using a revised GMDH-type neural network algorithm, and the regions of lung cancer are recognized and extracted accurately. In this revised GMDH-type neural network algorithm, polynomial-type and radial basis function (RBF)-type neurons are used for organizing the neural network architecture in order to fit the complexity of the nonlinear system.     

基于自适应并联结构神经网络的交通流量预测

由于现有优化算法在全局优化方面的局限性,导致神经网络需要多次训练才能获得满意的结果。为了解决神经网络训练中的一致性问题,文章提出了一种自适应并联结构神经网络（Adaptive Parallel Structure Neural Network, APSNN）。APSNN由多个神经网络单元并联组成,在训练过程中,采用常规优化算法对各神经网络单元进行训练。神经网络单元的训练样本由上一级神经网络单元的训练残差构成,通过训练残差在各神经网络单元中的单向传递,实现训练残差的逐级减少。神经网络根据训练残差,决定是否进行神经网络单元级联和结构扩张,从而保证训练结果的一致性。文章对5种非线性函数进行了神经网络逼近测试。与BP神经网络相比较,APSNN在50次不同初始条件下,训练精度十分稳定,具有很好的一致性。为了实现对交通流量预测,文章将APSNN与BP神经网络和小波神经网络进行了对比研究,结果表明：APSNN的预测总体标准差均小于BP神经网络和小波神经网络,交通流量的预测偏差较BP神经网络和小波神经网络分别降低2.7%和9.7%。     

模拟退火PSO的神经网络的网络流量预测模型

为解决网络流量时间序列的预测问题,针对传统BP神经网络的网络流量时间序列预测模型容易陷入局部极小值的不足,提出一种基于模拟退火的微粒群算法训练神经网络的网络流量时间序列预测模型.将模拟退火算法和基本粒子微粒群算法相结合,设计出一种基于模拟退火的微粒群算法.利用基于模拟退火微粒群算法优化BP神经网络的权值和阀值,对实际采集的网络流量时间序列进行建模.实验结果表明,基于模拟退火的微粒群算法训练的神经网络具有较高的预测效果,相对于传统的神经网络模型具有更高的预测精度和良好的自适应性.     

一种模糊神经网络的结构和参数的确定方法*

结合FGP(Fuzzy Grid Partition,模糊网格划分)和FNN(Fuzzy Neural Network,神经网络)提出一种有效确定模糊神经网络模型中结构及参数的方法.该方法首先从样本数据中采用模糊网格划分确定出最佳规则数,从而可确定神经网络的结构;然后采用BP算法对神经网络进行调节,从而确定出模糊神经网络的参数.采用这种方法构建我国经济增长的模糊模型.研究表明这种方法构建的模糊神经网络具有更高的精度.     

基于知识的神经网络在出行方式选择中的应用研究*

针对神经网络和决策树方法在算法上的本质联系和互补优势,将C4.5决策树提取规则的基于知识的神经网络（knowledgebased neural network,KBNN）用于出行方式预测。对居民通勤出行方式选择数据的分析表明,KBNN相比于决策树方法、普通前馈神经网络和多项Logit模型（MNL）有更高的预测精度,方法不仅提高了网络的可解释性,且易于构造、收敛速度更快,实用性较强,为出行方式选择预测提供了新的思路。     

聚合物分子量分布的多变量动态系统模型

为了解决聚合产品分子量分布控制的难题,将神经网络引入对其进行了无需任何系统内部先验知识的黑箱建模。所使用的神经网络是由B样条神经网络和非线性递归神经网络(DRNN)组合而成,并使用误差反传算法对网络进行训练和学习,从而建立了多变量动态系统的分子量分布模型。在模型建立中将控制变量与分布参数的函数关系利用非线性递归神经网络描述,分子量分布函数使用B样条神经网络表示,仿真研究结果证明该方法取得了预期的建模效果,具有一定的推广实用价值。     

铝合金光电光谱分析的径向基神经网络方法

在铝合金光电光谱分析的定量分析阶段,确定光谱强度与元素含量的对应关系,将直接影响定量分析的质量。根据标准铝合金成份的确定性,将单一径向基神经网络,改为由每一元素对应一子径向基神经网络,再将这些子径向基神经网络组合成一完整神经网络,以完成铝合金的定量分析,并利用Matlab中的径向基网络,构建函数newrb()返回误差,使每个径向基网络的均方误差减到最小。在Matlab中,模拟实验证明用该方法训练的组合径向基网络所得均方误差,是单一径向基网络均方误差的1/20。     

基于小波混沌神经网络的语音识别*

基于语音信号的时变特性,提出了一种新型神经网络语音识别方法——小波混沌神经网络方法,即把小波变换和混沌特性引入到神经元,构成小波混沌神经网络,将这种神经网络用于语音识别,并与常用的BP神经网络识别方法进行了比较。实验结果表明,小波混沌神经网络的平均识别率要高于同等条件下常用的神经网络方法的识别率。     

一种基于模糊神经网络的数据挖掘算法

提出了一种基于模糊神经网络的数据挖掘算法，把模糊理论和神经网络结合起来构造、训练模糊神经网络，弥补了神经网络结构复杂、网络训练时间长、结果表示不易理解等不足。经过模糊神经网络的建立和训练达到精度要求，实现了运用模糊神经网络方法从数据库中提取知识的目标。     

GA-BP和GA-RBF网络在结构损伤分析的比较

引出了当人工神经网络算法解决结构工程实践问题时,网络结构本身所面临缺陷。描述了人工神经网络和遗传算法的概念,以及二者的长处和关系,从理论和实例上说明了运用遗传算法优化和改进神经网络结构可行性,从而结合二者的长处解决工程实践问题。详细阐述了如何利用遗传算法优化或改进BP网络模型和RBF网络模型,以及如何利用遗传优化BP网络和遗传优化RBF网络模型分析结构损伤,从而比较遗传BP网络和RBF网络在结构损伤分析方面的性能。