切比雪夫正交基神经网络的权值直接确定法

经典的BP神经网络学习算法是基于误差回传的思想.而对于特定的网络模型,采用伪逆思想可以直接确定权值进而避免以往的反复迭代修正的过程.根据多项式插值和逼近理论构造一个切比雪夫正交基神经网络,其模型采用三层结构并以一组切比雪夫正交多项式函数作为隐层神经元的激励函数.依据误差回传(BP)思想可以推导出该网络模型的权值修正迭代公式,利用该公式迭代训练可得到网络的最优权值.区别于这种经典的做法,针对切比雪夫正交基神经网络模型,提出了一种基于伪逆的权值直接确定法,从而避免了传统方法通过反复迭代才能得到网络权值的冗长训练过程.仿真结果表明该方法具有更快的计算速度和至少相同的工作精度,从而验证了其优越性.     

权值与结构双确定法的RBF神经网络分类器

为了解决径向基函数(RBF)神经网络权值与结构难以确定的问题,基于权值直接确定法,及隐层神经元中心、方差、数目与神经网络性能的关系,提出一种边增边删型的网络权值与结构双确定法。在此方法基础之上,构建一种RBF神经网络分类器并探讨其分类性能和抗噪能力。计算机数值实验结果验证所提出的边增边删型的权值与结构双确定法能够快速、有效地确定网络的中心、方差和网络最优的权值与结构,所构造的模式分类器具有优越的分类性能和抗噪能力。     

基于权值与结构确定法的单极Sigmoid神经网络分类器

构造了以单极Sigmoid函数作为隐层神经元激励函数的神经网络分类器,网络中输入层到隐层的权值和隐层神经元的阈值均为随机生成。同时,结合利用伪逆思想一步计算出隐层和输出层神经元之间连接权值的权值直接确定(WDD)法,进一步提出了具有边增边删和二次删除策略的网络结构自确定法,用来确定神经网络最优权值和结构。数值实验结果表明,该算法能够快速有效地确定单极Sigmoid激励函数神经网络分类器的最优网络结构; 分类器的分类性能良好。     

一种结构自适应径向基函数神经网络

提出了一种新的结构自适应的径向基函数(RBF)神经网络模型。在该网络中,自组织映射(SOM)神经网络作为聚类网络,采用无监督学习算法对输入样本进行自组织分类,并将分类中心及其对应的权值向量传递给RBF神经网络,作为径向基函数的中心和相应的权值向量;RBF神经网络作为基础网络,采用高斯函数实现输入层到隐层的非线性映射,输出层则采用有监督学习算法训练网络的权值,从而实现输入层到输出层的非线性映射。通过对字母数据集进行仿真,表明该网络具有较好的性能。     

一种结构自适应的径向基函数神经网络

提出了一种新的结构自适应的径向基函数(RBF)神经网络模型。在该模型中,自组织映射(SOM)神经网络作为聚类网络,采用无监督学习算法对输入样本进行自组织分类,并将分类中心及其对应的权值向量传递给RBF神经网络,分别作为径向基函数的中心和相应的权值向量;RBF神经网络作为基础网络,采用高斯函数实现输入层到隐层的非线性映射,输出层则采用有监督学习算法训练网络的权值,从而实现输入层到输出层的非线性映射。通过对字母数据集进行仿真,表明该网络具有较好的性能。     

卷积神经网络的宫颈细胞图像分类

为实现计算机辅助系统精准、快速地检测宫颈异常细胞,提出一种基于卷积神经网络的宫颈细胞自动分类方法.首先复制预训练网络结构及参数来初始化分类网络,将宫颈细胞图像分批次传入网络;然后采用Softmax函数将网络输出数据归一化为各标签对应的概率值,并使用交叉熵作为损失函数;最后改进网络结构加入对数据的批归一化处理,通过反向传播算法优化参数使损失函数最小化,最终选择训练所得最优网络.使用5折交叉验证法在Herlev数据集上的实验结果表明,对比Herlev常用基准方法,该方法的特异性、调和平均数和准确率分别提高了19.46%, 10.71%和5.09%.     

多元切比雪夫神经网络及其快速权值确定算法

与传统的多层感知器模型相比,切比雪夫神经网络具有收敛速度快,复杂度低,泛化能力强等优点,但是,其研究最为广泛的一元切比雪夫神经网络在解决实际应用中的多元问题时存在着很大局限。鉴于此,对一元切比雪夫神经网络进行扩展,提出了多元切比雪夫神经网络模型,并在切比雪夫多项式正交性的基础上给出了快速权值确定算法。仿真实验证明,相对于传统多层感知器神经网络,该方法在计算精度和计算速度等方面都存在明显优势。     

RBF网络分类器的实现及应用

径向基函数神经网络通过中间层神经元的非线性传递,能够实现任意的从输入空间到输出空间的映射,因此大都用于目标分类。本文利用快速聚类和统计的方法确定网络的中间层及中间层到输出层间的权值,并把构造的分类器用于遥感图象目标分类识别实验,取得了比较好的结果。     

多模态粒子群集成神经网络

提出一种基于多模态粒子群算法的神经网络集成方法,在网络训练每个迭代周期内利用改进的快速聚类算法在权值搜索空间上动态地把搜索粒子分为若干类,求得每一类的最优粒子,然后计算最优个体两两之间的输出空间相异度,合并相异度过低的两类粒子,最终形成不但权值空间相异、而且输出空间也相异的若干类粒子,每类粒子负责一个成员网络权值的搜索,其中最优粒子对应于一个成员网络,所有类的最优粒子组成神经网络集成,成员网络的个数是由算法自动确定的.算法控制网络多样性的方法更直接、更有效.与负相关神经网络集成、bagging和boosting方法比较,实验结果表明,此算法较好地提高了神经网络集成的泛化能力.     

基于SOM和RBF网络的软测量方法研究

为了解决工业生产过程中许多重要的参数无法精确测量或者实时测量的问题,提出一种基于自组织特征映射(SOM)神经网络和径向基函数(RBF)神经网络结合构建网络模型的预测方法;其中,RBF神经网络作为基础网络实现从输入层到输出层的线性映射,得出预测输出;SOM神经网络作为聚类网络对输入样本进行自组织分类,将分类中心及其对应的权值向量作为RBF神经网络径向基函数的中心;以钕铁硼氢粉碎过程优化控制为例,建立了合金氢含量的检测模型,并与RBF神经网络检测模型进行了对比;仿真结果表明该混合网络检测模型检测精度高,泛化能力强,证实了该方法的有效性.