基于Fourier神经网络的图像复原算法*

由于退化图像的点扩散函数难以准确确定,提出一种基于Fourier正交基函数的前向神经网络图像复原模型,该模型以一组Fourier正交基为隐层神经元的激励函数,根据误差传递算法进行权值修正,达到收敛目标。给出Fourier神经网络及其相应的衍生算法的图像恢复实现步骤。实验表明,该方法能较好地实现图像的复原。     

属性神经网络模型

在分析了一般神经网络模型和属性论的基础上，提出了一种新的属性神经网络模型，它将数据信息保存在属性神经元和连接函数中，使学习过程变得简单和确定，并且绝对收敛，讨论了属性神经网络的图的性质，指出可以用图论的方法研究属性神经网络的分类器作用，同时证明了属性神经网络与属性坐标系的等价性，从而为属性推理提供可操作的数值推导方法。     

二进神经网络逻辑关系判据及等价性规则提取

二进神经网络中提取知识主要体现为对输入输出逻辑关系的提取,而逻辑关系的表达方式分为蕴含性规则和等价性规则文中对比了蕴含性规则和等价性规则的差异;以KT方法为例,讨论了蕴含性规则在表达二进神经网络内在知识时,对某些具有明确逻辑意义的二进神经网络,并不是最清晰的表达方式.对这些逻辑关系,采用等价性规则可以简洁清晰地解决问题,所以对于二进神经网络神经元表达的逻辑关系建立可能的等价性规则提取方法是有意义的.CH判据是一种提取等价性规则的方法,但CH判据是充分性判据,对二进神经元的权系数有约束条件,因此不适用于任何学习算法的学习结果.为解决这些问题,文中研究了二进神经网络表达几类等价逻辑关系的充要性判据,并根据这些判据提出了提取等价性规则的WTA方法.在使用WTA方法时,必须预先对二进神经元进行必要的剪枝.文中证明了剪枝定理,并通过二个例子说明了用WTA方法进行规则提取的过程.     

一种模糊推理过程神经网络及其应用研究

针对带有过程性模糊信息或动态领域规则的时变信息处理问题,提出一种模糊推理过程神经网络.该模型将模糊过程推理规则与数值型过程神经网络的动态信息处理机制相结合,将推理规则表示为过程神经元.利用过程神经网络的学习性质来实现对过程性定量与定性混合信息的自适应处理.分析了模糊推理过程神经网络的信息处理机制,并给出了相应的学习算法.以抽油机平衡诊断为例,实验结果验证了所提出模型和算法的有效性.     

关于过程神经元网络的理论探讨

过程神经元网络是一种适合于处理过程式信号输入的网络，其基本单元是过程神经元——新近出现的神经元模型．过程神经元和传统神经元有着本质的区别，但二者之间也存在着紧密的联系，前者可用后者以任意精度无限逼近．文中给出2个定理及其详细证明，分别论述了过程神经元的2种传统神经元逼近模型：时域特征扩展模型和正交分解特征扩展模型．基于第2个定理，给出了过程神经元网络相关的2个推论．最后，针对过程神经元网络面临的主要问题进行讨论，指出了一些具有前景的研究方向．文中得到的结果对过程神经元模型及其网络的研究具有一定的理论意义．     

一种新的ART2神经网络模型

指出了传统的ART2神经网络对渐变过程不敏感的局限性,建立了新的ART2神经网络模型,与传统模型相比,增加了伴随神经元和重置系统B.开发了相应的MATLAB程序,模拟实验表明新的ART2神经网络能够分辨渐变过程.     

SIMO傅里叶三角基神经网络的权值直接确定法和结构自确定算法

根据傅里叶级数逼近理论,将正交三角函数系作为隐层神经元激励函数,合理选取这些激励函数的周期参数,构造单输入多输出(SIMO)傅里叶三角基神经网络模型.根据该网络的特点,推导出一种基于伪逆的权值直接确定法,从而1步计算出网络最优权值,并在此基础上设计出隐层结构自确定算法.仿真结果表明,与传统BP(反向传播)神经网络及基于最小二乘法的SIMO傅里叶神经网络模型相比,本网络模型具有更高的计算精度和更快的计算速度.     

基于PSO-RBF神经网络的示功图识别

针对广泛应用的有杆抽油机故障率较高的现状,提出傅立叶描述子和RBF神经网络相结合的算法判断抽油机工况。该算法基于典型示功图的几何特征,提取低频区傅里叶描述子作为特征参数,再结合上、下冲程的载荷变化量,构成代表对应工况的12个综合特征参数,利用RBF神经网络建立识别网络模型,对数据进行网络训练得到RBF神经网络。通过MATLAB仿真平台完成了PSO-RBF神经网络的示功图识别的仿真验证,实际运用在油田生产中准确性良好。     

连续小波过程神经网络及其仿真研究

在小波分析和过程神经网络理论的基础上，提出了连续小波过程神经网络模型，其隐层为过程神经元，隐层激活函数采用小波函数．该网络结合了小波变换良好的时一频局域化性质及过程神经网络可以处理连续输入信号的特点，因而学习能力强，精度高．给出了小波过程神经网络学习算法，并以航空发动机滑油系统状态监测为例，分别利用传统BP网络和小波过程神经网络进行预测．结果表明，小波过程神经网络收敛速度快，精度高，优于BP网络的预测能力，同时也为航空发动机滑油系统状态监测问题提供了一种有效的方法．     

前馈过程神经网络的网络结构与泛化能力

基于提高过程神经网络泛化能力的角度,对前馈过程神经网络网络结构对泛化能力的影响进行研究,得出以下结论：其过程神经元隐层（时变隐层）起主要作用,一般神经元隐层（非时变隐层）并非是必须的,对于相同特征的样本,过程神经元对样本特征的抽取能力远远高于传统神经元。给出了一个基于提高泛化能力的前馈过程神经网络网络结构构造算法,并应用一个实例验证了其有效性。     

类内类间距离在CNN识别心拍类中的应用研究

心脏疾病严重威胁人类身体健康，心电图（Electrocardiogram，ECG）心拍分类对心脏疾病的临床诊断和自动诊断具有重要意义。现有基于深度学习生成的ECG心拍特征虽然优于基于传统方法生成的心拍特征，但是因ECG中各类间存在着严重的数据不平衡问题，致使现有基于深度学习方法生成的心拍特征的性能仍不甚理想。针对这一问题，以卷积神经网络（Convolutional Neural Network，CNN）为基础，在各类心拍等量数据基础上构建能有效表达各类心拍共性信息的共性CNN模型，以共性CNN模型和最小化类内距离最大化类间距离模型为基础，分别在各类心拍数据上构建能有效反映相应心拍类别倾向性信息的类别CNN模型，综合各心拍类别CNN模型的输出进行识别与分类。在MIT-BIH数据库上的实验结果显示，该方法识别分类心拍的各项指标均达到100%，解决了MIT-BIH数据库中ECG四类心拍自动识别分类的问题。     

新型模糊神经网络模型

分析了已有模糊神经网络模型结构与学习算法的特点,针对它们收敛速度慢、全局逼近能力差等不足,提出了一种新型的模糊神经网络模型,其在模糊化层实现了隶属函数的合成,且结构简单、推理层只有两个节点。实验结果表明该模型具有收敛速度快、全局逼近能力强的优点,具有一定的实用价值。     

基于3DC-BGRU的脑电情感识别

针对脑电信号情感识别率偏低的问题,提出了一种基于3DC-BGRU的脑电情感识别方法。对单通道脑电信号进行短时傅里叶变换（STFT）,提取相关频带的时频信息构成二维时频图,并将多个通道的时频图构成一种全新的时间、频率和通道的三维数据形式,通过三维卷积的方式设计了一种新颖的卷积神经网络（CNN）模型对三维数据进行深层特征提取,设计双向门控循环单元（BGRU）对深层特征的序列信息进行处理并配合Softmax进行分类。实验结果表明该方法分类识别率得到提高。     

工程优化问题中神经网络与进化算法的比较

目前工程优化问题不仅种类繁多,而且各自采用的模型与方法迥异。从方法论的高度,将现有工程优化问题分为黑箱优化与白箱优化,然后推出各自的优化模型。对于黑箱优化问题,阐述了前向神经网络在系统逼近上的优势,以及进化算法与BP算法在求解神经网络权值上的优劣;对于白箱优化问题,阐述了进化算法与反馈神经网络的优缺点和目前流行的进化算法及其通用改进策略。通过分析,可以对目前的优化问题,以及神经网络与进化算法在其中的作用,有更加全面的认识。     

新型NN训练算法及其在优化设计中的应用

提出采用GA-BP贝叶斯算法来建立优化设计近似模型。该算法是一种新型神经网络训练算法,它以提高网络的泛化性能为主旨,其训练目标是获取对应于后验分布最大值的权值向量。以方形扁平封装器件为例,采用GA-BP贝叶斯算法建立了温度场分析的近似模型,基于它对封装散热结构进行了优化,并与L-M BP算法进行了对比。结果表明,基于GA-BP贝叶斯算法的温度场分析近似模型,对芯片中心温度的预测精度更为理想,并且受随机因素的影响很小。GA-BP贝叶斯算法克服了现有网络训练算法对初始权值敏感、建模精度不高的缺点,在工程优化设计中具有实用价值。     

基于深度学习可视化的恶意软件家族分类

计算机网络技术的快速发展,导致恶意软件数量不断增加。针对恶意软件家族分类问题,提出一种基于深度学习可视化的恶意软件家族分类方法。该方法采用恶意软件操作码特征图像生成的方式,将恶意软件操作码转化为可直视的灰度图像。使用递归神经网络处理操作码序列,不仅考虑了恶意软件的原始信息,还考虑了将原始代码与时序特征相关联的能力,增强分类特征的信息密度。利用SimHash将原始编码与递归神经网络的预测编码融合,生成特征图像。基于相同族的恶意代码图像比不同族的具有更明显相似性的现象,针对传统分类模型无法解决自动提取分类特征的问题,使用卷积神经网络对特征图像进行分类。实验部分使用10?868个样本（包含9个恶意家族）对深度学习可视化进行有效性验证,分类精度达到98.8%,且能够获得有效的、信息增强的分类特征。     

改进的神经网络EPON动态带宽分配方法

动态带宽分配（DBA）是EPON的关键技术,根据数据业务流量的突发性调整了ONU授权时隙的顺序,提出了一种改进的轮询算法,构造了微粒群（PSO）优化的神经网络预测模型,提高了轮询周期内ONU新增数据的预测精度,从而保证了带宽分配公平性。仿真结果表明,该算法在优化带宽资源分配、降低平均数据时延方面均优于传统DBA算法。     

优化进化神经网络的空气质量预测研究

进化神经网络模型与问题内部机制无关,避免了神经网络收敛到局部,但模型存在参数多而过于复杂的问题。对影响基本进化神经网络模型性能的个体编码方式和适应度函数进行优化,并自适应性定义种群交叉率、变异率。以大气中主要污染物SO2为例,考虑气温、相对湿度、风速等影响因子,实验仿真结果表明优化后的进化神经网络较传统的基本进化神经网络模型进化过程收敛更快,预测效果更佳,为环境保护部门提供可靠的决策依据。     

改进的HMM和小波神经网络的抗噪语音识别

通过MFFC计算出的语音特征系数,由于语音信号的动态性,帧之间有重叠,噪声的影响,使特征系数不能完全反映出语音的信息。提出一种隐马尔可夫模型（HMM）和小波神经网络（WNN）混合模型的抗噪语音识别方法。该方法对MFCC特征系数利用小波神经网络进行训练,得到新的MFCC特征系数。实验结果表明,在噪声环境下,该混合模型比单纯HMM具有更强的噪声鲁棒性,明显改善了语音识别系统的性能。     

基于渐进式神经网络架构搜索的人体运动识别

为了解决基于传感器数据的运动识别问题，利用深度卷积神经网络（CNN）在公开的OPPORTUNITY传感器数据集上进行运动识别，提出了一种改进的渐进式神经网络架构搜索（PNAS）算法。首先，神经网络模型设计过程中不再依赖于合适拓扑结构的手动选择，而是通过PNAS算法来设计最优拓扑结构以最大化F1分数；其次，使用基于序列模型的优化（SMBO）策略，在该策略中将按照复杂度从低到高的顺序搜索结构空间，同时学习一个代理函数以引导对结构空间的搜索；最后，将搜索过程中表现最好的20个模型在OPPORTUNIT数据集上进行完全训练，并从中选出表现最好的模型作为搜索到的最优架构。通过这种方式搜索到的最优架构在OPPORTUNITY数据集上的F1分数达到了93.08%，与进化算法搜索到的最优架构及DeepConvLSTM相比分别提升了1.34%和1.73%，证明该方法能够改进以前手工设计的模型结构，且是可行有效的。