基于诱导向量的CC4神经网络行为研究

角分类前向神经网络CC4可以快速对文本数据进行分类处理.本文在定义二值向量的诱导向量的基础上,给出CC4神经网络隐层、输出层的权矩阵构造方法的诱导向量分析,并给出CC4神经网络隐层输出的基本原理、基于泛化距离的隐层权矩阵构造方法的几何解释,以及输出层权矩阵构造的约束条件;揭示了角分类神经网络学习、工作的基本原理.本文为基于实向量输入的快速角分类神经网络的设计提供了借鉴及必要的理论基础.     

淋巴结转移检测的八度卷积方法

针对乳腺癌淋巴结转移的人工检测精度低、耗时长的问题,提出了一种基于残差网络结构,使用八度卷积（Octave Convolution）方法设计卷积层的一种神经网络检测模型。以残差网络中卷积层为基础,首先对卷积层中输入和输出的特征向量进行高低分频,并缩减低频通道的宽和高为高频的一半。然后通过对减半后的低频向量进行上采样,实现与高频向量之间的卷积操作;通过对高频向量的平均池化,实现与减半低频向量的卷积操作。最后将高频向量之间、高频与低频向量之间的卷积相加,得到高频输出;将低频向量之间、低频与高频向量之间的卷积相加,得到低频输出。这样就构建出了Octave卷积层,将残差网络中所有卷积层完全替换为Octave卷积层就搭建出了检测模型。理论上,Octave卷积层中卷积的运算量减少了75%,有效加速了模型的训练。在最大内存为13 GB,可用磁盘大小为4.9 GB的云端服务器上,用PCam数据集进行测试,得到模型的识别精度为95.06%,内存占用8.7 GB,磁盘占用356.4 MB,平均单次训练用时4 min 42 s。与ResNet50相比,所提模型的精度下降了0.69%,内存节省0.6 GB,磁盘节约105.9 MB,单次训练用时缩短了1 min。实验结果表明,所提模型具有较高的识别精度,较短的训练用时和较少的内存消耗,使得模型在大数据的背景下,降低了对算力资源的要求,具有一定的实际应用价值。     

全局优化径向基函数网络方法的设计及应用

针对径向基神经网络（RBFNN）中隐层单元中心及输出层权值向量难以有效确定的问题,论文提出了一种基于进化思想的解决方案.以进化算法中的模式定理为理论依据,运用分治策略思想,将隐层中心的最优化过程和输出层权值向量的最优化过程并行处理,提高了算法效率.最后将设计的整体进化径向基神经网络应用于数据的分类,以UCI数据库中的iris和wheat数据集为测试物料,采用该文提出的进化方案得到最优中心和权值向量,测试表明相对于RBFNN运用聚类办法确定中心和最小二乘确定权值的方法以及支持向量机其检出率能提高20％.     

基于证据理论的多类分类支持向量机集成

针对多类分类问题,研究支持向量机集成中的分类器组合架构与方法.分析已有的多类级和两类级支持向量机集成架构的不足后,提出两层的集成架构.在此基础上,研究基于证据理论的支持向量机度量层输出信息融合方法,针对一对多与一对一两种多类扩展策略,分别定义基本概率分配函数,并根据证据冲突程度采用不同的证据组合规则.在一对多策略下,采用经典的Dempster规则;在一对一策略下则提出一条新的规则,以组合冲突严重的证据.实验表明,两层架构优于多类级架构,证据理论方法能有效地利用两类支持向量机的度量层输出信息,取得了满意的结果.     

过程神经元网络在网页自动分类中的应用研究

针对信息挖掘中的网页自动分类问题,提出了一种基于向量空间模型和过程神经元网络的分类方法。网络由输入层、隐层和输出层组成。输入层完成分类样本的输入,隐层提取输入样本所隐含的模式特征,将分类结果在输出层表现出来。以因特网上旅游网页分类为例验证了该方法的有效性。     

FGA优化RBF网络的机器人逆运动学求解研究

针对如何提高六自由度机器人逆运动学的求解精度问题,采用FGA对RBF神经网络的节点中心向量、基宽向量以及网络隐含层到输出层的权向量进行优化,并将其应用于六自由度机器人的逆运动学求解。以机器人工作空间的位姿矩阵作为预测网络的输入变量,以关节空间中的关节角度作为输出变量,构建机器人逆解RBF预测网络,然后选取样本对网络进行训练。最后对网络进行测试,仿真结果显示,优化后的网络预测精度高,泛化能力强。     

降维网络及其在混凝土配合比优化设计中的应用

提出在BP网络的输入层与隐层或径基函数网络的输入层与隐层之间增加一个只有2个结点的线性函数层（Z层）,以构成基于BP网和基于径基函数网的降维映射网络,这两种网络均将多维输出Y（可为一维）与多维输入X之间的非线性映射关系转变成与二 维向量Z之间的非线性映射关系,网络学习后,就可以在由Z构成的二维映射平面上描绘出输出向量的等值线,通过这些等值线可全景式地,准确可靠地出样本数据集的最估操作区域,实现混凝土配合比优化设计。     

基于CVRL的移动机器人导航控制

针对移动机器人的导航问题,本文提出一种具有连续向量输出的再励学习算法（Rei nforcement Learning with Continuous Vector output: CVRL）．CVRL具有层次结构,低 层是单元动作网络层,通过组合动作产生连续向量输出;高层是建立在组合单元动作空间上 的Q学习单元,实现组合动作的选择．文中给出了CVRL导航控制器的具体实现,并通过仿真 实验验证了其有效性．     

情境特征及其在情感分类模型中的应用

研究情境特征在文本分类中的作用,提出了一种层级双向LSTM模型用于情感分类问题。该模型首先将句子分词,把词向量作为第一层双向LSTM模型的输入;其次从文档中提取出稠密、连续的向量作为情境特征;然后将第一层模型的输出向量和情境向量共同输入第二层双向LSTM;最后将这种层级双向的LSTM模型的输出向量通过sigmoid函数进行分类。情境向量作用于每个句子,一致的情感得到增强,不一致的情感被弱化,从而提高了分类的精度。在两个公开数据集上的实验表明,整合了情境特征的层级双向LSTM取得较优的精度。除此之外,通过在一个包含两万余条中文评论的公开数据集上对模型进行测试,表明该模型测试正确率相比于普通的LSTM和双向LSTM都有提升,说明情境特征对于提升情感分类的作用比较显著。     

一种结构自适应的径向基函数神经网络

提出了一种新的结构自适应的径向基函数(RBF)神经网络模型。在该模型中,自组织映射(SOM)神经网络作为聚类网络,采用无监督学习算法对输入样本进行自组织分类,并将分类中心及其对应的权值向量传递给RBF神经网络,分别作为径向基函数的中心和相应的权值向量;RBF神经网络作为基础网络,采用高斯函数实现输入层到隐层的非线性映射,输出层则采用有监督学习算法训练网络的权值,从而实现输入层到输出层的非线性映射。通过对字母数据集进行仿真,表明该网络具有较好的性能。     

人工神经网络模型发展及应用综述

人工神经网络与其他学科领域联系日益紧密,人们通过对人工神经网络层结构的探索和改进来解决各个领域的问题。根据人工神经网络相关文献进行分析,综述了人工神经网络算法以及网络模型结构的发展史,根据神经网络的发展介绍了人工神经网络相关概念,其中主要涉及到多层感知器、反向传播神经网络、卷积神经网络以及递归神经网络,描述了卷积神经网络发展当中出现的部分卷积神经网络模型和递归神经网络中常用的相关网络结构,分别综述了各个人工神经网络算法在相关领域的应用情况,总结了人工神经网络的未来发展方向。     

基于自适应并联结构神经网络的交通流量预测

由于现有优化算法在全局优化方面的局限性,导致神经网络需要多次训练才能获得满意的结果。为了解决神经网络训练中的一致性问题,文章提出了一种自适应并联结构神经网络（Adaptive Parallel Structure Neural Network, APSNN）。APSNN由多个神经网络单元并联组成,在训练过程中,采用常规优化算法对各神经网络单元进行训练。神经网络单元的训练样本由上一级神经网络单元的训练残差构成,通过训练残差在各神经网络单元中的单向传递,实现训练残差的逐级减少。神经网络根据训练残差,决定是否进行神经网络单元级联和结构扩张,从而保证训练结果的一致性。文章对5种非线性函数进行了神经网络逼近测试。与BP神经网络相比较,APSNN在50次不同初始条件下,训练精度十分稳定,具有很好的一致性。为了实现对交通流量预测,文章将APSNN与BP神经网络和小波神经网络进行了对比研究,结果表明：APSNN的预测总体标准差均小于BP神经网络和小波神经网络,交通流量的预测偏差较BP神经网络和小波神经网络分别降低2.7%和9.7%。     

深度神经网络修复策略综述

随着智能信息时代的发展,深度神经网络在人类社会众多领域中的应用,尤其是在自动驾驶、军事国防等安全攸关系统中的部署,引起了学术界和工业界对神经网络模型可能表现出的错误行为的担忧.虽然神经网络验证和神经网络测试可以提供关于错误行为的定性或者定量结论,但这种事后分析并不能防止错误行为的发生,如何修复表现出错误行为的预训练神经网络模型依然是极具挑战性的问题.为此,深度神经网络修复这一领域应运而生,旨在消除有缺陷的神经网络产生的错误预测,使得神经网络满足特定的规约性质.目前为止,典型的神经网络修复范式有3种:重训练、无错误定位的微调和包含错误定位的微调.介绍深度神经网络的发展和神经网络修复的必要性;厘清相近概念;明确神经网络修复的挑战;详尽地调研目前已有的神经网络修复策略,并对内在联系与区别进行分析和比较;调研整理神经网络修复策略常用的评价指标和基准测试;展望未来神经网络修复领域研究中需要重点关注的可行方向.     

基于一维卷积神经网络深度学习的工业过程故障检测

针对化工过程的非线性和动态性,以TE过程为背景,应用深度学习中的一维卷积神经网络算法对TE过程进行故障检测,解决了BP神经网络算法用于故障检测时测试识别率低的问题。用训练数据集分别对BP神经网络模型和一维卷积神经网络模型进行训练,将测试数据集输入已经训练好的神经网络,最后统计出了BP神经网络模型和卷积神经网络模型对故障的识别率。仿真结果表明BP神经网络和卷积神经网络对故障的检测具有较好的效果,但BP神经网络算法收敛速度慢,很容易就陷入局部最小值,从而会导致整体的检测性能下降,而卷积神经网络构建出的一维卷积模型能很好地解决存在的问题,通过比较充分体现了卷积神经网络在故障检测方面的优越性。     

一种新兴的数据挖掘方法:神经规则法

该文详细阐述了一种新兴的数据挖掘方法——神经规则法。文中先后介绍了神经网络的训练、神经网络的剪枝以及神经规则的提取。最后用一个实例具体解释了使用该方法来挖掘分类规则的过程。     

基于神经网络的PID自整定控制系统

文章介绍了一种应用神经网络技术建立的PID自整定控制系统,给出了系统结构,详细分析了BP神经网络和RBF神经网络的结构和学习算法。该系统采用3层BP神经网络,其输出为PID控制器的参数;通过变结构的RBF神经网络辨识控制对象,将得到的输出对输入的梯度信息提供给BP神经网络,BP神经网络根据该信息优化PID控制器参数。仿真结果表明,该系统对于参数扰动较大的非线性系统,其收敛速度快、动态响应能力强、稳定性好,且具有较强的鲁棒性和适应性。     

柔性电子神经网络计算机结构和原理

本文以开发系统的观点描述了一种新的神经网络计算机体系结构，它以其可开发性和灵活性区别于其他各种神经网络计算机，应用于人工神经网络的研究过程。基于柔性神经网络计算机体系设计，文中提出了一种神经网络分解撕裂算法，为ＶＬＳＩ神经芯片的设计提供了一条新途径。在功能应用上，柔性电子神经网络计算机打破了其他神经网络计算机功能的针对性，为神经网络的研究，开发和应用提供较全面的支持。     

基于混沌变量的前向神经网络结构优化设计

提出一种关于多层前向神经网络结构的混沌优化设计方法。将混沌变量引入神经网络结构的优化搜索中，使得神经网络的隐层节点数以及所有权参数都处于混沌状态中，整个网络结构呈现为动态变化。从动态的神经网络结构中，根据性能指标来寻找一个全局最优或近似于全局最优的网络结构。仿真实验表明，采用该方案得到的神经网络结构模型对异或问题、非线性函数具有较高的逼近精度和较好的泛化能力。     

图神经网络推荐方法研究

图神经网络因其特性在许多应用领域展露锋芒,将图神经网络与推荐相结合成为研究热点之一。在推荐中使用图神经网络方法,能够在复杂环境中显著提高推荐的水平。对图神经网络的方法、个性化推荐和群组推荐分别进行总结介绍;对基于图神经网络的推荐方法进行概述,重点对图神经网络及其近年来在推荐领域的研究成果进行归纳总结;分析了推荐研究现状和阻碍其进一步发展的困难,并根据图神经网络的优势对图神经网络与群组推荐结合进行了可行性分析及展望。     

Neural Networks Approach to User Modeling and Intelligent Interface: A Review and Reappraisal

This article provides background and an overview of the neural networks approach to user modeling and intelligent interface. Activities in user modeling and intelligent interface are discussed. Intelligent architectures of various neural network models are introduced to illustrate how neural networks solve problems and learn knowledge of problem solving. The introduction of neural networks helps in associating intelligent capabilities of neural networks, with the activities in user modeling and intelligent interface. The practical utility of neural networks in supporting user modeling and intelligent interfere is demonstrated by reviewing neural networks developed in this area. issues relating to the design of neural networks in various contexts of user modeling and intelligent interface are also addressed.