基于ART1网络的字符识别器

通过标准自适应共振理论神经网络(Adaptive Resonance Theory, ART),设计和实现了一个字符识别器,针对标准的 ART1网络存在的不足,即网络的学习不稳定,对样本输入顺序比较敏感等问题,给出了改进方法,用C语言实现了这2种字符识别器,实验结果表明这2种字符识别器能够对不同的字符进行识别,改进方法比基于标准ART1网络具有更好的稳定性。     

ART神经网络的发展与应用

作为解决神经网络学习中“稳定性/可塑性两难问题“的一种尝试,ART神经网络一直备受关注.从最初的仅仅用于处理二值输入的非监督学习网络ART1,到具有有监督学习能力的ARTMAP网络,具有一定模糊逻辑运算能力的Fuzzy ART网络,再到现在对于ART网络中的各种尝试,ART神经网络不断发展、改进,以便适应不同的应用场合.本文着重介绍了ART网络的基本体系结构与发展历程,对于其应用领域加以概述.     

ART—2A的同相位不可分问题及其解决方法

自适应共振理论（ART）是一种典型的、无监督的、能够对复杂输入模式实现自组织识别的神经网络,本文经分析发现标准ART－2A算法中存在“同相位不可分问题”,由此提出新的F1层非线性变换函数和F2层竞争学习算法,把ART－2A算法的适用范围扩展到整个实数域,然后提出了相应的线性变换处理方法把“同相位不可分问题”转化为“整个坐标平面内的相位划分问题”,从而很好地解决上述问题,增强了ART－2A算法的适用性。验证算例的结果表明,新型ART－2A算法能够对更为广泛的数据模式进行自适应识别,分类结果准确。     

基于域理论的自适应谐振神经网络分类器

提出了一种基于域理论的自适应谐振神经网络模型FTART2(field theory based adaptive resonance theory 2).该模型结合了自适应谐振理论和域理论的优点,学习速度快,归纳能力强,效率高,可以根据输入样本自适应地调整拓扑结构,克服了前馈型网络需要人为设置隐层神经元的缺点.基准测试表明,FTART2在学习精度和速度上都远远优于标准BP算法.     

使用LSA降维的改进ART2神经网络文本聚类

针对文本数据高维度的特点和聚类的动态性要求,结合隐含语义分析（LSA）降维,提出一种改进的ART2神经网络文本聚类算法,通过LSA凸显文本和词条之间的语义关系,减少无用噪声,降低数据维度和计算复杂性;采用改进的折中学习方法,减少计算步骤,加快ART2神经网络计算速度,并利用最近邻动态重组方法提高ART2网络聚类的稳定性,减弱算法对样本输入顺序的依赖。实验表明,改进的文本聚类算法能有效地实现动态文本聚类。     

引入遗忘机制的ART2改进模型

论文针对ART2网络学习与记忆的特点,在原始ART2的基础上提出具有遗忘机制的改进模型,并开发了相应的MATLAB程序。改进模型解决了原始ART2网络权值学习的随机偏移问题,有效地过滤了噪声,提高了分类结果的稳定性,降低了空间存储消耗。文章进一步运用改进模型对典型输入样本进行了分类,得到了理想的结果。     

基于ART2网络聚类分析的数据融合算法研究

人工神经网络为数据融合提供了新的理论方法和技术手段,在数据融合的各个方面具有广泛的应用前景。自适应共振理论(ART)是一种无监督神经网络,能够实现对输入的任何模拟信号的自动识别和分类。据此提出了一种以ART2网络聚类分析为核心的数据融合算法,探讨了ART2网络用于特征层数据融合实现模式识别/分类的机理,最后给出该算法在一例模式识别/分类中的应用-实现对工业控制系统中设备运行状态的实时监测和故障诊断,验证了该算法的有效性和可行性。     

基于小波与ART2网络的实时状态识别

构造出一类用递推公式进行小波变换的小波基,提出此类小波的优化方法,对其时频特性进行了分析。针对传统ART2网络只利用了模式的相位信息而丢失了幅度信息和网络的性能依赖于样本的学习顺序等不足,提出了改进型ART2网络。对刀具AE信号进行递归小波分解,提取特征并应用于改进的ART2网络识别刀具状态。实验结果表明,递归小波能反映刀具状态信号的特征,且实时性好。改进的ART2网络更具鲁棒性,识别率为100%,训练耗时仅占传统ART2网络的3.79%。     

基于幅值分量的ART2神经网络的改进

摘要： ART2神经网络由于其算法结构中固有的归一化环节,丢失了幅度信息,其相似量度是一种模式相位信息的量度,存在“同相位不可分”的缺点。文章针对此不足,将样本的幅度作为样本特征分量的办法,对传统的ART2网络进行了改进。实验证明,改进后ART2网络在处理集群分布样本时,性能优于传统ART2网络,同时,改进的ART2网络在核辐射场数据处理分类中有一定的实用价值     

ART2网络结构与算法的改进

ART2网络中的模式匹配过程,以及相似度警戒测试过程均以模式的相似性量度值为基础。传统ART2网络的相似量度是一种关于模式相位信息的量度,在需要考虑模式幅度信息及处理集群分布样本时,效果很不理想。文章针对此不足,提出以欧氏距离为相似测度的新型网络:MART2。输入模式的幅度信息被提取出来,并送到相应的中间模式和警戒测试部分。新网络中引入三个辅助函数共同计算输入模式与存贮模式的相似度,使得在进行模式匹配和警戒测试时,幅度信息没有丢失。实验证明,MART2在处理集群分布样本时,性能优于传统ART2。MART2是对ART2网络的一种补充。     

基于混合表示的中文事件检测方法研究

传统中文事件检测方法采用人工定义的特征表示候选触发词,耗时耗力。基于神经网络的特征学习方法在中英文事件检测任务中得到了验证。现有的基于神经网络的中文事件检测方法初步探索了字信息对解决分词错误的作用。字是中文的最小结构单元和语义表示单元。词语的字符级信息能够提供词语的结构性信息和辅助词语级语义。该文研究了字/词混合神经网络特征对于解决中文事件数据集未登录词问题的作用。采用神经网络模型分别学习词语的词语级表示和字符级表示,进而拼接得到词语的混合表示。实验结果表明,基于字/词混合表示的中文神经网络事件检测模型的F₁值比当前最好的模型高2.5%。     

Feature recognition using ART2: a self-organizing neural network

A self-organizing neural network, ART2, based on adaptive resonance theory (ART), is applied to the problem of feature recognition from a boundary representation (B-rep) solid model. A modified face score vector calculation scheme is adopted to represent the features by continuous-valued vectors, suitable to be input to the network. The face score is a measure of the face complexity based upon the convexity or concavity of the surrounding region. The face score vector depicts the topological relations between a face and its neighbouring faces. The ART2 network clusters similar features together. The similarity of the features within a cluster is controlled by a vigilance parameter. A new feature presented to the net is associated with one of the existing clusters, if the feature is similar to the members of the cluster. Otherwise, the net creates a new cluster. An algorithm of the ART2 network is implemented and tested with nine different features. The results obtained indicate that the network has significant potential for application to the problem of feature recognition.     

具有更严格警戒测试准则的ART2神经网络

在ART2神经网络的标准警戒测试准则中,通过引入截断双曲线函数来计算输入矢量与神经网络由顶向下权重矢量之间的相似程度,而提出了一种新的具有更严格警戒测试准则的ART2神经网络。截断双曲线函数一方面抑制输入样本中的噪声,另一方面,如果输入矢量某些分量与由顶向下权重矢量对应分量之间存在冲击变化时,则截断双曲线函数将放大这些对应分量之间的冲击变化。而且这种新的警戒测试准则具有更强的抗噪声能力。即在较低的输入信噪比水平上,具有更严格警戒测试准则的ART2神经网络比标准ART2神经网络具有更高的正确识别率。     

基于ART 的RBF 网络结构设计

针对径向基函数(RBF)网络隐层结构难以确定的问题,基于自适应共振理论(ART)网络良好的在线分类特性,提出一种RBF网络结构设计算法。该算法将ART网络的聚类特性用于RBF网络结构设计中,通过对输入向量与已存模式的相似度比较将输入向量进行分类,确定隐含层节点个数和初始参数,使网络具有精简的结构。对典型非线性函数逼近的仿真结果表明,所提出的结构具有快速的学习能力和良好的逼近能力。     

慢速权值更新的ART2神经网络研究

ART2是基于自适应谐振理论的一种自组织神经网络,通过竞争学习和自稳机制原理实现分类,可以在非平稳的、有干扰的环境中进行无监督的自学习,其学习过程能迅速识别已学习过的样本,并能迅速适应未学习过的新对象。提出了一种基于慢速权值更新的ART2神经网络算法,该算法在对输入模式进行识别分类时,会减慢学习速率,降低模式漂移的速度。新的网络学习规则在分类实验中取得了较好的效果,并在一定程度上解决了模式漂移问题。     

一种融合注意力机制的自适应实体识别方法

为了解决命名实体识别任务在面向新兴应用领域时,需要面对烦琐的模型重构过程和语料严重不足的问题,该文提出了一种基于注意力机制的领域自适应命名实体识别方法。首先,在通用领域数据集上构建了基于BERT(bidirectional encoder representations from transformers)预训练语言模型的双向长短时记忆条件随机场(BERT-BiLSTM-CRF)命名实体识别模型;接着,在古代汉语语料集上对原有模型进行微调的同时插入了基于注意力机制的自适应神经网络层;最后,在目标域内应用迁移学习方法训练模型进行对比实验。实验结果表明,自适应迁移学习方法减少了对目标域语料的依赖。该文提出的基于注意力机制的自适应神经网络模型相比通用域BERT-BiLSTM-CRF模型的命名实体识别结果F₁值提高了4.31%,相比古代汉语域BERT-BiLSTM-CRF模型的命名实体识别结果F₁值提高了2.46%,实验表明,该文方法能够提升源域模型迁移学习的效果,并完成跨领域命名实体识别模型的构建。     

A RT 2神经网络的一种改进

传统A RT 2神经网络在聚类过程中模式的匹配度量仅仅与模式的相位信息相关,这种匹配度量忽略了模式的幅度信息的作用,在对相位信息相同而幅度信息不同的两个簇进行聚类时,效果很差;同时,它还存在输入域限制的问题。针对这些不足之处,提出了一种改进的A RT 2神经网络,在输入模式进入网络学习过程中,保存其幅值信息,放宽对负实数的非线性转换,并考虑输入模式到各个簇的中心点的最短距离,同时增加一个阈值对离群点进行判定,消除了离群点对聚类结果的影响。实验验证,改进的A RT 2网络在对相同相位的两个簇聚类时,性能明显优于传统的A RT 2网络。     

Observations and problems applying ART2 for dynamic sensor patterninterpretation

This paper discusses characteristics of the ART2 (adaptive resonance theory) information processing model which emerge when applied to the problem of interpreting dynamic sensor data. Fast learn ART2 is employed in a supervised learning framework to classify process “fingerprints” generated from multi-sensor trend patterns. Interest in ART2 was motivated by the ability to provide closed classification regions, uniform hyperspherical clusters, feature extraction, and on-line adaption. Sensor data interpretation is briefly discussed with an emphasis on the unique attributes of the problem and the interaction with ART2 information processing principles. Pattern representations, e.g., time domain, which encode information in both magnitude and direction of the input vector are shown to be fundamentally incompatible with ART2. Complement coding is shown to solve this problem when the feature extraction capability of the ART2 network is disabled. Complement coding is also shown to preserve the clustering characteristics of the process “fingerprints” which are otherwise lost using the ART2 directional similarity measure. These issues are illustrated using an ART2-based monitoring system for a dynamically simulated chemical process     

The ART of adaptive pattern recognition by a self-organizing neuralnetwork

The adaptive resonance theory (ART) suggests a solution to the stability-plasticity dilemma facing designers of learning systems, namely how to design a learning system that will remain plastic, or adaptive, in response to significant events and yet remain stable in response to irrelevant events. ART architectures are discussed that are neural networks that self-organize stable recognition codes in real time in response to arbitrary sequences of input patterns. Within such an ART architecture, the process of adaptive pattern recognition is a special case of the more general cognitive process of hypothesis discovery, testing, search, classification, and learning. This property opens up the possibility of applying ART systems to more general problems of adaptively processing large abstract information sources and databases. The main computational properties of these ART architectures are outlined and contrasted with those of alternative learning and recognition systems     

基于单句表示的篇章事件可信度识别方法

事件可信度表示文本中事件的真实状况,描述了事件是否是一个事实,或是一种可能还是不可能的情形,是自然语言处理中一个重要的语义任务。目前,大多数关于事件可信度分析的方法都集中在句子级,很少涉及篇章级。该文基于卷积神经网络,结合篇章中的句子级特征(包括句子的语义、语法以及线索词特征表示),使用对抗训练来识别篇章可信度。在中英文数据集上的结果显示,该文方法与最新的实验结果相比,微平均F₁值分别提高了3.51%和6.02%,宏平均F₁值分别提升了4.63%和9.97%。同时,该方法在训练速度上也提高了4倍。