利用遗传算法改进SOM网络初始权值的乐器分类

针对SOM网络在分类中由于其初始权值的随机性而导致的训练次数过多且易陷入局部最小的问题,提出了利用遗传算法改进网络初始权值的乐器分类。仿真实验提取10种乐器的12阶MFCC系数,之后使用遗传算法计算出每种乐器各阶系数的适应度值,并以此作为网络的初始权值,之后使用已赋初值的SOM网络分类。仿真实验结果表明:利用遗传算法改进SOM网络初始权值的乐器分类方法的分类正确率最高可达到83.51%。     

基于遗传算法和自组织特征映射网络的文本聚类方法

自组织映射(SOM)算法作为一种聚类和高维可视化的无监督学习算法,为进行中文Web文档聚类提供了有力的手段。但是SOM算法天然存在着对网络初始权值敏感的缺陷,从而影响聚类质量。为此,引进遗传算法对SOM网络加以优化。提出了以遗传算法优化SOM网络的文本聚类算法（GSTCA）;进行了对比实验,实验表明,改进后的算法GSTCA比SOM算法在Web中文文档聚类中具有更高的准确率,其F-measure值平均提高了14%,同时,实验还表明,GSTCA算法对网络初始权值是不敏感的,从而提高了算法的稳定性。     

自组织特征映射神经网络的改进及应用研究

为了提高自组织特征映射(SOM)神经网络学习速度及分类精度,对初始连接权值及竞争层神经元数的确定方法进行改进。提出用聚类方法确定初始权值的新方法,还提出了采用聚类数与邻域之和确定竞争层神经元数的方法,并给出了改进后的SOM分类算法。将改进的SOM网络用于储粮害虫分类,采用留一方法进行分类验证实验。仿真结果表明,改进后的SOM网络在学习速度和分类精度方面都有明显提高,证明了该方法的有效性。     

神经网络在网络入侵检测中的应用研究

研究网络安全问题,针对网络受到非法用户入侵,破坏系统的正常工作,传统网络初始权值凭经验确定,易出现初始权值确定不当,导致网络入侵检测准确率低的难题.为了提高网络入侵检测的准确率,提出一种遗传神经网络的网络入侵检测方法.方法把神经网络和遗传算法结合起来,把网络初始权值作为遗传算法的一个种群,把网络检测准确率作为遗传算法的目标函数,通过遗传算法种群的"优胜劣汰"机制搜索到神经网络算法的全局最优初始权值,采用最优权值对网络入侵数据进行检测,得到最优网络入侵检测结果.结果证明,方法学习速度快、检测准确率高、漏报率与误报率低,克服传统网络检测方法不准确的缺陷.     

SOM网络的改进及其在储粮害虫分类中的应用

自组织特征映射神经网络(SOM网络)在分类方面存在的不足是训练时间长、分类精度不高以及学习过程容易发生振荡。为了改善SOM网络的分类性能,达到提高和分类精度的目的,提出了SOM网络的工作原理及算法,得出影响SOM网络分类性能的主要因素,包括学习率、初始权值、训练次数及邻域设置等,并分别提出了改进方法。利用改进后的SOM网络,通过3折分层交叉验证方法对储粮害虫数据进行分类验证,仿真实验结果表明,改进后的SOM分类器在学习速度和分类精度方面都得到了较大提高,证明提出的改进方法是有效的和可行的。     

基于蚁群算法优化回声状态网络的研究

针对输出权值采用最小二乘法的回声状态网络(ESN),在随机选取输入权值和隐层神经元阈值时,存在收敛速度慢、预测精度不稳定等问题,提出了基于蚁群算法优化回声状态网络(ACO-ESN)的算法。该算法将优化回声状态网络的初始输入权值、隐层神经元阈值问题转化为蚁群算法中蚂蚁寻找最佳路径的问题,输出权值采用最小二乘法计算,通过蚁群算法的更新、变异、遗传等操作训练回声状态网络,选择出使回声状态网络预测误差最小的输入权值和阈值,从而提高其预测性能。将ACO-ESN与ELM、I-ELM、OS-ELM、B-ELM等神经网络的仿真结果进行对比,结果验证经过蚁群算法优化的回声状态网络加快了其收敛速度,改善了其预测性能,并增强了隐层神经元的敏感度。     

自学习神经网络权值初始化的贝叶斯方法

为了提高神经网络学习速度,以神经网络能实现基本控制功能为给定条件,在此给定条件下利用贝叶斯方法计算各种权值组合的后验概率,根据后验概率初始化网络权值而获得具有基本控制功能的初始神经网络,能够减小学习过程中权值修改的幅度,加快学习速度。通过交流电机矢量控制系统中速度环控制器自设计仿真实验,使用此方法初始化权值的网络自学习速度较随机取值法明显提高,验证了本方法的快速性和有效性。     

基于遗传算法和BP网络的物体识别方法

目前常用的物体识别方法,其过程非常复杂,信息量和计算量都很大.结合遗传算法的神经网络方法,充分利用GA的全局搜索能力、BP算法的局部搜索能力和鲁棒性强的特性,提出了一种用遗传算法全局优化神经网络拓扑结构和网络权值的新编码方案进行物体识别方法.仿真结果表明,该方法既解决了BP神经网络对初始权值敏感和容易局部收敛的问题,又加快GA.BP网络的收敛速度,提高收敛精度且识别率较高,从而验证了该方法的有效性.     

一种回声状态网络的权值初始化方法

为了避免奇异解,提高网络性能,给出一种回声状态网络的权值初始化方法(WIESN).利用柯西不等式和线性代数确定优化的初始权值的范围与输入维数、储备池维数、输入变量和储备池状态相关,从而确保神经元的输出位于sigmoid函数的激活区域.实验结果表明,权值初始化方法的精度和训练时间要优于随机初始化方法,且相比于训练时间,权值初始化的时间是可以忽略不计的.     

基于样本检测的SOM网络模型与应用

自组织映射算法是一种无导师学习方法,具有良好的自组织、可视化等特性,现已广泛应用于各个领域.其最重要的特点就是能够自动寻找样本中的内在规律和属性,从而自适应的改变网络的参数.在实际应用中,网络的识别率会受样本影响,为此提出了一种基于SOM网络的新型网络结构:带样本检测的SOM网络,使其可以实现样本的检测,优化样本输入,从而提高网络的识别率.     

双获胜节点SOM及其在TSP中的应用

在Kohonen提出的SOM(self-organization map)神经网络的基础上,通过拓广SOM网络的获胜节点数量,引入惩罚修正因子,改进邻域和连接权函数等方法提出一种新的SOM即SOMDW(SOM with double-winner)模型.为了验证该模型的有效性,以旅行商问题(traveling salesman problem,TSP)为例对该模型进行检验,得到了满意的结果.另外为了增强SOMDW网络的动态聚类性能,提高解的精确性,还采用禁忌搜索的搜索方法.     

基于SOM的无线通信话务量最优加权组合预测

针对单个预测模型难以准确刻画无线通信话务量的演变规律,并考虑数据自身的多样性,提出了基于自组织映射（Self-Organizing Maps,SOM）神经网络的无线通信话务量最优加权组合预测方法。该方法利用SOM神经网络对话务量数据进行自动聚类,并对聚类后的每类数据,分别确定相应最优加权组合预测的权重,进而获得相应的预测值。实验结果表明,所提出方法不仅能提高话务量预测的精度,还能增强预测系统的稳定性。     

On robustness of radial basis function network with input perturbation

In this article, we have proposed a methodology for making a radial basis function network (RBFN) robust with respect to additive and multiplicative input noises. This is achieved by properly selecting the centers and widths for the radial basis function (RBF) units of the hidden layer. For this purpose, firstly, a set of self-organizing map (SOM) networks are trained for center selection. For training a SOM network, random Gaussian noise is injected in the samples of each class of the data set. The number of SOM networks is same as the number of classes present in the data set, and each of the SOM networks is trained separately by the samples belonging to a particular class. The weight vector associated with a unit in the output layer of a particular SOM network corresponding to a class is used as the center of a RBF unit for that class. To determine the widths of the RBF units, p-nearest neighbor algorithm is used class-wise. Proper selection of centers and widths makes the RBFN robust with respect to input perturbation and outliers present in the data set. The weights between the hidden and output layers of RBFN are obtained by pseudo inverse method. To test the robustness of the proposed method in additive and multiplicative noise scenarios, ten standard data sets have been used for classification. Proposed method has been compared with three existing methods, where the centers have been generated in three ways: randomly, using k-means algorithm, and based on SOM network. Simulation results show the superiority of the proposed method compared to those methods. Wilcoxon signed-rank test also shows that the proposed method is statistically better than those methods.

     

Evaluation of vibration in many positions by SOM

We propose a method of evaluating the vibration of motor-operated electric tools (MOETs) by using a self-organizing feature map (SOM). The vibration spectrum is used to evaluate the MOET vibration. These vibration spectra are derived from 18 vibration data obtained by measurements on three different positions of a MOET. The spectra are then sent to the SOM network for the calculations. The vibration spectra are classified by the SOM, and calculations give the Euclidean distance from the weight vector in order to develop a quantitative evaluation. A statistic analysis of the Euclidean distance allows a quantitative evaluation of a MOET with respect to vibration stress and other relevant parameters.This work was presented, in part, at the 9th International Symposium on Artificial Life and Robotics, Oita, Japan, January 28–30, 2004     

多获胜节点SOM及其在股票分析中的应用

为了增强自组织映射(self-organizing map,SOM)网络的动态竞争和聚类能力,提高解的精度,在无监督的SOM神经网络的基础上,通过拓广获胜节点的数量,改进网络中的邻域函数和连接权函数等方法,提出具有多获胜节点的SOM模型.为了避免多个输入样本映射到同一个输出节点,还提出了禁忌映射的方法.为了验证所提出的方法的有效性,以股票的聚类分析为实例,对该方法进行了检验.通过对每股收益、每股净资产、净资产收益率、每股经营性现金流量及净利润等5项反映上市公司综合盈利能力的财务指标进行了模拟实验,所得的数值结果表明,在标准SOM及所提出的几种多获胜节点SOM网络模型中,具有双获胜节点(SOM with 2 winners,SOM2W)的网络模型获得了最好的聚类效果.结合实验结果对网络模型的进一步分析也表明,SOM2W的聚类能力优于标准SOM及其他网络模型.该模型为股票的分析和选择提供了一种可行的途径,在金融领域具有潜在的应用价值.     

A combined measure for quantifying and qualifying the topology preservation of growing self-organizing maps

The Self-Organizing Map (SOM) is a neural network model that performs an ordered projection of a high dimensional input space in a low-dimensional topological structure. The process in which such mapping is formed is defined by the SOM algorithm, which is a competitive, unsupervised and nonparametric method, since it does not make any assumption about the input data distribution. The feature maps provided by this algorithm have been successfully applied for vector quantization, clustering and high dimensional data visualization processes. However, the initialization of the network topology and the selection of the SOM training parameters are two difficult tasks caused by the unknown distribution of the input signals. A misconfiguration of these parameters can generate a feature map of low-quality, so it is necessary to have some measure of the degree of adaptation of the SOM network to the input data model. The topology preservation is the most common concept used to implement this measure. Several qualitative and quantitative methods have been proposed for measuring the degree of SOM topology preservation, particularly using Kohonen's model. In this work, two methods for measuring the topology preservation of the Growing Cell Structures (GCSs) model are proposed: the topographic function and the topology preserving map.