采用神经网络解决多字体字符混淆问题

相似字符的存在是造成多字体字符识别系统出错的一个重要因素。而在传统字符识别系统中，纳入一套前馈神经网络和一个规则行使程序，就可以帮助解决相似字符的混淆问题。与先前的各种方法相比，这种方法有自动选择特征和抽取特征的优点，实验证实，这种方法具有较强的抗噪声能力。它使用一种“雪球”训练算法和“平滑”技术，这两种技术都是对反向传播训练算法的一种修正。“雪球”训练乍法使训练数据有更好的序列，以解决训练收敛问     

感知器在语言模型训练中的应用

感知器（perceptron）是神经网络模型中的一种，它可以通过监督学习（supervised learning）的方法建立模式识别的能力．将感知器应用到语言模型的训练中，实现了感知器的两种不同训练规则以及多种特征权值计算方法，讨论了不同的训练参数对训练效果的影响．在训练之前，使用了一种基于经验风险最小化（empirical risk minimization，ERM）的特征选择算法确定特征集合．感知器训练之后的语言模型在日文假名到汉字（kana-kanji）的转换中进行评估．通过实验对比了感知器的两种训练规则以及变形算法的性能，同时发现通过感知器训练的模型比传统模型（N-gram）在性能上有了很大的提高，使相对错误率下降了15％～20％．     

基于遗传算法的人工神经网络

为克服和改进传统的BP算法的不足，发挥神经网络和遗传算法各自的优势，提出了一种基于遗传算法的神经网络二次训练方法，将遗传算法应用于神经网络的权值训练中，并用神经网络二次训练得到最终结果，降低了计算时间，是一种比较有效的方法。     

自然语言训练的机器人基本行为控制器

本文探索了一种直接利用自然语言进行机器人运动技能训练的控制方法， 提出了利用模糊神经网络结构作为基本行为控制单元，通过教师的自然语言指令完成针对某 一特定行为的运动经验获取和控制器训练，这是一种更加自然的控制器构造方式，以基本运 动单元为基础，可以进一步实现机器人复杂任务的语言编程与控制．所提控制方法最终在一 个轮式移动机器人系统上进行了语言训练实验．     

基于支持向量数据描述的异常检测方法

提出了一种基于支持向量数据描述算法的异常检测方法。该方法将入侵检测看作是一种单值分类问题，建立正常行为的支持向量描述模型，通过该模型可以检测各种已知和未知的攻击行为。该方法是一种无监督的异常检测方法，能够在包含噪声的数据集进行模型训练，降低了训练集的要求。在KDD CUP99标准入侵检测数据集上进行实验，并与无监督聚类异常检测实验结果相比较，证实该方法能够获得较高检测率和较低误警率。     

BP网络改进算法及其在故障诊断中的应用

针对基本BP算法在接近最优点时收敛速度变慢的缺点，提出一种BP网络的快速训练算法。将网络训练过程分为两个阶段，首先采用BP算法使其接近最优点，再改用共轭梯度法以加快收敛速度。仿真结果表明该算法是一种快速的方法。并将其应用于故障诊断中，结果表明了该方法的可行性。     

CMAC学习性能及泛化性能研究综述

小脑模型清晰度控制器(CMAC)是一种局部学习前馈网络，结构简单，收敛速度快，易于实现。从其每个神经元来看，各神经元之间是一种线性关系，但从总体结构来看，网络是一种非线性映射关系。而且模型从输入开始就存在一种泛化能力。网络的学习和泛化能力一直是研究热点，因此，该文将对CMAC网络的泛化能力、学习能力以及一些改善途径进行多方面的综合性的讨论。文章最后还将给出一种改善CMAC泛化能力的训练策略，它不仅避免了学习干扰问题加快了学习速度而且可以通过提高训练循环次数增加训练样本量。通过MATLAB仿真发现这种训练策略可以改善CMAC网络的泛化能力。该方法简单有效是可行的。     

基于神经网络集成的入侵检测研究

提出一种新的基于神经网络集成的入侵检测方法。首先通过有区别地对待不同的训练数据训练神经网络，提高对小类别入侵的检测能力并防止网络训练中的退化现象；然后利用一种新的改进遗传算法优化集成网络的权，提高系统整体性能。理论和实验表明该方法具有较好的检测能力。     

用专家乘积系统实现手写体数字识别

手写体数字识别网络的训练过程需耗费大量时间，训练时间的优化有着重要的意义。利用专家乘积系统是一种理想的解决方法。在专家乘积系统训练过程中，每个数字都将建立一个独立的专家模型，并分别使用各自的样本进行训练。待获得所有模型的概率分布特征后，再送人一个分类器网络进行混合训练。由于各数字模型是独立的，因此利用并行训练可大大减少系统的训练时间。专家乘积系统的识别效果非常理想，反映出专家乘积系统是一个高效的模型。     

面向维修训练的故障建模、仿真与评估

面向维修训练领域，通过研究系统故障产生机理，运用面向对象方法建立一种基于故障传播有向图的系统故障模型，从工程应用角度阐述了其构建规则。基于该模型实现了维修训练仿真系统，介绍了有向图仿真运行类结构和维修对象测量数据的生成。在此基础上，文章提出一种基于标准故障诊断路径的评估方法，根据测量点与标准路径的相关性实现了维修训练评估。     

一种改进的支持向量机学习算法

分析支持向量机的几种常用的训练方法,在这个基础上提出一种改进的支持向量机学习方法。该方法将违反KKT条件程度最厉害的样本提取出来,然后缓存这些样本,作为工作集的选择范围,而且根据训练时缓存的特点,在缓存的替换上给出一种新的方法。该方法提高核缓存的命中率,减少工作集选择的代价,从而减少训练时间。实验表明,该方法能够很好地提高支持向量机的训练速度。     

融合特征选取和学习策略的支持向量机研究

支持向量机是重要的机器学习方法之一,已成功解决了许多实际的分类问题。围绕如何提高支持向量机的分类精度与训练效率,以分类过程为主线,主要综述了在训练支持向量机之前不同的特征选取方法与学习策略。在此基础上,比较了不同的特征选取方法SFS,IWSS,IWSSr以及BARS的分类精度,分析了主动学习策略与支持向量机融合后获得的分类器在测试集上的分类精度与正确率/召回率平衡点两个性能指标。实验结果表明,包装方法与过滤方法相结合的特征选取方法能有效提高支持向量机的分类精度和减少训练样本量;在标签数据较少的情况下,主动学习能达到更好的分类精度,而为了达到相同的分类精度,被动学习需要的样本数量必须要达到主动学习的6倍。     

基于增量学习支持向量机的音频例子识别与检索

音频例子识别与检索的主要任务是构造一个良好的分类学习机，而在构造过程中，从含有冗余样本的训练库中选择最佳训练例子、节省学习机的训练时间是构造分类机面临的一个挑战，尤其是对含有大样本训练库音频例子的识别．由于支持向量是支持向量机中的关键例子，提出了增量学习支持向量机训练算法．在这个算法中，训练样本被分成训练子库按批次进行训练，每次训练中，只保留支持向量，去除非支持向量．与普通和减量支持向量机对比的实验表明，算法在显著减少训练时间前提下，取得了良好的识别检索正确率．     

基于聚类的快速支持向量机训练算法*

支持向量机(support vector machine, SVM)具有良好的泛化性能而被广泛应用于机器学习及模式识别领域。然而,当训练集较大时,训练SVM需要极大的时间及空间开销。另一方面,SVM训练所得的判定函数取决于支持向量,使用支持向量集取代训练样本集进行学习,可以在不影响结果分类器分类精度的同时缩短训练时间。采用混合方法来削减训练数据集,实现潜在支持向量的选择,从而降低SVM训练所需的时间及空间复杂度。实验结果表明,该算法在极大提高SVM训练速度的同时,基本维持了原始分类器的泛化性能。     

一种改善的基于支持向量机的边缘检测算子

支持向量机是一种新的机器学习方法。它建立在统计学习理论基础上,较好地解决了小样本的学习问题。由于其出色的学习性能,该技术已经成为当前国际机器学习界的研究热点。文中提出了一种基于支持向量机的图像边缘检测新方法。这种方法介绍了如何使用支持向量机来高效的检测图像的边缘。首先用几个边缘简单的图像对支持向量机进行训练,然后使用支持向量分类方法进行边缘检测。针对实际图像的边缘检测实验表明,支持向量机可以有效地进行图像的边缘检测,其检测效果和传统的Canny边缘检测算子相当。     

一种SVM增量学习算法α-ISVM

基于SVM(support vector machine)理论的分类算法,由于其完善的理论基础和良好的试验结果,目前已逐渐引起国内外研究者的关注.深入分析了SVM理论中SV(support vector,支持向量)集的特点,给出一种简单的SVM增量学习算法.在此基础上,进一步提出了一种基于遗忘因子α的SVM增量学习改进算法α-ISVM.该算法通过在增量学习中逐步积累样本的空间分布知识,使得对样本进行有选择地遗忘成为可能.理论分析和实验结果表明,该算法能在保证分类精度的同时,有效地提高训练速度并降低存储空间的占用.     

基于中心距离比值的增量支持向量机

研究了支持向量、中心距离比值、边界向量以及增量学习之间的关系，提出了基于中心距离比值的增量支持向量机。与传统方法相比，基于中心距离比值的增量支持向量机有效的利用了中心距离比值，解决了CDRM+SVM的阈值选取问题；且适合于增量学习；从而在保证了支持向量机的分类能力没有受到影响的前提下提高了支持向量机的训练速度。     

超球体多类支持向量机理论

目前的多类分类器大多是经二分类器组合而成的,存在训练速度较慢的问题,在分类类别多的时候,会遇到很大困难,超球体多类支持向量机将超球体单类支持向量机扩展到多类问题,由于每类样本只参与一个超球体支持向量机的训练.因此,这是一种直接多类分类器,训练效率明显提高.为了有效训练超球体多类支持向量机,利用SMO算法思想,提出了超球体支持向量机的快速训练算法.同时对超球体多类支持向量机的推广能力进行了理论上的估计.数值实验表明,在分类类别较多的情况,这种分类器的训练速度有很大提高,非常适合解决类别数较多的分类问题.超球体多类支持向量机为研究快速直接多类分类器提供了新的思路.     

改进的图半监督支持向量机用于P2P网络流识别

对于机器学习在P2P网络流识别中需要大量标记训练数据的问题,提出一种基于改进图半监督支持向量机的P2P流识别方法。采用自动调节的高斯核函数计算少量标识数据和大量未标识训练样本之间的相似距离以构建图模型,并在标记传播过程中嵌入训练样本局部分布信息以获取未标记样本的标识;在此基础上使用所有已标记样本对SVM训练实现P2P网络流识别。实验结果表明该方法能够兼顾整个训练样本集的信息,在提高SVM识别精度的同时,极大降低了人工标记训练样本的成本。     

基于半监督学习和支持向量机的煤与瓦斯突出预测研究

针对支持向量机要求输入向量为已标记样本,而实际应用中已标记样本很难获取的问题,提出将半监督学习和支持向量机结合的煤与瓦斯突出预测方法;介绍了采用SVM预测煤与瓦斯突出的流程及其输入向量的选择;对半监督学习中的协同训练算法进行了改进:在同一属性集上训练2个不同分类器SVM和KNN,将2个分类器标记一致的样本加入训练集,从而充分利用未标记样本不断补充信息,更新训练集标记样本,达到强化训练集的目的。测试结果表明,改进后的算法比单独的支持向量机预测方法准确率更高。