基于噪声样本的结构风险最小化原则

统计学习理论中的结构风险最小化原则比经验风险最小化原则的实用性更强,对结构风险最小化原则的研究多是在样本不受噪声影响前提下进行的.基于此,给出零均值噪声样本的函数集容量的相关概念,并讨论了基于VC维的收敛速度的界,给出零均值噪声样本的结构风险最小化原则,为进一步研究概率空间上噪声样本的学习理论提供了理论基础.     

统计学习理论及支持向量机概述

针对传统统计模式识别理论中基于大数定理的假设，介绍了统计学习理论和以该理论为基础的支持向量机模式识别方法；指出了以结构风险最小化为原则的分类器设计方法。即同时兼顾分类能力最优化和经验风险最小化，支持向量机是统计学习理论的VC维理论和结构风险最小原理的具体实现。他通过非线性变换将输入空间变换到一个高维空间，然后在这个新空间中求取最优线性分类面。     

支撑向量机回归的简化SMO算法

统计学习理论中提出的支撑向量机回归(SVR)遵循了结构风险最小化原则,从而避免了一味追求经验风险最小化带来的弊端。采用扩展方法使SVR与支撑向量机分类(SVC)具有相似的数学形式,并在此基础上提出了一种用于SVR的简化SMO算法。与SVR现有的SMO算法相比,简化算法的数学形式简洁直观,在不增加算法空间和时间复杂度的前提下避免了大量繁复的判别条件,较大幅度地简化了算法实现,有利于SVR的广泛使用。     

结构风险最小化近邻分析解决大规模训练集支持向量机学习问题

SVM是利用靠近边界的少数向量来构造最大间隔的分类超平面,当海量样本之间存在相互混迭时,支持向量数目急剧增加,导致训练难度增大。针对该问题,本文将结构风险最小化近邻分析与支持向量机相结合构成了一种新的SVM学习方法。它首先根据各个训练数据的类间最近邻距离利用结构风险最小化近邻分析选择训练子集;在选择的样本子空间内采用乘性规则直接求取Lagrange因子,而不是传统的二次优化方法;最后加入附加剩余样本进行交叉验证处理,直到算法满足收敛性准则。各种分类实验表明本文提出的算法具有良好的性能,特别是在训练样本庞大,支持向量数量较多的情况下,能够较大幅度的减少计算复杂度,提高分类速度。     

最小化类内距离和分类算法

支持向量机分类算法引入惩罚因子来调节过拟合和线性不可分时无解的问题,优点是可以通过调节参数取得最优解,但带来的问题是允许一部分样本错分。错分的样本在分类间隔之间失去了约束,导致两类交界处样本杂乱分布,并且增加了训练的负担。为了解决上述问题,该文根据大间隔分类思想,基于类内紧密类间松散的原则,提出一种新的分类算法,称之为最小化类内距离和(Intraclass-Distance-Sum-Minimization, IDSM)分类算法。该算法根据最小化类内距离和准则构造训练模型,通过解析法求解得到最佳的映射法则,进而利用该最佳映射法则对样本进行投影变换以达到类内间隔小类间间隔大的效果。相应地,为解决高维样本分类问题,进一步提出了该文算法的核化版本。在大量UCI数据集和Yale大学人脸数据库上的实验结果表明了该文算法的优越性。     

基于支持向量机的模式识别方法

基于统计学习理论的支持向量机(SVM)方法是现代智能技术的一个重要分支。SVM实现了结构风险最小化(SRM),而不是经验风险最小化(ERM),在保证分类精度的前提下,提高了分类器的泛化能力。着重讨论C-SVM原理,并在此基础之上,对算法进行了测试。测试结果表明,C-SVM分类算法具有较好的推广能力。     

基于最小二乘支持向量机的飞机备件多元分类

飞机后续备件配置直接关系到装备的战备完好率和寿命周期费用,对备件的正确分类是进行备件配置决策的前提。支持向量机是采用结构风险最小化原则代替传统统计学中的基于大样本的经验风险最小化原则的新型机器学习方法,具有出色的学习分类能力和推广能力。研究了新型支持向量机算法-最小二乘支持向量机,设计了基于多元分类的最小二乘支持向量机,在此基础上,建立了飞机备件多元分类模型,并对某机型的备件进行了分类。结果表明,基于最小二乘支持向量机的飞机备件多元分类方法是有效、可行的。     

支撑向量机多类分类方法的研究

支撑向量机是一种基于统计学理论的新的学习算法,它采用了结构风险最小化原则,能有效地解决过学习问题,具有很强的泛化能力。传统支撑向量机针对两类分类问题,为了深入地分析实际应用中的大规模和多类别的问题,通过对一次性求解法、一对多、一对一、有向无环图方法的原理和实现方法进行分析,从速度和精度两方面对这些方法的优缺点进行了归纳和总结,并通过实验进行了验证和比较。实验结果表明,各种方法可以获得不同的分类器推广能力及训练速度和测试速度,也为今后如何更好地解决支撑向量机多类分类问题指明了方向。     

用于SVM的RCS统计特征集约减方法

传统的支持向量机分类算法对训练样本数目敏感且不具备增量学习的能力,而空间目标识别的工程应用需要积累样本进行大样本的增量学习。根据样本在特征空间分布,提取几何意义上边缘的样本点,成功约减了应用于支持向量机学习的基于雷达散射截面统计特征的训练样本集。利用中心距离比和特征空间多维高斯分布特性,分别提取两类边界样本集和单类边缘样本集;再采用直推式实验设计方法再采样,根据样本潜在结构分布信息选择最能代表样本集结构分布的高价值样本。实验结果表明：样本初选算法能够在有效约减样本集规模的同时保持支持向量机训练分类的精度。     

常用支持向量机算法分析

支持向量机是在统计学习理论的VC维理论和结构风险最小化原则的基础上提出的一种新的模式识别技术,本文对于当前常用支持向量机的几种算法进行了总结和分析,对于今后提出更精确的方法做了充分的准备。     

基于熵变分的图像放大模型

针对传统图像放大处理过程中出现的边缘模糊和噪声干扰问题,分析了Tikhonov正则化模型对带噪图像放大处理的缺陷.在最大后验估计(MAP)和熵理论基础上,提出了一种基于熵变分的带噪图像放大模型及其算法.该算法利用图像像素点梯度信息自适应的各向异性滤波处理,在较好的保持图像边缘锐度的同时有效地克服了图像噪声的影响,理论分析和实验结果皆表明此算法的有效性.     

基于电费异常的潜在投诉风险预警方法

针对利用传统方法发现电力用户电费异常已经难以满足维权意识越来越强的电力用户需求的问题,本文基于大数据技术和智能算法开展电力用户电费异常的潜在风险挖掘。本文首先介绍了大数据挖掘技术的数据异常分析理论;其次,基于FCM算法和电量分析法建立了电力用户电费异常数学模型;最后,通过具体算例验证了本文所建立的基于FCM智能算法和电量分析法建立电力用户用电电费异常数学模型可以实现电力用户电费异常潜在风险的挖掘,从而有效的避免不必要的投诉风险,对于提升电力公司的服务水平和服务质量具有十分重要的意义。     

Multiple-Parameter Radar Signal Sorting Using Support Vector Clustering and Similitude Entropy Index

The radar signal sorting method based on traditional support vector clustering (SVC) algorithm takes a high time complexity, and the traditional validity index cannot efficiently indicate the best sorting result. Aiming at solving the problem, we study a new sorting method based on cone cluster labeling (CCL) method. The CCL method relies on the theory of approximate coverings both in feature space and data space. Also a new cluster validity index, similitude entropy (SE), is proposed. It can be used to evaluate the compactness and separation of clusters with information entropy theory. Simulations including the performance comparison between the proposed method and the conventional methods are presented. Results show that while maintaining the sorting accuracy, the proposed method can reduce the computing complexity effectively in sorting the signals.     

超宽带室内定位算法

为了解决室内密集多径环境下人员定位精度差这一问题,设计并实现了一种基于脉冲超宽带与能量检测接收机的信号到达时间估计算法。根据在IEEE802.12.4a标准室内家居环境下得到的超宽带信号,深入分析了信号的偏度、翘度与均方差特性。根据信号特性与信噪比之间的关系,算法能够实现高精度的信号传播时间估计。该算法充分考虑了积分周期与信号传播环境如视距与非视距对信号传播时间造成的影响。通过实验分析对比,该算法对信号传播时间估计具有更好的鲁棒性,目标运动速度和形变具有很好的鲁棒性,能够提供更高的精度。相较于阈值估计算法,该算法在低信噪比环境下最优能够提高10 ns的估计精度。     

变区间分组检验相乘积累进动周期估计

 该文首先分析了弹道中段进动锥体目标RCS序列的统计特性及其周期性特点,指出目标本身RCS起伏产生的虚假周期是影响传统进动周期估计方法性能的主要因素.基于非参数统计理论,本文提出了一种变区间分组检验相乘积累的RCS序列进动周期估计方法,仿真结果表明,该方法不仅能够有效克服虚假周期影响,并能明显改善进动周期估计精度.     

基于遗传算法和LSSVM的网络安全事件发生频率预测

Since the frequency of network security incidents is nonlinear, traditional prediction methods such as ARMA, Gray systems are difficult to deal with the problem. When the size of sample is small, methods based on artificial neural network may not reach a high degree of preciseness. Least Squares Support Vector Machines (LSSVM) is a kind of machine learning methods based on the statistics learning theory, it can be applied to solve small sample and non-linear problems very well. This paper applied LSSVM to predict the occur frequency of network security incidents. To improve the accuracy, it used an improved genetic algorithm to optimize the parameters of LSSVM. Verified by real data sets, the improved genetic algorithm (IGA) converges faster than the simple genetic algorithm (SGA), and has a higher efficiency in the optimization procedure. Specially, the optimized LSSVM model worked very well on the prediction of frequency of network security incidents.     

基于采样值随机压缩矩阵核空间的亚奈奎斯特采样重构算法

针对现有调制宽带转换器亚奈奎斯特采样重构算法性能不高问题,该文提出一种基于采样值核空间的支撑重构算法和随机压缩降秩方法,将两者结合得到一种高性能采样重构算法。首先利用随机压缩变换在不改变未知矩阵稀疏特性的前提下将采样方程转化为多个新的多测量向量问题,然后利用采样值矩阵核空间与采样矩阵支撑正交的关系获取联合稀疏支撑集,最后通过伪逆完成重构。从理论和实验两个方面对所提方法进行了分析和验证。数值实验表明,与传统重构算法相比,所提算法提高了重构成功率、降低了高概率重构所需的通道数,而且重构性能总体上随压缩次数增加而提高。     

基于稀疏互质电磁矢量阵列的MUSIC算法

为增加传统MUSIC算法可分辨的信号源数,该文构造了一对具有互质关系的2维稀疏电磁矢量阵列,并基于此阵列提出了一种基于3维平滑的MUSIC算法。该算法利用两个阵列间的互质关系形成具有更多自由度的互质差合成阵列,并基于3维(2维空域加极化域)平滑算法恢复其自相关矩阵的秩,达到应用于传统MUSIC算法的目的。该算法的最大优势是仅使用二阶统计量即可系统地增加了原阵列的自由度。计算机仿真结果表明所提算法能估计多于物理阵元数的信号且分辨率高。     

基于深度学习的车联边缘网络交通事故风险预测算法研究

针对传统交通事故风险预测算法无法自动判别数据特征,且模型表达能力差等问题。该文提出一种基于深度学习的车联边缘网络交通事故风险预测算法,该算法首先针对车载自组织网络中采集的大量交通数据,采用边缘服务器中建立的卷积神经网络自主提取多维特征,经归一化、去均值等预处理后,再将得到的新变量输入卷积层、采样层进行训练,最后根据全连接层输出的判别值,得到模拟预测交通事故发生的风险性。仿真结果表明,该算法被验证能够预测交通事故发生的风险性,较传统的机器学习算法BP神经网络、逻辑回归具有更低的损失与更高的预测准确度。     

Heuristic Sarsa algorithm based on value function transfer

With the problem of slow convergence for traditional Sarsa algorithm,an improved heuristic Sarsa algorithm based on value function transfer was proposed.The algorithm combined traditional Sarsa algorithm and value function transfer method,and the algorithm introduced bisimulation metric and used it to measure the similarity between new tasks and historical tasks in which those two tasks had the same state space and action space and speed up the algorithm convergence.In addition,combined with heuristic exploration method,the algorithm introduced Bayesian inference and used variational inference to measure information gain.Finally,using the obtained information gain to build intrinsic reward function model as exploring factors,to speed up the convergence of the algorithm.Applying the proposed algorithm to the traditional Grid World problem,and compared with the traditional Sarsa algorithm,the Q-Learning algorithm,and the VFT-Sarsa algorithm,the IGP-Sarsa algorithm with better convergence performance,the experiment results show that the proposed algorithm has faster convergence speed and better convergence stability.