基于双重随机样本的统计学习理论的理论基础

介绍双重随机理论的基本内容。提出双重随机经验风险泛函,双重随机期望风险泛函,双重随机经验风险最小化原则等概念。最后证明基于双重随机样本的统计学习理论的关键定理并讨论学习过程一致收敛速度的界。为系统建立基于不确定样本的统计学习理论并构建相应的支持向量机奠定了理论基础。     

一种基于粗糙变量的学习算法的基础研究

支持向量机目前已成为机器学习领域新的研究热点,而统计学习理论中的关键定理为支持向量机等的研究提供了重要的理论基础。提出了粗糙经验风险最小化原则,提出并证明了一种基于粗糙变量的学习理论的关键定理,为研究粗糙支持向量机等应用性研究提供了依据。     

非高斯随机粗糙表面计算机仿真的研究

在摩擦学、光学等工程领域中,对于表面粗糙度的研究,总是以生成的随机粗糙表面为研究对象,且大多数研究都是建立在高斯随机表面的基础上,而实际的工程表面大多是非高斯随机表面.为此提出了一种基于快速傅里叶变换(FFT)、Johnson转换系统和自相关函数等理论仿真生成非高斯随机粗糙表面的方法,它可以生成具有给定偏斜度和峰度的随机粗糙表面.为了说明该方法的可行性和正确性,给出了不同偏斜度、峰度和自相关长度下的计算机仿真结果.结果表明:在一定的条件下用该方法仿真生成的非高斯随机粗糙表面,其输入的随机表面的统计参数与输出的统计参数吻合较好.     

噪声影响的泛空间上的学习理论关键定理

关键定理是统计学习理论的重要组成部分,但目前其研究主要集中在概率空间上且假设样本不受噪声的影响。鉴于此,提出了泛空间上样本受噪声影响的期望风险泛函、经验风险泛函以及经验风险最小化原则的定义,给出并证明了泛空间上样本受噪声影响的学习理论的关键定理。     

基于随机粗糙样本的结构风险最小化原则

提出了退火熵,生长函数和VC维等概念,构建了基于VC维的学习过程一致收敛速度的界。然后以这些界为基础,给出基于随机粗糙样本的结构风险最小化原则。最后证明该原则是一致的并且推导出了关于渐近收敛速度的界。     

受噪声影响的复gλ样本的学习理论的关键定理

关键左理是统计学习理论的重要组成部分.但是,目前的研究主要集中在实随机变量且样本不受噪声影响.引入了复gλ随机变量、准范数的定义,提出了受噪声影响的复gλ样本的经验风险泛函、期望风险泛函以及经验风险最小化原则严格一致性的定义;给出并证明了受噪声影响的复gλ样本的学习理论的关键定理,为系统建立基于复gλ样本的统计学习理论奠定了理论基础.     

粗糙商群的性质

主要讨论了粗糙集理论在群理论中的应用.基于粗糙半群中的同余关系,提出了粗糙商群的概念.由粗集中的粗糙同态和粗糙同构,进而讨论了粗糙商群的一些性质,并给出了这些结论严格的证明,进一步补充和完善了半群中的粗糙集理论.     

基于复拟随机样本的统计学习理论的理论基础

引入复拟（概率）随机变量,准范数的定义。给出了复拟随机变量的期望和方差的概念及若干性质;证明了基于复拟随机变量的马尔可夫不等式,契比雪夫不等式和辛钦大数定律;提出了拟概率空间中复经验风险泛函、复期望风险泛函以及复经验风险最小化原则等定义。证明并讨论了基于复拟随机样本的统计学习理论的关键定理和学习过程一致收敛速度的界,为系统建立基于复拟随机样本的统计学习理论奠定了理论基础。     

泛空间上学习理论的关键定理

给出泛空间上泛随机变量及其分布函数、泛期望和泛方差的定义和性质,证明泛空间上的Chebyshev不等式和Khinchine大数定律;给出泛空间上期望风险泛函、经验风险泛函以及经验风险最小化原则严格一致收敛的定义,证明了泛空间上学习理论的关键定理,把概率空间和可能性测度空间上的学习理论的关键定理统一推广到了泛空间上。     

粗糙逻辑中公式的Borel型概率粗糙真度

以一种特殊的粗糙逻辑为研究对象,视全体赋值之集为通常乘积拓扑空间,通过利用赋值集上的Borel概率测度,提出了能融合粗糙逻辑与计量逻辑为一体的公式的Borel型概率粗糙真度理论,给出了公式概率粗糙真度的公理化定义,建立起了相应的概率真度表示定理.公式的概率粗糙真度理论可被看作粗糙逻辑中已有工作的计量化,也可看作计量逻辑学中真度理论的粗糙化.基于这一核心概念,进一步给出了粗糙逻辑中已有概念的程度化表示形式,如公式的粗糙度、精确度、公式之间的粗糙相似度等,并建立起了基于粗糙相似度的3种近似推理模式.该结果实现了粗糙逻辑与计量逻辑的和谐统一,为进一步基于粗糙真值的程度化推理搭建了一个可能的框架.     

The theoretical foundations of statistical learning theory based on fuzzy number samples

Statistical learning theory based on real-valued random samples has been regarded as a better theory on statistical learning with small sample. The key theorem of learning theory and bounds on the rate of convergence of learning processes are important theoretical foundations of statistical learning theory. In this paper, the theoretical foundations of the statistical learning theory based on fuzzy number samples are discussed. The concepts of fuzzy expected risk functional, fuzzy empirical risk functional and fuzzy empirical risk minimization principle are redefined. The key theorem of learning theory based on fuzzy number samples is proved. Furthermore, the bounds on the rate of convergence of learning processes based on fuzzy number samples are discussed.     

Sugeno测度空间基于复样本的统计学习理论

引入复g_λ随机变量、准范数的定义,给出了复g_λ随机变量的期望和方差的概念及若干性质;证明了基于复g_λ随机变量的马尔可夫不等式、契比雪夫不等式和辛钦大数定律;提出了Sugeno测度空间中复经验风险泛函、复期望风险泛函以及复经验风险最小化原则严格一致性等定义;证明并构建了基于复g_λ随机样本的统计学习理论的关键定理和学习过程一致收敛速度的界,为系统建立基于复g_λ随机样本的统计学习理论奠定了理论基础。     

模糊随机信息系统及其属性约简

属性约简是粗糙集理论研究的核心内容之一。在信息系统中引入模糊随机变量,给出了模糊随机信息系统的概念,定义了期望相关关系。基于该关系,讨论了模糊随机信息系统属性约简的判定和方法,并通过实例分析了相应方法的具体计算步骤。     

基于随机抽样的模糊粗糙约简

传统的属性约简由于其时间复杂度和空间复杂度过高,几乎无法应用到大规模的数据集中.将随机抽样引入传统的模糊粗糙集中,使得属性约简的效率大幅度提升.首先,在统计下近似的基础上提出一种统计属性约简的定义.这里的约简不是原有意义上的约简,而是保持基于统计下近似定义的统计辨识度不变的属性子集.然后,采用抽样的方法计算统计辨识度的样本估计值,基于此估计值可以对统计属性重要性进行排序,从而可以设计一种快速的适用于大规模数据的序约简算法.由于随机抽样集以及统计近似概念的引入,该算法从时间和空间上均降低了约简的计算复杂度,同时又保持了数据集中信息含量几乎不变.最后,数值实验将基于随机抽样的序约简算法和两种传统的属性约简算法从以下3个方面进行了对比：计算属性约简时间消耗、计算属性约简空间消耗、约简效果.对比实验验证了基于随机抽样的序约简算法在时间与空间上的优势.     

受噪声影响的复gλ样本的学习理论的关键定理

关键定理是统计学习理论的重要组成部分。但是,目前的研究主要集中在实随机变量且样本不受噪声影响。引入了复g_λ随机变量、准范数的定义,提出了受噪声影响的复g_λ样本的经验风险泛函、期望风险泛函以及经验风险最小化原则严格一致性的定义;给出并证明了受噪声影响的复g_λ样本的学习理论的关键定理,为系统建立基于复g_λ样本的统计学习理论奠定了理论基础。     

The key theorem and the bounds on the rate of uniform convergence of learning theory on Sugeno measure space

In the 1970s, Vapnik[1―3] proposed the Statistical Learning Theory (SLT), which deals mainly with the statistical learning principles when samples are limited. SLT is an im- portant development and supplement of traditional statistics, whose kernel idea …