基于Fenchel对偶的核Logistic回归并行学习算法

给出了一种大规模核Logistic回归的并行学习算法.利用凸优化中的Fenchel对偶定理, 将核Logistic回归的优化原问题转换成对偶空间的优化问题,再利用块更新迭代方法, 可以独立地在部分数据集上进行分类器训练.设计了一个简单的客户机--服务器并行计算模式, 每个客户机对部分数据优化子问题,在一次优化结束后,服务器根据各客户机传递的信息修正各子问题目标函数. 在标准数据集的实验结果表明了基于Fenchel对偶的核Logistic回归并行学习算法的可行性.     

基于特征矢量集的核Logistic回归

将经典Logistic回归推广到高维RKHS空间，提出了一种基于特征矢量选择的核Logistic回归算法-FVS-KLR．该算法利用特征矢量选择（FVS）从训练样本集中选择一个特征矢量集，原样本在RKHS空间中的映射可用该集合中元素映射的线性组合近似．以特征矢量集为基得到核Logistic回归的目标泛函，并采用Newton-Raphson方法寻优，将优化的计算量由O（N^3）降到O（NL^2），L〈〈N．同时文章推导了多类情况下的核Logistic回归算法．通过与SVM的对比实验表明，该算法对后验概率的估计优于SVM方法，同时在分类错误率不高于SVM的基础上能显著降低分类器的计算量．     

一种新的保类内核Fisher判别法及说话人辨别应用

在保留数据本质特征的前提下,降低数据维度是一种重要的分类预处理手段.深入分析了核Fisher判别 (KFD)方法与核化全局局部保持Fisher投影(KLFDA)方法的相互关系与优缺点,提出了一种新的基于类内特性保持的核化Fisher判别分析方法(LW-KFD).在保留KFD全局最优投影能力的同时,解决了KLFDA的过度局部保持问题,从而对重叠(离群)样本与多态分簇样本都能实现有效的分类投影.提出了快速训练算法,解决了大量训练样本时的内存溢出问题.仿真实验与说话人辨别应用表明,该方法具有很强的适应性,并提高了说话人识别率与识别速度.     

一种非凸松弛化的多核集成回归方法

支持向量机的核函数的应用性越来越强.性能优秀的核函数可以带来非常好的效果,为了充分利用核函数的优点,构造出一种创新的多核集成方法.在这个整体框架中,每个核回归器都与一个权重相关联,该权重可以根据其对回归结果的贡献来自训练自动调整.通过这种方式,可以直接从数据中学习更合适的核函数类别及其对应的参数,而无需任何人工干预,从...     

一种核正交局部敏感辨别分析算法

为了发掘嵌入在人脸样本的非线性结构信息,把核方法和基向量正交化思想引入局部敏感分析算法中,提出一种新的人脸识别算法-核正交局部敏感辨别分析(Kernel based Orthogonal Locality Sensitive Discriminant Analysis).并给出了算法的推导过程及计算步骤.首先用核方法提取人脸样本的非线性信息,并将其投影至高维非线性空间,然后采用局部敏感辨别分析做线性映射,最后采用施密特正交化方法得到正交的基向量,从而使算法更好地描述人脸非线性流形结构特征.在ORL和YaleB人脸库的人脸识别实验证明了所提算法的有效性.     

后验概率估计及其应用:基于核Logistic回归的方法

提出一种基于特征矢量集的核Logistic回归方法,解决核Logistic回归的解的稀疏性问题,降低后验概率估计的计算复杂度.该方法与Markov随机场方法相结合,应用到图像分割中.在Bayes公式中,对样本条件概率的估计转换为对核Logistic回归方法的后验概率的估计,从而提出一种新的Markov随机场模型的实现方法,在对纹理图像的分割实验中得到良好效果.     

Hessian正则化Logistic回归模型

针对大数据量的图像分类问题,Laplacian正则化的半监督学习方法获得了广阔的应用前景。然而Laplacian正则化使分类函数趋向于常数函数而易导致较差的推测能力。提出了基于Hessian正则化的Logistic回归模型用于图像分类,Hessian正则化可以较好地预测区域之外的数据点。在MIR Flickr数据库上进行图像分类实验,与SVM、Logistic回归和Laplacian正则化的Logistic回归方法相比,Hessian正则化的Logistic回归模型更有效。     

基于Logistic回归算法的滑坡预报模型

为提高滑坡灾害的预报准确率、改善传统变量选取方法在成灾因子选取上的不足等问题,提出一种基于Logistic回归算法的滑坡预报模型.模型采用陕西省某地地质灾害监测点的监测数据作为模型数据集,用核主成分分析法对影响滑坡灾害的主要因子进行筛选,通过降维得到6个主要影响因子,并将筛选出的有效数据作为训练样本,训练得到滑坡预报模...     

一种概率序列核在说话人识别中的应用

以说话人识别中的背景模型为基础,根据模型中的各个高斯分量,构造出说话人特征空间,将长度不一样的语句映射成为空间中大小相同的向量,且经过相关矩阵进行规整后,采用线性支持向量机进行说话人识别。借鉴几种常见的特征规整方式,结合语句映射后的向量,提出四种不同的规整方法：均值/方差规整、权重规整、WLOG规整和球形规整,并与概率序列核进行比较研究。根据语音特征向量序列中相邻的特征向量的前后转移关系,结合提出的概率序列核,构造出转移概率序列核。实验在NIST2001库上进行,结果表明概率序列核模型识别性能接近经典的UBM-MAP模型,将这两类模型得分进行融合,可非常明显地提高识别性能,进一步融合转移概率序列核后,性能还可提高19.1%。     

Logistic回归筛选零值绝缘子红外特征的方法

零值绝缘子是造成输配电网络对地短路故障的重要原因之一。利用红外热像技术检测零值绝缘子的关键在于获取最优且适当的红外热像特征。提出了一种Logistic回归分析筛选零值绝缘子红外热像特征的方法。利用中值滤波及小波自适应扩散法进行红外热像去噪和灰度拉伸法增强图像对比度;采用二维最大熵阈值分割形成二值图,经过二值图像填充处理,自动截取绝缘子串区域最小外接矩形,得到绝缘子串区域矩形图像,通过灰度-梯度共生矩阵提取矩形区域13个纹理特征参数;应用Logistic回归分析对污秽等级和纹理特征组成的14个特征参数进行筛选,得出其中7个参数对分类结果有显著性影响。实验表明,该方法实现简单,能有效筛选特征参数,剔除冗余数据。     

一种基于FCOWA-ER 的SVM多分类方法

支持向量机(SVM) 在处理多分类问题时, 需要综合利用多个二分类SVM, 以获得多分类判决结果. 传统多分类拓展方法使用的是SVM的硬输出, 在一定程度上造成了信息的丢失. 为了更加充分地利用信息, 提出一种基于证据推理-多属性决策方法的SVM多分类算法, 将多分类问题视为一个多属性决策问题, 使用证据推理-模糊谨慎有序加权平均方法(FCOWA-ER) 实现SVM的多分类判决. 实验结果表明, 所提出方法可以获得更高的分类精度.

     

基于粒子群优化的KPCA暂态稳定评估模型的特征提取

提出一种核主成分分析法(KPCA),用于电力系统暂态稳定评估(TSA)模型中的输入向量特征提取,并利用粒子群优化算法(PSO)对核函数参数进行优化设置.以EPRI36系统为例,对基于支持向量机(SVM)分类的暂态稳定评估模型进行仿真,结果表明该方法不仅得到了良好的预测精度,而且大大降低了输入空间的维数.     

基于Logistic回归的社区满意度模型

在论述顾客满意度模型是具有二分类因变量的非线性模型的基础上，提出一种基于Logistic回归的联立方程模型．首先采用因子分析法提取影响满意度和忠诚度的潜在变量；然后对它们满意与否、忠诚与否进行Logistic回归，建立一个递归联立方程模型；最后结合社区满意度实例进行了实证研究．     

一种新的基于平衡决策树的SVM多类分类算法

为了有效地减少样本训练时间,提高多类分类器的识别率,同时使模型具有较好的推广能力,在综合考虑待分类样本数和类别易分性能的基础上,在"先分样本数较大的类"和"先分易分的类"之间折衷考虑,提出一种基于样本的新的类划分方案.采用半衡决策树结构,得到了一种新的决策树支持向量机多类分类算法.实验结果表明,该算法在不降低识别率的情...     

面向属性效应控制的等均值约束支持向量回归机

针对现有的属性效应控制方法无法有效控制非线性回归建模的属性效应问题, 基于间隔最大化和结构风险最小化原则, 通过向SVR 目标学习准则中施加等均值条件约束, 提出等均值支持向量回归机(EM-SVR). 所提出的方法具有较好的泛化能力, 同时继承了EM-LS 的良好性能. 实验结果验证了所提出方法的有效性.

     

基于诺兰模型思想的改进混沌粒子群优化算法及评价

针对粒子群优化算法(PSO) 在处理高维复杂函数时容易陷入局部极值、收敛速度慢的缺陷, 从系统的认知分析过程和角度出发, 提出一种基于诺兰模型(NM) 思想的改进PSO 算法. 该算法在Tent 混沌映射选择的参数的基础上, 结合NM信息融合和协调的思想, 在速度更新过程中增加均衡项, 并设计粒子群的欧氏距离指数以防止早熟, 从而实现对粒子的自动调整、保证多样性和提高算法的全局搜索能力. 最后, 运用典型函数对所提出算法进行测试, 并与最新相关算法进行比较, 结果表明, 所提出算法在全局搜索能力、效率和稳定性方面均具有明显的优势.

     

基于模糊子空间聚类的0 阶岭回归TSK 模糊系统

经典数据驱动型TSK模糊系统在利用高维数据训练模型时,由于规则前件采用的特征过多,导致规则的解释性和简洁性下降.对此,根据模糊子空间聚类算法的子空间特性,为TSK模型添加特征抽取机制,并进一步利用岭回归实现后件的学习,提出一种基于模糊子空间聚类的0阶岭回归TSK模型构建方法.该方法不仅能为规则抽取出重要子空间特征,而且可为不同规则抽取不同的特征.在模拟和真实数据集上的实验结果验证了所提出方法的优势.     

基于重要度引导偏好识别修正的多粒度语言共识模型

研究多粒度语言偏好信息下的群体共识决策问题. 首先, 从个体和群体两个角度充分挖掘偏好信息下隐含的专家重要度信息, 基于个体一致度及个体与群体的相似度构建确定专家重要度的优化模型; 其次, 以专家重要度引导非共识偏好的识别和修正过程, 提出一种自适应的语言共识模型; 然后, 给出一种群决策方法, 确保在集结专家意见前群体达成一定程度的共识; 最后, 通过算例验证所提出方法的可行性和有效性.

     

基于SVR 的惯性/卫星组合导航系统故障诊断方法

在惯性/卫星组合导航系统中, 针对传统X² 检验法检测出故障但无法准确识别故障子系统的不足, 提出一种基于支持向量回归的故障诊断方法. 采用残差X² 检验法实时对组合导航系统进行故障检测, 并构建基于支持向量机的回归预测模型, 实现对惯性导航系统状态的预测; 根据系统模型输出和预测模型输出之差辅助进行惯性导航系统的故障判别, 诊断出系统故障源. 仿真结果表明, 所提出的方法能够快速准确地识别故障子系统, 并进行有效的系统隔离和重构, 从而使组合导航系统的性能得到保障.

     

基于核和灰度的区间灰数多属性决策方法

针对属性值为区间灰数且部分权重信息已知的多属性决策问题, 提出一种基于区间灰数的核和灰度的决策方法. 根据专家评价值的取值范围设置区间灰数的取值论域, 给出了区间灰数的基于核和灰度的简化形式, 建立了普通区间灰数到标准区间灰数的转化方法, 分别基于标准灰数的核和灰度分别求取属性的权重, 进而得到属性的综合权重, 并提出了一种基于标准区间灰数相对核的排序方法对方案进行排序. 最后通过一个算例验证了所提出方法的有效性和可行性.