信息动态

深度学习是机器学习研究中的一个新的领域,其核心思想在于模拟人脑的层级抽象结构,通过无监督的方式分析大规模数据,发掘大数据中蕴藏的有价值信息.深度学习应大数据而生,给大数据提供了一个深度思考的大脑. 尽管YahnLecun在1993年提出的卷积神经网络是第一个真正成功训练多层网络结构的学习算法,但应用效果一直欠佳.直到2006年,Geoffrey Hinton and RuslanSalakhutdinov基于深度置信网,提出非监督贪心逐层训练算法,应用效果才取得突破性进展.从2009下半年开始,美国微软研究院邀请Hinton到雷德蒙与他的研究员合作,将深度学习巧妙地应用在大规模语音识别,迅速获得巨大成功,由此掀起了深度学习的浪潮[1-3].2014年3月,Facebook报道他的DeepFace项目使得人脸识别技术的识别率已经达到了97.25％,只比人类识别97.5％的正确率略低一点,准确率几乎可媳美人类.该项目利用了9层的神经网络来获得脸部表征,神经网络处理的参数高达1.2亿.     

基于特征偏好的聚类研究

传统的聚类方法,如k均值和模糊c均值,通常并不区分数据特征对聚类的不同贡献或重要度,因此在面对高维数据聚类时,常会导致偏低的聚类性能,这归咎于聚类时未考虑高维数据特征间所存在的高度相关性或冗余.而通过在聚类时为每一特征引入权重并通过聚类目标的优化,不仅能自动获得对应的权重,而且也获得了聚类性能的提升.尽管如此,但无监督获取的特征权重未必吻合用户所期望的特征间的相对重要性(或偏好).因此尝试利用用户给定的实际偏好设计出能反映特征偏好的聚类方法,其将现有独立于个体聚类的全局加权型偏好聚类方法拓展至聚类依赖的局部特征加权型方法,由此弥补了前者的不足,提升了偏好聚类算法的性能.     

改进的SDM模型及其在函数逼近中的应用

Kanerva的稀疏分布存储(SDM)模型存在一个编码过程把输入模式二值化,这易引起模式间不保序的问题,并且其学习规则使该模型不具有对函数的逼近能力.本文提出一种改进的SDM模型,输入输出空间是实值模式,不需任何编码,改进了学习规则,使该模型不仅具有模式识别的能力,且具有对函数的逼近能力.最后通过实验证实了该模型的有效性.     

改进的指数双向联想记忆模型及性能估计

提出了一个新的改进型指数双向联想记忆模型(improved eBAM,简称IeBAM).通过定义有界且随状态改变而下降的能量函数,证明了IeBAM在状态的同、异步更新方式下的稳定性,一方面排除了Wang的修正指数BAM(modified eBAM,简称MeBAM)和Jeng的eBAM(exponential BAM)的稳定性证明中所作的不合理假设;另一方面,放宽了对BAM(bidirectional associative memory)的连续性假设的要求,并避免了补码问题.理论分析和计算机模拟结果表明,     

数据流聚类算法研究

许多应用程序会产生大量的流数据,如网络流、web点击流、视频流、事件流和语义概念流。数据流挖掘已成为热点问题,其目标是从连续不断的流数据中提取隐藏的知识/模式。聚类作为数据流挖掘领域的一个重要问题,在近期被广泛研究。不同于传统的静态数据聚类问题,数据流聚类面临有限内存、一遍扫描、实时响应和概念漂移等许多约束。本文对数据流挖掘中的各种聚类算法进行了总结。首先介绍了数据流挖掘的约束;随后给出了数据流聚类的一般模型,并描述了其与传统数据聚类之间的关联;最后提出数据流聚类领域中进一步的研究热点和研究方向。     

最小平方高阶联想存贮器*

本文提出了一个新的高阶联想记忆模型．该模型采用噪声模式优化联想功能，使得对于噪声输入模式在均方误差的意义下同样达到最优的联想效果和存贮性能，推广了chen的的结果，计算机的模拟结果表明了这一点．     

局部化的广义特征值最接近支持向量机

基于广义特征值的最接近支持向量机(Proximal Support Vector Machine via Generalized Eigenvalues,GEPSVM)是一种新的具有与SVM性能相当的两分类方法,通过求解广义特征值来获得两个彼此不平行的拟合两类样本的超平面.其决策是将测试样本归为距其最近的超平面所在的类.然而,该规则在某些情形会导致较差的分类结果.对此,在GEPSVM基础上,通过在类拟合超平面上寻找一个包含了所有训练样本投影的局部凸区域,来决定样本的类别.该局部方法不仅具有较GEPSVM更优的分类性能,同时还衍生出了求解超平面上凸壳的简单且易于核化的新算法.最后在人工和UCI数据集上获得了验证.     

基于单簇聚类的非对齐多视图异常检测算法

多视图数据广泛存在于现实,而异常也不可避免地伴随其中.现有的多视图异常检测方法针对的都是对齐的多视图场景,无法胜任更具挑战的非对齐多视图场景.为此,本文提出了4种基于单簇可能性C-均值(possibilistic C-means,PCM),即P1M (PCM,C=1)算法的非对齐多视图异常检测算法.不同于对齐的多视图场...     

基于单簇聚类的数据描述

文中提出了一种基于单簇可能性C-均值聚类(Possibilistjc C-Means,PCM)的数据描述方法并用于单分类.训练时,其首先进行P1M(PCM,C值取1)聚类,得到所有训练样本对目标类的隶属度;然后设置隶属度阈值,形成相应的数据描述进行单分类.分类时,计算新样本对目标类的隶属度,若其隶属度小于该阈值则判为异常,否则为正常.该方法和当前流行的支持向量域数据描述方法以及Parzen方法窗具有类似的参数配置和相当的分类性能,由此提供了另一种单分类学习算法.值得指出的是,尽管是PCM的一个特例,但P1M拥有PCM一般不具备的全局最优特性,而该特性对解决实际问题十分重要.     

基于支持向量机的计算机键盘用户身份验真

口令认证因为简便易实现而被大多数计算机系统所采用，但容易被盗用，存在着严重的安全隐患，而利用对用户的键入特性的识别，可以大大加强口令认证的可靠性，在对国内外众多学者所做工作研究的基础上，鉴于支持向量机在进行模式识别对所具有的优良性能，提出利用支持向量机进行键入特性验真，并通过实验将其与BP，RBF，PNN和LVQ四种神经网络模型进行比较，证实采用SVM进行键入特性验真的有效性，因而其具有广阔的应用前景。