基于深度学习的类别增量学习算法综述

近年来,深度学习模型在众多领域取得了广泛成功.现有的深度学习模型大多部署在静态环境下,依赖提前收集好的数据集进行离线训练,模型一经确定,便无法进一步更新.然而,现实中开放动态的环境往往存在以流形式不断到来的数据,包括随时间演进不断产生的新类别数据.因此,理想的机器学习模型应能够从流式数据中不断学习新类,从而增强自身的判别能力.这样的学习范式被称作“类别增量学习”(class-incremental learning),且近年来已成为机器学习领域的研究热点.面对流式数据,直接使用新类别样本训练模型会使其遗忘旧类别的数据,造成整体性能的下降.因此,设计增量学习模型时,需确保模型在学习新类的同时也能够抵抗灾难性遗忘.本文从机器学习的三个重要方面(数据层面、参数层面、算法层面)着眼,总结和归纳近几年基于深度学习的类别增量学习算法.此外,本文还在基准数据集上对10种典型算法进行了实验验证,并从中总结出适应类别增量学习的一般性规律.最后,本文对基于深度学习的类别增量学习算法目前存在的挑战加以分析,并展望未来的发展趋势.     

深度学习认知计算综述

随着大数据和智能时代的到来,机器学习的研究重心已开始从感知领域转移到认知计算（Cognitive computing,CC）领域,如何提升对大规模数据的认知能力已成为智能科学与技术的一大研究热点,最近的深度学习有望开启大数据认知计算领域的研究新热潮.本文总结了近年来大数据环境下基于深度学习的认知计算研究进展,分别从深度学习数据表示、认知模型、深度学习并行计算及其应用等方面进行了前沿概况、比较和分析,对面向大数据的深度学习认知计算的挑战和发展趋势进行了总结、思考与展望.     

复杂网络与机器学习融合的研究进展

近年来,随着大数据技术的进步,复杂网络与机器学习的交叉研究越来越受到众多学者的关注。复杂网络是自然界中众多复杂系统的抽象描述,主要以统计物理的角度研究系统的演化;机器学习又称为统计学习方法,主要研究从大量数据样本提取特征并建立模型。简要综述复杂网络领域主要的网络演化模型、常用统计度量方法以及网络上的动力学过程和机器学习领域内三种基本的学习技术;从交叉应用的两个角度,即基于复杂网络的机器学习方法和基于机器学习的复杂网络信息挖掘,详细对比了各种方法的计算思路。在此基础上,提出目前学界重点关注的两类问题,并展望了若干开放性挑战。     

基于参数化量子电路的量子卷积神经网络模型及应用

量子神经网络结合了量子计算与经典神经网络模型的各自优势, 为人工智能领域的未来发展提供了一种 全新的思路. 本文提出一种基于参数化量子电路的量子卷积神经网络模型, 能够针对欧几里得结构数据与非欧几里 得结构数据, 利用量子系统的计算优势加速经典机器学习任务. 在MNIST数据集上的数值仿真结果表明, 该模型具 有较强的学习能力和良好的泛化性能.     

关于深度学习的综述与讨论

机器学习是通过计算模型和算法从数据中学习规律的一门学问,在各种需要从复杂数据中挖掘规律的领域中有很多应用,已成为当今广义的人工智能领域最核心的技术之一。近年来,多种深度神经网络在大量机器学习问题上取得了令人瞩目的成果,形成了机器学习领域最亮眼的一个新分支——深度学习,也掀起了机器学习理论、方法和应用研究的一个新高潮。对深度学习代表性方法的核心原理和典型优化算法进行了综述,回顾与讨论了深度学习与以往机器学习方法之间的联系与区别,并对深度学习中一些需要进一步研究的问题进行了初步讨论。     

随机梯度下降优化的量子多分类支持向量机

为改善大规模数据在经典机器学习多分类任务中的计算负担,本文提出了一种基于随机梯度下降优化的量子多分类支持向量机(SGD-MQSVM)算法。通过采用量子随机梯度下降法获得训练参数,并采用全对多分类支持向量机的量子方法进行多分类。算法的时间复杂性可将单次迭代的时间复杂度从经典多项式级降低到对数级。     

在线学习算法综述

随着信息技术的迅猛发展,尤其是互联网行业的广泛应用,越来越多的领域出现了对海量、高速到达的数据实时处理需求。如何从浩瀚的“数据海洋”中挖掘有用的知识变得尤为重要。传统批处理模式的机器学习算法在面临 大数据时变得力不从心,而在线学习通过流式计算框架,在内存中直接对数据实时运算,为大数据的学习提供了有力的工具,这类在线学习框架有望应对大数据背景下机器学习任务面临的困境与挑战。本文总结了经典和目前主流的在线学习算法,主要包括：(1）在线线性学习算法;(2）基于核的在线学习算法;(3）其他经典的在线学习算法;(4）在线学习算法的优化理论。本文介绍在线学习与深度学习结合方法的研究现状,探讨在线学习算法研究中的关键问题与应用场景,最后展望了在线学习下一步的研究方向。     

前言

<正>量子控制是系统控制领域与量子物理领域的研究热点问题.一方面,量子系统估计与控制是现代控制理论由宏观系统向微观系统新的发展;另一方面,新世纪以来,量子信息科学与技术取得了突飞猛进的进展,并有望成为下一代信息技术的核心.2016年8月,Google的量子计算研究团队率先完成9位量子比特的量子计算     

机器学习算法及其应用综述

机器学习是一门多学科的综合性研究,它既是基于模式识别和人工智能的一类计算机科学分支,也是人工智能的一种极其重要的研究方向。文章从机器学习经典算法、新型算法及其应用三个方面进行介绍。首先阐述了6种最常见的机器学习方法,及其机器学习算法的数据并行、聚类、分治3个主要方式；然后,在机器学习经典方法的基础上介绍了结合各专业领域的量子机器学习方法以及李群机器学习；最后,阐述了机器学习方法在各领域中的实际应用,并对机器学习未来的发展趋势做出了分析总结。     

面向认知的多源数据学习理论和算法研究进展

多源数据学习在大数据时代具有极其重要的意义.目前,多源数据学习算法研究远远超前于多源数据学习理论研究,经典的机器学习理论难以应用于多源数据学习,更难以提供多源数据学习算法在实际应用中的理论保障.从学习的最终目的是知识这一认知切入点出发,对人类学习的认知机理、机器学习的三大经典理论（计算学习理论、统计学习理论和概率图理论）以及多源数据学习算法设计这3个方面的研究进展进行总结,最后给出未来研究方向的思考.     

基于云量子花朵授粉的极限学习机算法

为了避免花朵授粉算法在极限学习机识别过程中易陷入局部最优，提出了一种基于云量子花朵授粉的极限学习机算法。首先,将云模型和量子系统引入到花朵授粉算法中，增强花朵授粉算法的全局搜索能力，使粒子能在不同状态下进行寻优。然后,采用云量子花朵授粉算法优化极限学习机的参数，提高极限学习机的识别精度和效率。实验中采用6个标准测试函数对多个算法进行仿真对比，对比结果验证了所提云量子花朵授粉算法的性能优于另外3种群智能优化算法。最后，将改进的极限学习机算法应用到油气层识别中，结果表明其识别精度达到98.62%，相较于经典极限学习机，其训练时间缩短了1.680 2 s，该算法具有较高的识别精度和效率，可以广泛应用到实际分类领域中。     

RBM学习方法对比

随着深度学习在模型、算法与理论上的突破性进展,以玻尔兹曼机为基础的各类深度模型近年来在目标识别与自然语言处理等诸多领域得到广泛应用。概述了玻尔兹曼机的相关概念,分析了受限玻尔兹曼机模型所具有的优势。对RBM中的学习方法进行了详细的描述,对应用最为广泛的受限玻尔兹曼机的几种典型学习算法进行了对比,并指出学习算法的研究在未来仍将是深度学习中的一项核心问题。     

机器学习算法在中医诊疗中的研究综述

机器学习算法包括传统机器学习算法和深度学习算法。传统机器学习算法在中医诊疗领域中的应用研究较多,为探究中医辩证规律提供了参考,也为中医诊疗过程的客观化提供了依据。与此同时,随着其在多个领域不断取得成功,深度学习算法在中医诊疗中的价值越来越多地得到业界的重视。通过对中医诊疗领域中使用到的传统机器学习算法与深度学习算法进行述评,总结了两类算法在中医领域中的研究与应用现状,分析了两类算法的特点以及对中医的应用价值,以期为机器学习算法在中医诊疗领域的进一步研究提供参考。     

面向众包数据清洗的主动学习技术

传统方法多数采用机器学习算法对数据进行清洗.这些方法虽然能够解决部分问题,但存在计算难度大、缺乏充足的知识等局限性.近年来,随着众包平台的兴起,越来越多的研究将众包引入数据清洗过程,通过众包来提供机器学习所需要的知识.由于众包的有偿性,研究如何将机器学习算法与众包有效且低成本结合在一起是必要的.提出了两种支持基于众包的数据清洗的主动学习模型,通过主动学习技术来减少众包开销,实现了对给定的数据集基于真实众包平台的数据清洗,最大程度减少成本的同时提高了数据的质量.在真实数据集上的实验结果验证了所提模型的有效性.     

大数据下的典型机器学习平台综述

由于大数据海量、复杂多样、变化快,传统的机器学习平台已不再适用,因此,设计一个高效的、通用的大数据机器学习平台成为目前的研究热点。通过介绍和分析机器学习算法的特点以及大规模机器学习的数据和模型并行化,引出常见的并行计算模型。简单介绍了整体同步并行模型（BSP）、SSP并行计算模型以及BSP、SSP模型与AP模型的区别,主要介绍了基于这些并行模型的典型的机器学习平台和这些平台的优缺点,并指出各个平台最适合处理何种大数据问题。最后从采用的抽象数据结构、并行计算模型、容错机制等方面对典型的机器学习平台进行了总结,并提出一些建议和展望。     

基于拓扑序列和量子遗传算法的贝叶斯网结构学习

贝叶斯网是处理不确定性问题知识表示和推理的最重要的理论模型之一,其结构学习是目前研究的一个热点。提出了一种基于拓扑序列和量子遗传算法的贝叶斯网结构学习算法,新算法首先利用量子信息的丰富性和量子计算的并行性,设计出基于量子染色体的拓扑序列生成策略提高了搜索效率,并为K2算法学得高质量的贝叶斯网结构提供了保障;然后采用带上下界的自适应量子变异策略,增强了种群的多样性,提高了算法的搜索能力。实验结果表明,与已有的一些算法相比,新算法不仅能获得较高质量的解,而且还有着较快的收敛速度。     

融合多模态数据的药物合成反应的虚拟筛选

药物合成反应，特别是不对称反应是现代药物化学的重要组成部分。化学家们投入了巨大的人力和资源来识别各种化学反应模式，以实现高效合成和不对称催化。量子力学计算和机器学习算法在这一领域的最新研究证明了通过计算机学习现有药物合成反应数据并进行精确虚拟筛选的巨大潜力。然而，现有方法局限于单一模态的数据来源，并且由于数据少的限制，只能使用基本的机器学习方法，使它们在更广泛场景中的普遍应用受到阻碍。因此，提出两种融合多模态数据的药物合成反应的筛选模型来进行反应产率和对映选择性的虚拟筛选，并给出了一种基于Boltzmann分布进行加权的3D构象描述符，从而将分子的立体空间信息与量子力学性质结合起来。这两种多模态数据融合模型在两个代表性的有机合成反应（C-N偶联反应和N,S-缩醛反应）中进行了训练和验证，结果表明前者的R2相对于基线方法在大多数据划分上的提升超过了1个百分点，后者的平均绝对误差（MAE）相对于基线方法在大多数据划分上的下降超过了0.5个百分点。可见，在有机反应筛选的不同任务中采用基于多模态数据融合的模型都会带来好的性能。     

单幅图像超分辨重建的深度学习方法综述

图像超分辨重建（Super-Resolution,SR）是指利用信号处理和机器学习等方法,从单幅或者多幅低分辨率图像（Low Resolution,LR）中重建对应的高分辨率图像（High Resolution,HR）的技术。由于多幅LR图像之间亚像素位移的不可预知性,单幅图像超分辨重建（Single Image Super-Resolution,SISR）逐渐成为超分辨研究的主要方向。近年来,深度学习方法得到迅速发展,并广泛应用到图像处理领域。因此,针对单幅图像超分辨重建所使用的深度学习相关算法和网络模型进行系统的总结。介绍图像超分辨问题的设置和评价指标;讨论和比较单幅图像超分辨重建的深度学习算法,主要从网络结构设计、损失函数和上采样方式三方面进行论述;介绍常用的标准数据集,并选用基于不同网络模型的几种典型算法进行实验对比分析;展望图像超分辨技术未来的研究趋势和发展方向。