无监督域适应的表示学习算法

在传统模式识别的训练方法中,拥有大量标签的有监督学习方法在识别准确率上取得了很好的效果.然而在实际生活中样本常常缺失标签,或现存有标签的样本与目标样本具有较大分布差异而不能直接使用.为了解决这些问题,无监督域自适应算法应运而生,借助源域有标签但不同分布的样本去识别无标签的目的域样本.针对目标识别样本与训练样本分布不一致...     

面向特征生成的无监督域适应算法

针对无标签高维图像分类问题,常用的深度网络在无标签的情况下难以产生好的分类结果。为此,提出一种面向特征生成的无监督域适应模型(Feature-GAN),它以一种无监督的方式在特征层面学习从一个域到另一个域转换,将源域图像特征映射为目标域图像特征并保持标签信息,生成的带标签特征可用于目标域特征的分类训练。该模型在复杂图像域适应上避免了图像本身的生成过程,而专注于特征生成,易训练且稳定性高。实验表明,该方法可以广泛应用于复杂图像分类的场景,相比于传统基于样本生成的无监督域适应算法,该算法在精确度、收敛速度以及稳定性上均有提高。     

基于迁移学习的跨域异常流量检测

基于已知数据的机器学习模型在实际异常流量检测任务中不完全可靠,为此,将不同分布的流量分别作为源域和目标域,建立跨域网络异常流量检测框架,提出了基于联合分布适配的迁移学习方法.通过寻找最优变换矩阵、适配源域与目标域之间的条件概率和边缘概率,实现源域与目标域间的特征迁移,从而解决由于源域与目标域分布差异大所引起的检测准确率下降等问题.实验结果表明,所提方法可以显著提升跨域流量的检测准确率.     

分类器动态组合及基于分类器组合的集成学习算法

针对目前基于分类器静态组合的集成学习算法难于推广的问题,根据组合分类器分类错误最小化原则,研究了组合系数随分类器输出变化而变化的分类器动态组合理论,包括组合系数的选取、组合分类器分类错误率的估计等.证明了在分类器相互独立时,一些动态组合分类器等价于Bayes统计推断.提出了基于分类器组合的通用集成学习算法,并把AdaBoost、Real AdaBoost、Gentle AdaBoost算法推广到了多分类问题.证明了按照集成学习算法得到的分类器,其动态组合的有效性可不依赖于分类器的独立性,这支撑了基于分类器相互独立假设来研究分类器组合的有用性.最后,通过UCI数据实验验证了动态组合的有效性.     

类别语义信息对齐的无监督领域自适应网络

针对在目标应用场景中缺乏大量有标定训练数据的情况下难以获得有效的深度学习分类模型的问题,结合领域分布差异的方法与对抗学习方法的优势,提出以显式特征对齐与隐式领域对抗及类别对齐为基础的领域自适应框架.对于显式特征对齐模块,考虑到领域知识差异大带来的优化难题,采用渐进式协同优化策略,通过逐层减小不同语义层之间的领域差异,提升领域自适应性能.对于隐式类别对齐模块,为了增强目标特征的判别性,使用自训练方法获得伪标签,克服伪标签存在的标签噪声问题,并通过学习混淆矩阵优化伪标签的准确率,自动构造新的目标领域损失函数,从而在减小领域间差异的同时,提升源领域与目标领域相同类别的特征分布对齐的准确性.基于Office-31数据集的6个跨领域分类任务与基于Office-Home数据集的12组跨领域分类任务的实验结果表明,该方法在迁移学习任务上的平均分类准确率相较于基准方法分别提升11.9%和19.9%,所提出网络对于领域自适应任务是有效的.     

基于无监督深度学习的多聚焦图像融合

摄像机镜头受景深限制,不能同时聚焦距离差别较大的不同物体,导致单次曝光的图像聚焦处图像清晰,未聚焦处图像模糊。为了将多幅不同聚焦情况的图像融合成为一幅全清晰图像,文章提出了一种基于自编码器的无监督卷积神经网络,网络以融合图像与输入图像的结构相似度为目标,增加局部信息加权值,以融合后图像能最大程度地获取原始图像中的有效信息构建损失函数,最终训练网络进行图像融合。该方法在公共基准数据集上取得了较好的表现,与多种方法相比,融合结果的客观指标与主观感受均有明显的提高。     

基于递归双对抗网络模型的人脸表情生成

针对目前表情生成网络中存在的人脸表情失真、不同帧间图像明暗差异明显的问题,提出一种基于递归双对抗网络模型的人脸表情生成框架。首先通过提取深度人脸特征并生成表情特征图,将其作为监督信号,生成人脸表情种子图像;然后使用生成的种子图像和原始目标人脸一起作为输入,生成特征保持图像,作为当前帧的输出,同时该特征保持图像也作为下一帧种子图像生成的输入;最后,将种子图像生成网络和特征保持图像生成网络递归进行下一帧图像的生成,多次递归得到与原始输入表情一致的特征保持人脸表情视频序列。在CK+和MMI数据库上的实验结果表明,提出的方法能够生成清晰自然的人脸表情视频帧,且在目标人脸形状和驱动的表情特征图像有较大形状差异时具有鲁棒性。     

一种基于无监督学习的空间域图像融合方法

针对多焦点图像融合问题,提出一种新的无监督深度学习模型。首先,训练一个无监督的编解码器网络来提取输入图像的深层特征,然后利用这些特征和空间频率来测量图像像素活跃度并得到决策图。最后,应用一致性验证方法对决策图进行调整,得出融合结果。该方法的关键在于,只有在景深(DOF)范围内的物体在照片中才有明显的锐度,而其他物体很可能是模糊的。本方法是在深度特征上分析锐度的特征,而不是原始图像。实验结果表明,与已有的16种融合方法相比,该方法在客观评价和主观评价方面均取得了较好的融合效果。     

基于深度双向分类器链的多标签新闻分类算法

在多标签新闻分类问题中,针对传统分类器链算法难以确定标签依赖顺序、集成模型运行效率低和无法应用复杂模型作为基分类器的问题,提出基于深度神经网络的双向分类器链算法. 该方法利用正向分类器链获取每个标签和前面所有标签的依赖关系,引入逆向分类器链,从正向链最后一个基分类器的输出开始反向学习每个标签和所有其他标签的相关性. 为了提取非线性标签相关性和提高预测性能,使用深度神经网络作为基分类器. 结合2条分类器链的均方误差,使用随机梯度下降算法对目标函数进行有效优化. 在多标签新闻分类数据集RCV1-v2上,将所提算法与当前主流的分类器链算法和其他多标签分类算法进行对比和分析. 实验结果表明,利用深度双向分类器链算法能够有效提升预测性能.     

结合注意力与无监督深度学习的单目深度估计

针对当前的无监督单目深度估计方法边界模糊的问题, 提出了一种基于双重注意力模块的网络架构。这种架构能有效利用图像特征的远程上下文信息解决深度估计中的边界模糊问题。整个框架使用基于视图合成的无监督方法训练, 模型框架包括深度估计网络与位姿估计网络, 同步估计深度和相机位姿变换。双重注意力模块嵌入在深度估计网络中, 包含位置注意力模块和通道注意力模块, 能表示远程空间位置和不同特征图间的上下文信息, 从而使网络估计出细节更好的深度信息。在KITTI数据集以及Make3D数据集上的实验结果表明, 本文的方法能有效提高单目深度估计的精度和解决深度估计边界模糊问题。     

一种基于多支持向量机分类器的并行学习算法

为了在并行计算系统中应用支持向量机,提出一种基于多支持向量机分类器的并行学习算法.分析了w-model算法的不足,并在训练过程中采用循环式反馈更新各支持向量机分类器以避免样本的分布状态对各分类器性能的影响,提高各分类器的训练精度.学习过程以平均分类精度为阈值,对部分分类器重新训练,实现对多分类器学习系统性能的全局优化.在UCI标准测试数据集上进行的实验结果表明,循环式反馈能有效地平衡多分类器学习性能相差过大的问题,算法较w-model具有更高的训练效率和分类效率.     

基于变分量子分类器的量子对抗攻击生成算法

量子分类器在扰动攻击下的脆弱性是量子机器学习中的基本理论问题之一。量子分类器的脆弱性是指其随着量子系统规模增大而更容易因为一些微小的扰动而分类错误的性质。这种微小扰动也被称为量子对抗攻击,而如何生成尽可能小的扰动使得量子分类器失效仍是一个开放问题。针对这一问题,提出了一种新的量子对抗攻击生成算法——量子混淆算法。该算法利用量子分类器关于输入数据的梯度信息来生成扰动,从而使得已训练好的量子分类器失效。数值仿真结果表明,与已有的量子对抗攻击方法相比,量子混淆算法可以通过更小的扰动实现对抗攻击,为理解分类器的有效性和脆弱性提供了新的思路。     

基于混合Hausdorff距离的多示例学习近邻分类器

通过对最小和最大Hausdorff距离的分析,提出混合Hausdorff距离将它们融合在一起以弥补任意单一Hausdorff距离的缺陷,并基于混合Hausdorff距离设计多示例学习近邻分类器。采用近邻分量分析模型能够优化混合Hausdorff距离中的权系数,从而得到在近邻分类准则下最优的混合Hausdorff距离。结果表明:相对于任意单一Hausdorff距离,基于混合Hausdorff距离的多示例学习近邻分类器通常能够获得更高的识别精度。     

基于轴向积分双谱与灰色关联分类器的通信辐射源识别

针对现有技术对通信辐射源个体识别率低、占据计算资源的问题, 进行了无线通信辐射源特征提取和分类以及物理层认证的相关研究, 提出了一种基于轴向积分双谱(AIB)和灰色关联分类器(GRC)的通信辐射源个体识别模型。首先将预处理的辐射源无线信号进行双谱变换, 提取二维双谱特征, 然后以AIB和主成分分析(PCA)理论进行一维特征映射及降维, 最后通过GRC实现无线通信辐射源的物理层识别。该模型具备认证速度快、计算复杂度低、多系统易移植等特点, 且无需考虑各种通信协议及编码设定。     

基于多支持向量机分类器的增量学习算法研究

为了将一般增量学习算法扩展到并行计算环境中,提出一种基于多支持向量机分类器的增量学习算法.该算法根据多分类器对新增样本集的分类结果,以样本到分类超平面的平均距离为条件重新构造支持向量集更新分类器,直到所有分类器的分类精度满足指定阈值.实验结果表明了该算法的可行性和正确性.     

基于AlexNet和集成分类器的乳腺癌计算机辅助诊断方法

为解决在计算机辅助诊断(computer aided diagnosis, CAD)中采用人工提取医学影像特征的弊端,在ImageNet数据集上预训练深度神经网络模型Alexnet,通过迁移学习再训练后的Alexnet模型对医学影像进行特征提取,利用集成学习方法训练分类器进行分类。试验结果表明,基于Alexnet和随机森林方法的分类器正确率达到了0.87±0.03,集成分类器的分类性能优于单一分类器。     

基于双神经网络分类器的脱机手写体汉字识别

脱机手写体汉字识别因其自身的复杂性,系统的实现具有很大的困难。现有的方法,多针对小字符集。为了能在更大的字符集内实现脱机手写体汉字识别,文章结合双重特征提取方法,提出了将双神经网络分类器引入脱机手写体汉字识别。该方法提取汉字字符的2组特征,将2组特征输入双重神经网络进行并行训练,再经过后处理选择最优结果。将该方法与用于小字符集的SVM方法进行了比较,结果表明其识别率明显高于SVM方法,说明双神经网络在脱机手写体汉字识别中有较强的可行性和实用性。     

基于自监督任务的多源无监督域适应法

针对多源聚合下同时对齐域不变特征较困难而造成分类精度不高的问题, 提出基于自监督任务的多源无监督域适应法. 该方法引入旋转、水平翻转和位置预测3个自监督辅助任务, 通过伪标签性、语义信息的一致性对无标签数据进行自适应的对齐优化. 构建新的优化损失函数, 减少多域公共类别的分类差异. 针对类别不均衡的问题, 基于少样本大权重的原则, 定义动态权重参数, 提高模型的分类性能. 在公开的Office-31、Office-Caltech10 2种基准数据集上, 与现有的主流方法进行实验对比. 实验结果表明, 在类别均衡、不均衡2种情况下, 分类精度最高可以提高6.8%.     

一种基于深度学习的双JPEG图像压缩检测算法

双JPEG图像压缩检测是图像盲取证中的研究热点之一。针对JPEG图像压缩检测盲取证问题,提出了一种在双JPEG格式下基于卷积神经网络（CNN）的压缩检测算法。将图像数据集中的样本以不同的质量因子进行单JPEG压缩和双JPEG压缩,把检测图像的DCT系数直方图作为CNN网络的输入进行特征提取,输出层是样本类别的概率分类。实验结果表明,样本尺寸越大,篡改后的质量因子越大,分类器检测正确率越高;与现有算法相比,提出的算法检测正确率最高提高了1.3%,证明具有良好的双JPEG图像压缩性能检测能力。     

基于多智能体强化学习的域间多链路路由优化

现代信息网络的规模不断扩大,对互联网跨域数据通信的带宽和路由灵活性提出更高的要求。现有域间路由协议如边界网关协议(Border Gateway Protocol, BGP)无法基于网络性能做出智能路由决策,容易导致网络拥塞,降低网络传输性能。提出可扩展的基于多智能体强化学习的域间多链路路由优化机制,通过实时感知域间多条链路上的流量分布状态,动态调整域间链路路由选择,从而最大化经过每个自治系统的网络流量,提高网络整体的吞吐量。实验结果表明,相比随机算法和SPF算法,所提算法最多可分别提高26.1%和16.4%的网络吞吐量,且能实现域间多链路间的流量均衡。