深度学习中的无监督学习方法综述

从2006年开始,深度神经网络在图像/语音识别、自动驾驶等大数据处理和人工智能领域中都取得了巨大成功,其中无监督学习方法作为深度神经网络中的预训练方法为深度神经网络的成功起到了非常重要的作用. 为此,对深度学习中的无监督学习方法进行了介绍和分析,主要总结了两类常用的无监督学习方法,即确定型的自编码方法和基于概率型受限玻尔兹曼机的对比散度等学习方法,并介绍了这两类方法在深度学习系统中的应用,最后对无监督学习面临的问题和挑战进行了总结和展望.     

基于无监督表征学习的深度聚类研究进展

在大数据时代,数据通常具有规模大、维度高、结构复杂的特点,深度聚类利用深度学习结合表征学习与聚类任务,大幅提高聚类在大规模高维数据中的性能.现有文献少有着重从表征学习的角度归纳和分析目前深度聚类的发展概况,也未通过实验分析传统聚类算法、深度聚类算法及不同深度聚类算法之间的差异.因此,文中首先基于无监督表征学习,简要整理深度聚类中常用的聚类算法,重点将深度聚类算法分成基于生成模型的深度聚类与基于判别模型的深度聚类,分析聚类任务中各深度模型的表征学习过程.然后,通过实验对比分析多类算法,归纳总结优缺点,便于开展针对具体任务中的算法选择.最后,为了深度聚类的进一步发展,描述其应用场景,并讨论未来的发展趋势.     

基于深度聚类的无监督特征嵌入学习

为了提高无监督嵌入学习对图像特征的判别能力,提出一种基于深度聚类的无监督学习方法。通过对图像的嵌入特征进行聚类,获得图像之间的伪类别信息,然后最小化聚类损失来优化网络模型,使得模型能够学习到图像的高判别性特征。在三个标准数据集上的图像检索性能表明了该方法的有效性,并且优于目前大多数方法。     

基于深度强化学习的通信网络资源分配方法

由于现有的资源分配方法吞吐量小,节点缓存压力大,提出基于深度强化学习的通信网络资源分配方法。首先,运用深度强化学习法提取数据特征,增强模型的学习能力。其次,根据当前的状态做出最佳的动作,选择对应的分配动作,调整资源比例。最后,构建异构网络模型,共享网络中的频谱资源。实验结果表明,当迭代次数增加到150次时,该方法的吞吐量达到平稳状态,优于对照组。     

无监督深度学习模型的多聚焦图像融合算法

深度学习技术应用到多聚焦图像融合领域时,其大多通过监督学习的方式来训练网络,但由于缺乏专用于多聚焦图像融合的监督训练的标记数据集,且制作专用的大规模标记训练集代价过高,所以现有方法多通过在聚焦图像中随机添加高斯模糊进行监督学习,这导致网络训练难度大,很难实现理想的融合效果。为解决以上问题,提出了一种易实现且融合效果好的多聚焦图像融合方法。通过在易获取的无标记数据集上以无监督学习方式训练引入了注意力机制的encoder-decoder网络模型,获得输入源图像的深层特征。再通过形态聚焦检测对获取的特征进行活动水平测量生成初始决策图。运用一致性验证方法对初始决策图优化,得到最终的决策图。融合图像质量在主观视觉和客观指标两方面上进行评定,经实验结果表明,融合图像清晰度高,保有细节丰富且失真度小。     

基于深度特征的无监督图像检索研究综述

基于内容的图像检索(content-based image retrieval, CBIR)是一项极具挑战的计算机视觉任务.其目标是从数据库图像中找到和查询图像包含相同实例的图像.一个典型的图像检索流程包括2步:设法从图像中提取一个合适的图像的表示向量和对这些表示向量进行最近邻搜索以找到相似的图像.其中,决定图像检索算法性能的关键在于其提取的图像表示的好坏.图像检索中使用的图像表示经历了基于手工特征和基于深度特征两大时期,每个时期又有全局特征和局部特征2个阶段.由于手工特征的表示能力有限,近年来图像检索的研究主要集中在如何利用深度特征.将以提取图像表示的不同思路为线索,回顾无监督图像检索领域的发展历程,介绍该领域的一些代表性算法,并比较这些算法在常用数据集上的性能表现,最后探讨未来的研究方向.     

基于无监督深度学习的跨模态数据目标检索

为解决传统方法关联误差较高,影响检索结果的准确性的问题,提出基于无监督深度学习的跨模态数据目标检索方法,利用各层自编码器及其参数,得到自编码器的编码,通过对编码的逐层初始化策略,对栈式自编码神经网络实施初始化处理,并将隐含层神经单元激活状态作为下一层级的输入,初始化对应层网络参数,采用逐层初始化与整体反馈策略,训练基本...     

基于深度强化学习的移动边缘计算资源分配策略

边缘计算作为云计算技术的延伸,可通过增强边缘网络计算能力为用户提供低时延高质量服务。边缘计算中,需要将服务部署于资源受限的边缘服务器,并根据需求合理分配计算资源,以提高边缘服务器的资源利用率。因此,提出基于深度强化学习的服务资源分配方法,利用反正切函数两次映射建立计算资源分配函数,并基于真实数据集进行仿真实验。实验结果表明,该方法能够在保证低时延的情况下,合理分配计算资源。     

基于伪成对标签的深度无监督哈希学习

无监督的深度哈希学习方法由于缺少相似性监督信息,难以获取高质量的哈希编码.因此,文中提出端到端的基于伪成对标签的深度无监督哈希学习模型.首先对由预训练的深度卷积神经网络得到的图像特征进行统计分析,用于构造数据的语义相似性标签.再进行基于成对标签的有监督哈希学习.在两个常用的图像数据集CIFAR-10、NUS-WIDE上的实验表明,经文中方法得到的哈希编码在图像检索上的性能较优.     

面向资源最优分配的深度学习双边拍卖算法

针对拍卖过程中计算效率低和利益分配不合理等问题, 本文提出了一种基于深度学习的迭代双边拍卖算法. 该算法通过买卖双方的初始报价数据训练基于神经网络的资源最优分配模型, 调用训练好的模型对实时报价数据快速响应, 直接求解经纪人最优分配问题(BAP)以实现计算资源分配, 显著地减小了计算代价, 提高了算法的计算效率. 进一步, 针对利益分配不合理等问题, 在迭代双边拍卖框架的支出规则和收入规则中引入调节因子用于调节买卖双方的利益, 解决已有算法在实现社会福利最大化过程中利益分配不合理的问题. 实验结果验证了该算法的有效性和优越性, 在运行时间、社会福利、买家利益、卖家利益和经纪人利益等多项指标均明显优于已有的迭代双边拍卖算法     

基于能效的多小区LTE系统资源分配算法

针对多小区LTE移动通信系统,考虑用户的最小速率要求,以最大化系统能效为目标,提出了一种迭代式的资源分配算法,通过不断迭代子信道分配和功率控制两个子过程来优化系统能效.针对子信道分配问题,提出了一种基于三种基本模式的子信道调整算法;针对功率控制问题,建立了多小区非合作博弈模型,理论证明了纳什均衡点的存在性,并设计了算法收敛于该纳什均衡点.仿真结果表明,与多小区最大化系统吞吐量算法相比,提出的算法获得了明显的能效增益,同时也达到了较好的系统吞吐量,尤其在强干扰环境下该算法的优势更加明显.     

Reinforcement learning for resource allocation in LEO satellite networks.

In this paper, we develop and assess online decision-making algorithms for call admission and routing for low Earth orbit (LEO) satellite networks. It has been shown in a recent paper that, in a LEO satellite system, a semi-Markov decision process formulation of the call admission and routing problem can achieve better performance in terms of an average revenue function than existing routing methods. However, the conventional dynamic programming (DP) numerical solution becomes prohibited as the problem size increases. In this paper, two solution methods based on reinforcement learning (RL) are proposed in order to circumvent the computational burden of DP. The first method is based on an actor-critic method with temporal-difference (TD) learning. The second method is based on a critic-only method, called optimistic TD learning. The algorithms enhance performance in terms of requirements in storage, computational complexity and computational time, and in terms of an overall long-term average revenue function that penalizes blocked calls. Numerical studies are carried out, and the results obtained show that the RL framework can achieve up to 56% higher average revenue over existing routing methods used in LEO satellite networks with reasonable storage and computational requirements.     

Optimization of resource allocation for underlay device-to-device communications in cellular networks

Underlay device-to-device (D2D) communication in cellular networks has been considered as a promising technique that can improve the spectral efficiency of cellular systems and meet the growing demand for wireless local services. In underlay D2D, it is of primary importance to manage the mutual interference between cellular links and D2D links through effective resource allocation. While most of previous works on D2D resource allocation are developed based on the knowledge of the channel state information (CSI) on the interference channels as well as the desired channels, it is hard to obtain full CSI in practice. Accordingly, we consider D2D resource allocation schemes based on distance between nodes. In particular, we formulate two optimization problems for D2D resource allocation using the outage probability computed based on the distance information as cost functions. One is a linear sum assignment problem (LSAP) and the other is a linear bottleneck assignment problem (LBAP). By applying the graph theory, we provide efficient algorithms for solving the optimization problems. Numerical results are provided to show the effectiveness of the proposed optimization as compared to previously proposed distance-based resource allocation algorithms.     

基于资源分配网络的小数据集并行集成学习方法

机器学习领域中,如何在小规模的训练数据集上获得一个具有稳定的高计算精度的算法模型,一直以来都是一个棘手而富有挑战的问题。从算法模型出发,提出了一种基于扩展卡尔曼滤波器的资源分配网络并行集成学习方法。该集成系统由多个带有扩展卡尔曼滤波器的资源分配网络（RANEKF）组成,并且每个RANEKF子网的输入由原始数据集中的输入经过随机权值的修正得到。通过和其他神经网络构成的集成学习算法的实验对比,发现提出的方法在小训练集上拥有更高的计算精度和稳定性。     

异构蜂窝网络中联合功率控制的终端直通通信资源分配

针对异构蜂窝网络中终端直通（D2D）用户和小蜂窝用户复用宏蜂窝用户资源产生的干扰问题,提出一种联合功率控制的资源分配方案。首先,在满足用户信号干扰噪声比（SINR）和发射功率约束条件的前提下,根据系统干扰模型推导出每个D2D用户和小蜂窝用户复用宏蜂窝用户信道资源时的最优发射功率;其次,将用户的信道选择规划成用户和信道之间的双边匹配问题,采用延迟接受（Gale-Shapley）算法得到一个稳定的匹配解;最后,以所得的匹配解为初始条件,通过交换搜索算法进一步优化分配方案。仿真结果表明,该方案的系统总容量和能量效率分别是最优解的93.62%和92.14%,与随机资源分配方案、无功率控制和交换搜索的分配方案,以及有功率控制无交换搜索的分配方案相比,系统容量平均增幅分别为48.29%、15.97%和4.8%,系统能量效率平均增幅分别为62.72%、44.48%和4.45%。该方案能够达到近似最优的系统总容量,有效提高频率利用率和能量效率。     

基于NBS优化的认知网络高能效资源分配

在具有多个次级用户的认知无线电网络中,资源分配问题通常需要同时考虑能效、网络编码的合作传输.针对多次级用户的资源分配问题,使用纳什议价方案建立了一种博弈.该博弈使用考虑成对策略的NBS函数和作为网络优化目标,并使用上下文环境作为约束;引入对次级用户间的双赢合作,使系统的吞吐量和公平性性能得到了改善,并基于此提出了一种高能效的次优资源分配方案.仿真结果显示,所提算法在公平性和能量效率两方面折中的性能要好于通常的距离成对机制,同时其计算复杂度也低于遍历搜索最优化方法.     

Deep unsupervised learning based on color un-referenced loss functions for multi-exposure image fusion

In this paper, an unsupervised learning-based approach is presented for fusing bracketed exposures into high-quality images that avoids the need for interim conversion to intermediate high dynamic range (HDR) images. As an objective quality measure – the colored multi-exposure fusion structural similarity index measure (MEF-SSIMc) – is optimized to update the network parameters, the unsupervised learning can be realized without using any ground truth (GT) images. Furthermore, an unreferenced gradient fidelity term is added in the loss function to recover and supplement the image information for the fused image. As shown in the experiments, the proposed algorithm performs well in terms of structure, texture, and color. In particular, it maintains the order of variations in the original image brightness and suppresses edge blurring and halo effects, and it also produces good visual effects that have good quantitative evaluation indicators. Our code will be publicly available at https://github.com/cathying-cq/UMEF.     

全双工D2D通信系统下的一种资源分配算法

将全双工技术运用到D2D(Device-to-Device)通信中,可以增大D2D用户的吞吐量进而提高系统吞吐量,但全双工通信带来的自干扰也不可避免。考虑多个D2D用户对可共享相同的蜂窝用户资源,此时D2D用户对之间将产生同频干扰。针对该问题,在系统中用户正常通信的前提下,提出了一种基于图论中点着色的资源分配算法。该算法将D2D用户对之间的同频干扰限制在可接受范围内,利用图论中图的点着色算法协调D2D用户对和蜂窝用户之间的资源以最大化系统的吞吐量。仿真结果表明,相比于传统的半双工D2D通信,该算法有效地提高了D2D用户的通信质量,并提升了整个蜂窝网络的系统容量。     

Reinforcement learning based resource allocation in business process management

Efficient resource allocation is a complex and dynamic task in business process management. Although a wide variety of mechanisms are emerging to support resource allocation in business process execution, these approaches do not consider performance optimization. This paper introduces a mechanism in which the resource allocation optimization problem is modeled as Markov decision processes and solved using reinforcement learning. The proposed mechanism observes its environment to learn appropriate policies which optimize resource allocation in business process execution. The experimental results indicate that the proposed approach outperforms well known heuristic or hand-coded strategies, and may improve the current state of business process management.