条件概率图产生式对抗网络

产生式对抗网络(generative adversarial networks,简称GANs)可以生成逼真的图像,因此最近被广泛研究.值得注意的是,概率图生成对抗网络(graphical-GAN)将贝叶斯网络引入产生式对抗网络框架,以无监督的方式学习到数据的隐藏结构.提出了条件概率图生成对抗网络(conditional graphical-GAN),它可以在弱监督环境下,利用粗粒度监督信息来学习到更精细而复杂的结构.条件概率图生成对抗网络的推理和学习遵循与graphical-GAN类似的方法.提出了条件概率图生成对抗网络的两个实例.条件高斯混合模型(conditional Gaussian mixture GAN,简称cGMGAN)可以在给出粗粒度标签的情况下从混合数据中学习细粒度聚类.条件状态空间模型(conditional state space GAN,简称cSSGAN)可以在给定对象标签的情况下学习具有多个对象的视频的动态过程.     

融合显隐式反馈的协同过滤推荐模型

融合显式和隐式反馈已被应用于提升推荐模型的性能,但是,现有的此类推荐模型未能保留显式反馈中反映用户偏好程度的信息,且现有研究认为拥有显式反馈的数据和仅拥有隐式反馈的数据对于模型具有同等影响,未能充分发挥显式反馈的优势.针对这些问题,提出一种新的融合显式和隐式反馈的协同过滤推荐模型(CEICF).首先,所提出模型提取显式反馈中的特征得到用户/物品的全局偏好向量;然后,从隐式反馈中提取用户/物品的潜在向量,进而将两种向量进行融合得到用户/物品的偏好向量;最后,使用神经网络预测用户与物品交互的可能性.在训练模型时,定义一种加权的二进制交叉熵损失函数,加强显式反馈对模型的影响来增强模型捕获用户偏好的能力.为了验证所提出模型的有效性,在覆盖不同领域的现实数据集上进行实验,实验结果表明,CEICF可有效地融合显式和隐式反馈,且推荐效果相对于基线模型有显著提升.     

基于显式与隐式反馈信息的概率矩阵分解推荐

针对现有的基于用户显式反馈信息的推荐系统推荐准确率不高的问题,提出了一种基于显式与隐式反馈信息的概率矩阵分解推荐方法。该方法综合考虑了显示反馈信息和隐式反馈信息,在对用户信任关系矩阵和商品评分矩阵进行概率分解的同时加入了用户评分记录的隐式反馈信息,优化训练模型参数,为用户提供精确的预测评分。实验结果表明,该方法可以有效地获得用户偏好,产生大量的准确度高的推荐。     

生成对抗网络在各领域应用研究进展

随着深度学习的快速发展, 生成式模型领域也取得了显著进展. 生成对抗网络(Generative adversarial network, GAN)是一种无监督的学习方法, 它是根据博弈论中的二人零和博弈理论提出的. GAN具有一个生成器网络和一个判别器网络, 并通过对抗学习进行训练. 近年来, GAN成为一个炙手可热的研究方向. GAN不仅在图像领域取得了不错的成绩, 还在自然语言处理(Natural language processing, NLP)以及其他领域崭露头角. 本文对GAN的基本原理、训练过程和传统GAN存在的问题进行了阐述, 进一步详细介绍了通过损失函数的修改、网络结构的变化以及两者结合的手段提出的GAN变种模型的原理结构, 其中包括: 条件生成对抗网络(Conditional GAN, CGAN)、基于Wasserstein 距离的生成对抗网络(Wasserstein-GAN, WGAN)及其基于梯度策略的WGAN (WGAN-gradient penalty, WGAN-GP)、基于互信息理论的生成对抗网络(Informational-GAN, InfoGAN)、序列生成对抗网络(Sequence GAN, SeqGAN)、Pix2Pix、循环一致生成对抗网络(Cycle-consistent GAN, Cycle GAN)及其增强Cycle-GAN (Augmented CycleGAN). 概述了在计算机视觉、语音与NLP领域中基于GAN和相应GAN变种模型的基本原理结构, 其中包括: 基于CGAN的脸部老化应用(Face aging CGAN, Age-cGAN)、双路径生成对抗网络(Two-pathway GAN, TP-GAN)、表示解析学习生成对抗网络(Disentangled representation learning GAN, DR-GAN)、对偶学习生成对抗网络(DualGAN)、GeneGAN、语音增强生成对抗网络(Speech enhancement GAN, SEGAN)等. 介绍了GAN在医学、数据增强等领域的应用情况, 其中包括: 数据增强生成对抗网络(Data augmentation GAN, DAGAN)、医学生成对抗网络(Medical GAN, MedGAN)、无监督像素级域自适应方法(Unsupervised pixel-level domain adaptation method, PixelDA). 最后对GAN未来发展趋势及方向进行了展望.     

一种面向排序的Top-N推荐算法

研究用户优化服务算法问题,应为用户提供个性化的推荐服务的系统.Top-N推荐问题,是指通过对用户历史偏好信息的挖掘,给每个用户推荐N个最可能喜好的内容.针对上述问题,提出了一种面向排序的推荐算法EIBRO-MF,通过融合系统中的显式和隐式反馈数据,建立用户喜好的偏序对关系来训练协同过滤的参数模型,最后利用优化的模型参数给出推荐结果.仿真结果表明,与传统的协同过滤算法、以及只能利用隐式反馈数据的排序算法相比,提出的算法能大幅提高推荐列表的排名精准度.     

面向隐式反馈的推荐系统研究现状与趋势

推荐系统作为解决信息过载的一种有效手段,已成为工业界和学术界的研究热点,它依据用户的显式或隐式反馈信息推测其需求、兴趣等,将其偏好的信息、产品等推荐给他们。面向显式反馈信息的推荐方法是目前的主流,而隐式反馈信息的普遍性使得基于此类的推荐方法具有更广的适用性,但是,隐式反馈信息并不能直接反映用户的偏好,因而利用它进行推荐具有很大的挑战。首先阐述了隐式反馈的特性以及基于此类信息进行推荐的必要性和所面临的问题;然后对面向隐式反馈的推荐算法给出了全面的、系统的分类,在此基础上比较了各类隐式反馈的推荐方法的优、缺点,并进一步分析了适用于隐式反馈推荐方法的多种评价指标;最后讨论了面向隐式反馈推荐方法的未来发展方向。     

融合显/隐式反馈的社会化协同排序推荐算法

传统的基于评分预测的社会化协同过滤推荐算法存在预测值与真实排序不匹配的固有缺陷,而基于排序预测的社会化协同排序推荐算法更符合真实的应用场景。然而,现有的大多数基于排序预测的社会化协同排序推荐算法要么仅仅关注显式反馈数据,要么仅仅关注隐式反馈数据,没有充分挖掘这些数据的价值。为充分挖掘用户的社交网络和推荐对象的显/隐式评分信息,同时克服基于评分预测的社会化协同过滤推荐算法存在的固有缺陷,在xCLiMF模型和TrustSVD模型基础上,提出一种新的融合显/隐式反馈的社会化协同排序推荐算法SPR_SVD++。该算法同时挖掘用户评分矩阵和社交网络矩阵中的显/隐式信息,并优化排序学习的评价指标预期倒数排名（ERR）。在真实数据集上的实验结果表明,采用归一化折损累计增益（NDCG）和ERR作为评价指标,SPR_SVD++算法均优于最新的TrustSVD、MERR_SVD++和SVD++算法。可见SPR_SVD++算法性能好、可扩展性强,在互联网信息推荐领域有很好的应用前景。     

生成对抗网络的三维生成及其应用研究综述

生成式对抗网络(GAN)具有比传统机器学习算法更强大的特征学习和特征表达能力,基于GAN的三维生成是当前研究的热点方向之一.本文以基于生成式对抗网络的三维生成模型及其应用为研究对象,阐述了GAN的研究现状与研究方向,归纳出生成式对抗网络在三维室内场景生成、三维人体等多个三维生成研究方向的研究现状和发展趋势,并对各研究方向进行深入探讨与总结,通过对比分析每种方法的基本思想、特点及使用场景等,对未来可能的发展方向进行了展望.当前已有多种GAN模型应用在三维生成的任务中,在生成效果与性能上各有优劣.这些基于GAN的三维生成模型在低分辨率场景与单一场景下效果显著,生成的三维目标效果较完整真实,但对于生成高质量多目标的应用场景需进一步研究.GAN作为一种新的三维生成模型具有很高的研究与应用价值,但目前仍存在一些理论上的限制,在应用方面生成多目标或高质量三维室内外场景生成是值得研究的方向.     

融合元数据及隐式反馈信息的多层次联合学习推荐方法

基于隐式反馈信息的推荐是目前推荐系统领域的重要方法,能在一定程度上解决显式信息难以获得的问题。但由于隐式数据本身的特点单纯利用隐式反馈信息往往难以获取较好的推荐性能。针对此问题,本文提出一种融合元数据及隐式反馈信息的多层次深度联合学习（Multi-level Deep Joint Learning,简称MDJL）的推荐方法。它利用双深度神经网络共同学习,其中一个网络利用隐式反馈学习用户及项目个体个性化关系,另一个网络利用元数据学习高层次群体共性化关系,从而有效地表达用户偏好,使MDJL框架在个体及群体因素间达到平衡。实验结果表明,MDJL推荐算法在MovieLens 100K和MovieLens 1M两个公开数据集上均表现出更优越的推荐性能。     

引入隐式反馈的多维度推荐算法

针对显式反馈信息作出的推荐在准确率和数据稀疏性处理上还存在缺陷的问题,因此引入隐式反馈信息,设计和实现了一种引入隐式反馈的多维度推荐算法（iMCF）。该算法涵盖用户、项目和隐式反馈三个维度的信息。对于前两个维度的信息,通过云模型相似度建模;而隐式反馈维度的信息,主要是结合概率矩阵分解模型进行处理。之后再把这三个维度得出的预测评分根据权值进行平衡,得出最终预测评分并作出推荐。实验数据表明,该算法在召回率和准确率上的表现相对于其他算法有了较为明显的提升,且适合大数据环境。     

生成对抗网络研究综述

自生成对抗网络GAN提出以后,现这一方向已成为人工智能方向的研究热点.GAN的思想采用二人零和博弈方法,由生成器和判别器构成,生成器负责生成样本分布,判别器则判别输入是真实样本还是生成样本,生成器和判别器不断交互优化,最终达到最优效果.GAN模型的提出无疑是很新颖的,但也存在很多缺点,比如梯度消失问题、模式崩溃等.随着研究的深入,GAN不断优化扩展,GAN的衍生模型也层出不穷.GAN可应用于不同领域,主要为计算机图像和视觉领域,在图像领域有着突出的效果,能生成高分辨率逼真的图像,能对图像进行修复、风格迁移等,也能生成视频并进行预测等.GAN也能生成文本,可以进行对话生成、机器翻译、语音生成等.同时,GAN在其他领域也有涉及,比如生成音乐、密码破译等.但是GAN在其他领域的应用效果并不显著,那么,如何提高GAN在其他领域的应用效果将值得深入研究,使生成对抗网络在人工智能方面大放异彩.     

生成对抗网络研究综述

生成对抗网络(GAN)是一种基于深度学习的强大生成模型,目前广泛应用于计算机视觉、自然语言处理、半监督学习等领域,并取得了显著的成果。随后研究人员通过对GAN的生成器、判别器做结构上的改进或对目标函数等进行优化,提出了更多种的GAN。首先介绍GAN的研究进展和基本思想,其次对一些经典的GAN,如深度卷积生成对抗网络(DCGAN)、条件生成对抗网络(CGAN)、WGAN和超分辨率生成对抗网络(SRGAN)等进行综述,最后对GAN的相关工作进行总结与展望。     

基于条件深度卷积生成对抗网络的图像识别方法

生成对抗网络（Generative adversarial networks,GAN）是目前热门的生成式模型.深度卷积生成对抗网络（Deep convolutional GAN,DCGAN）在传统生成对抗网络的基础上,引入卷积神经网络（Convolutional neural networks,CNN）进行无监督训练;条件生成对抗网络（Conditional GAN,CGAN）在GAN的基础上加上条件扩展为条件模型.结合深度卷积生成对抗网络和条件生成对抗网络的优点,建立条件深度卷积生成对抗网络模型（Conditional-DCGAN,C-DCGAN）,利用卷积神经网络强大的特征提取能力,在此基础上加以条件辅助生成样本,将此结构再进行优化改进并用于图像识别中,实验结果表明,该方法能有效提高图像的识别准确率.     

基于条件生成式对抗网络的情感语音生成模型

提出了一种基于条件生成对抗网络的情感语音生成技术,在引入情感条件的基础上,通过学习语音库中的情感信息,能够自主生成全新的富有指定情感的语音.生成式对抗网络是由一个判别网络和一个生成器组成.使用TensorFlow作为学习框架,利用条件GAN模型对大量情感语音进行训练,利用语音生成网络G和生成网络D构成动态"博弈过程",...     

基于SGAN的中文问答生成研究

生成对抗网络GAN(Generative adversarial networks)仅适用于解决连续型数据,同时中文对话模型训练缺乏高质量的样本数据集。研究开放域中文闲聊的问答生成,对话文本是离散型数据,GAN的使用受到限制。设计新的序列对抗生成网络SGAN(Sequence GAN)来解决此问题。SGAN使用基于强化学习的生成器扩展GAN,可以解决序列生成问题。同时使用Actor-Critic策略梯度训练模型,评价指标采用精准度和召回率。实验结果表明,该对话序列对抗模型能够生成足够的对话样本混淆人为提供的样本。     

融合显隐式反馈协同过滤的差分隐私保护算法

由于协同过滤推荐算法依赖用户的数据,因而存在很大的隐私泄露风险.差分隐私保护技术可提供严格的隐私保护效果,但目前大多数基于差分隐私的推荐算法没有考虑隐式反馈数据,针对该问题,提出了一种新的基于差分隐私保护的协同过滤推荐算法.首先对隐式反馈矩阵进行矩阵分解,得到用户和物品的隐式特征向量;然后把得到的隐式特征向量融合到显式反馈模型求解中,通过在模型求解过程中加入均值扰动和梯度扰动,使算法满足ε-差分隐私保护;最后应用此算法预测评分,并在MovieLens数据集上对算法进行有效性评价.实验结果表明,所提算法能在推荐结果的准确性和用户的隐私保护之间实现有效的平衡.     

生成对抗网络与文本图像生成方法综述

随着多传感器的普及，多模态数据获得科研和产业面的持续关注，通过深度学习来处理多源模态信息的技术是核心所在。文本生成图像是多模态技术的方向之一，由于生成对抗网络（GAN）生成图像更具有真实感，使得文本图像生成取得卓越进展。它可用于图像编辑和着色、风格转换、物体变形、照片增强等多个领域。将基于图像生成功能的GAN网络分为四大类：语义增强GAN、可增长式GAN、多样性增强GAN、清晰度增强GAN，并根据分类法提供的方向将基于功能的文本图像生成模型进行整合比较，厘清脉络；分析了现有的评估指标以及常用的数据集，阐明了对复杂文本的处理等方面的可行性以及未来的发展趋势；系统性地补充了生成对抗网络在文本图像生成方面的分析，将有助于研究者进一步推进这一领域。     

生成式对抗网络及其在图像生成中的研究进展

生成式对抗网络(GAN)现已成为深度学习领域热门的研究方向,其独特的对抗性思想来源于博弈论中的二人零和博弈,如何解决GAN训练不稳定、生成样本质量差、评价体系不够健全、可解释性差等问题是目前GAN研究的重点和难点.调研了生成式对抗网络的研究背景和发展趋势.首先阐述了生成式对抗网络的基本思想和算法实现,分析了GAN的优势与不足,然后对已有改进方法进行了较为系统的分类,从基于结构改变和基于损失函数变体的两种类型分别梳理了一些典型的GAN的优化方法和衍生模型;比较了GAN与其他生成模型的异同,介绍了各自的优势与不足;对比了GAN及其衍生模型的性能,总结了它们的运作机制、优点、局限性以及适用场景,介绍了生成式对抗网络在图像生成领域中的应用;最后列举了生成式对抗网络的主流评价指标,分析了GAN研究中仍面临的主要问题并给出对应的解决思路,并将列举出的主流解决手段在解决效果及可应用性方面进行了对比分析,展望了未来的研究方向.     

基于大规模隐式反馈的个性化推荐

对如何利用大规模隐式反馈数据进行个性化推荐进行了研究,提出了潜在要素模型IFRM.该模型通过将推荐任务转化为选择行为发生概率的优化问题,克服了在隐式反馈推荐场景下只有正反馈而缺乏负反馈导致的困难.在此基础上,为了进一步提高效率和可扩展性,提出了并行化的隐式反馈推荐模型p-IFRM.该模型通过将用户及产品随机分桶并重构优化更新序列,达到了并行优化的目的.通过概率推导,所提出的模型有坚实的理论基础.通过在MapReduce并行计算框架下实现p-IFRM,并在大规模真实数据集上进行实验,可以证明所提出的模型能够有效提高推荐质量并且有良好的可扩展性.     

融合显式反馈与隐式反馈的协同过滤推荐算法

显式反馈与隐式反馈相结合,可以有效提升推荐性能.但是现有的融合显式反馈与隐式反馈的推荐系统存在未能发挥隐式反馈数据缺失值反映用户隐藏偏好的能力,或者未能保留显式反馈数据反映用户偏好程度的能力的局限性.为了解决这个问题,提出了一种融合显式反馈与隐式反馈的协同过滤推荐算法.该算法分为两个阶段:第1阶段利用加权低秩近似处理隐式反馈数据,训练出隐式用户/物品向量;第2阶段引入了基线评估,同时将隐式用户/物品向量作为补充,通过显隐式用户/物品向量结合,训练得出用户对物品的预测偏好程度.该算法与多个典型算法在标准数据集上进行了实验比较,其可行性和有效性得到验证.