NeuronSup:基于偏见神经元抑制的深度模型去偏方法

随着深度学习的广泛应用，研究者在关注模型分类性能的同时，还需要关注模型的决策是否公平可信。存在决策偏见的深度模型会造成极大的负面影响，因此如何维持深度模型的分类正确率，同时提高模型的决策公平至关重要。目前已有工作提出了较多方法，用于改善模型的个体公平，但是这些方法仍然在去偏效果、去偏后模型可用性、去偏效率等方面存在缺陷。为此，文中分析了深度模型存在个体偏见时神经元异常激活现象，提出了一种基于偏见神经元抑制的模型去偏方法NeuronSup,具有显著降低个体偏见、对主任务性能影响小、时间复杂度低等优势。具体而言，首先根据深度模型部分神经元由于个体偏见而产生异常激活的现象提出了偏见神经元的概念。然后，利用歧视样本对查找深度模型中的偏见神经元，通过抑制偏见神经元的异常激活大幅降低深度模型的个体偏见，并且根据每个神经元的最大权重边确定主任务性能神经元，通过保持深度模型的主任务性能神经元参数不变，来减小去偏操作对深度模型分类性能造成的影响。因为NeuronSup只对深度模型中的特定神经元进行去偏操作，所以时间复杂度更低，效率更高。最后，在3个真实数据集的6种敏感属性上开展去偏实验，与5种对比算法相...     

可信机器学习的公平性综述

人工智能在与人类生活息息相关的场景中自主决策时,正逐渐面临法律或伦理的问题或风险.可信机器学习是建立安全人工智能系统的核心技术,是人工智能领域的热门研究方向,而公平性是可信机器学习的重要考量.公平性旨在研究机器学习算法决策对个人或群体不存在因其固有或后天属性所引起的偏见或偏爱.本文从公平表征、公平建模和公平决策三个角度出发,以典型案例中不公平问题及其危害为驱动,分析数据和算法中造成不公平的潜在原因,建立机器学习中的公平性抽象定义及其分类体系,进一步研究用于消除不公平的机制.可信机器学习中的公平性研究在人工智能多个领域中处于起步阶段,如计算机视觉、自然语言处理、推荐系统、多智能体系统和联邦学习等.建立具备公平决策能力的人工智能算法,是加速推广人工智能落地的必要条件,且极具理论意义和应用价值.     

算法公平与公平计算

算法公平问题由来已久，且随着社会变革历程不断花样翻新.随着数字化转型的加速推进，算法公平问题的根源逐渐由社会偏见转向数据偏见与模型偏见，算法给人带来的剥削变得更为隐蔽，而影响更为深远.尽管社会科学各领域对公平问题研究已久，但大部分仅停留在定性的表述上.作为计算机科学与社会科学的交叉问题，数字化转型下的算法公平不仅要继承社会科学各领域的基本理论，更要具备公平计算的方法与能力.由此，从算法公平的内涵出发，从社会偏见、数据偏见与模型偏见3个维度总结现有的算法公平计算方法，最后对算法公平指标和公平方法进行实验对比，进而分析算法公平计算面临的挑战.实验表明，原始模型的公平性与准确性之间存在权衡关系，公平方法的公平性与准确性之间存在一致关系.在公平指标上，不同公平指标之间的相关性差异较大，这说明了多样的公平指标的重要性.在公平方法上，单一的公平方法效果有限，这说明了探索公平方法组合的重要性.     

基于概率模型检查的树模型公平性验证方法

如今,越来越多的社会决策借助机器学习模型给出,包括法律决策、财政决策等等.对于这些决策,算法的公平性是极为重要的.事实上,在这些环境中引入机器学习的目的之一,就是为了规避或减少人类在决策过程中存在的偏见.然而,数据集常常包含敏感特征,或可能存在历史性偏差,会使得机器学习算法产生带有偏见的模型.由于特征选择对基于树的模型具有重要性,它们容易受到敏感属性的影响.提出一种基于概率模型检查的方法,以形式化验证决策树和树集成模型的公平性.将公平性问题转换为概率验证问题,为算法模型构建PCSP#模型,并使用PAT模型检查工具求解,以不同定义的公平性度量衡量模型公平性.基于该方法开发了FairVerify工具,并在多个基于不同数据集和复合敏感属性的分类器上验证了不同的公平性度量,展现了较好的性能.与现有的基于分布的验证器相比,该方法具有更高的可扩展性和鲁棒性.     

推荐系统公平性评价方法：现状与展望

随着推荐系统的广泛应用,它正在对社会产生越来越大的影响.由于数据、算法等原因,推荐系统可能会对具有某些特性的群体产生带有偏见的结果,导致不公平现象的产生,从而引发各种问题.消除偏见并在推荐中实现一定的公平性,会使整个推荐系统的结果更加平衡、友好.对推荐系统的公平性进行评价是提高推荐系统公平性的基础,近年来,研究者提出了各种不同的推荐系统公平性评价方法.本文系统总结了近几年的研究成果,从3个维度对推荐系统公平性进行了分类介绍,重点从利益相关者的维度详细分析并总结了在各种推荐环境下出现的公平性定义和评价标准,并对其进行了展望.     

公平性机器学习研究综述

随着机器学习在社会中的广泛使用,带来的歧视问题引发广泛的社会争议,这逐步引起了产业界和学术界对机器学习算法公平性问题的浓厚兴趣。目前对公平性度量和机器学习公平性机制的研究仍然处于初级阶段。本文对公平性机器学习的研究进行了调研,首先从公平性的定义出发,比较了衡量公平性指标的方法,然后调研了公平性数据集,对公平性问题的产生进行了分析,接下来对现有的公平性机器学习算法进行归类和比较,最后总结了当前公平性机器学习研究中存在的问题,并对关键问题和重大挑战进行了讨论。     

一种联邦学习中的公平资源分配方案

联邦学习(federated learning, FL)是一种可用于解决数据孤岛问题的分布式机器学习框架,多个参与方在保持数据本地私有的情况下协作训练一个共同模型.但是,传统的联邦学习没有考虑公平性的问题,在实际场景中,参与者之间的数据具有高度异构和数据量差距较大的特点,常规的聚合操作会不经意地偏向一些设备,使得最终聚合模型在不同参与者数据上的准确率表现出较大差距.针对这一问题,提出了一种有效的公平算法,称为α-FedAvg.它可以使聚合模型更公平,即其在所有参与者本地数据上的准确率分布更均衡.同时,给出了确定参数α的方法,能够在尽可能保证聚合模型性能的情况下提升其公平性.最后,在MNIST和CIFAR-10数据集上进行了实验和性能分析,并在多个数据集上与其他3种公平方案进行了对比.实验结果表明：相较于已有算法,所提方案在公平性和有效性上达到了更好的平衡.     

分层组播中INTER-SESSION FAIRNESS问题的分析与对策

通过一组实验结果分析现有分层多速率组播协议的速率控制机制中存在的会话间公平性问题,提出在组播分层解决方案中,以一种基于Max-Min公平性的速率分配计算算法,在网络状态改变时得到共存于网络环境中的各虚会话的公平速率分配集,并辅以二分法,对取值于连续数据集合上的速率分配集进行不同粒度上的离散化整合.实验结果表明该方案使得分层组播在保证会话间公平性的前提下,提高了流量控制的高效性和灵敏性.     

深度学习模型中的公平性研究

近几年深度神经网络正被广泛应用于现实决策系统,决策系统中的不公平现象会加剧社会不平等,造成社会危害.因此研究者们开始对深度学习系统的公平性展开大量研究,但大部分研究都从群体公平的角度切入,且这些缓解群体偏见的方法无法保证群体内部的公平.针对以上问题,本文定义了两种个体公平率计算方法,分别为基于输出标签的个体公平率（IFR_b）,即相似样本对在模型预测中标签相同的概率和基于输出分布的个体公平率（IFR_p）,即相似样本对的预测分布差异在阈值范围内的概率,后者是更严格的个体公平.更进一步,本文提出一种提高模型个体公平性的算法IIFR,该算法通过余弦相似度计算样本之间的差异程度,利用相似临界值筛选出满足条件的相似训练样本对,最后在训练过程中将相似训练样本对的输出差异作为个体公平损失项添加到目标函数中,惩罚模型输出差异过大的相似训练样本对,以达到提高模型个体公平性的目的.实验结果表明,IIFR算法在个体公平的提升上优于最先进的个体公平提升方法.此外IIFR算法能够在提高模型个体公平性的同时,较好地维持模型的群体公平性.     

公平谱聚类方法用于提高簇的公平性

最近，算法的公平性问题引起了机器学习领域学者的广泛讨论。鉴于谱聚类在现代数据科学中的广泛流行，研究谱聚类的算法公平性是一个至关重要的话题。现有的公平谱聚类算法主要存在两个缺点：1)公平性能差；2)仅在单个敏感属性下工作。文中将公平问题视为一种约束谱聚类问题，通过求解约束谱聚类的可行解集，提出了一种非规范化公平谱聚类方法(Unnormalized Fair Spectral Clustering, UFSC),用于提升公平性能。此外，文中还提出了一种适用于多个敏感属性约束的公平聚类算法(Multi-sensitive Attributes Fair Spectral Clustering, MFSC)。在多个真实数据集上进行了实验，结果表明，UFSC和MFSC算法比现有的公平谱聚类算法生成的聚类结果更加公平。     

解耦表征学习综述

在大数据时代下, 以高效自主隐式特征提取能力闻名的深度学习引发了新一代人工智能的热潮, 然而其背后黑箱不可解释的“捷径学习”现象成为制约其进一步发展的关键性瓶颈问题. 解耦表征学习通过探索大数据内部蕴含的物理机制和逻辑关系复杂性, 从数据生成的角度解耦数据内部多层次、多尺度的潜在生成因子, 促使深度网络模型学会像人类一样对数据进行自主智能感知, 逐渐成为新一代基于复杂性的可解释深度学习领域内重要研究方向, 具有重大的理论意义和应用价值. 本文系统地综述了解耦表征学习的研究进展, 对当前解耦表征学习中的关键技术及典型方法进行了分类阐述, 分析并汇总了现有各类算法的适用场景并对此进行了可视化实验性能展示, 最后指明了解耦表征学习今后的发展趋势以及未来值得研究的方向.     

多智能体深度强化学习研究综述

多智能体深度强化学习是机器学习领域的一个新兴的研究热点和应用方向,涵盖众多算法、规则、框架,并广泛应用于自动驾驶、能源分配、编队控制、航迹规划、路由规划、社会难题等现实领域,具有极高的研究价值和意义。对多智能体深度强化学习的基本理论、发展历程进行简要的概念介绍;按照无关联型、通信规则型、互相合作型和建模学习型4种分类方式阐述了现有的经典算法;对多智能体深度强化学习算法的实际应用进行了综述,并简单罗列了多智能体深度强化学习的现有测试平台;总结了多智能体深度强化学习在理论、算法和应用方面面临的挑战和未来的发展方向。     

深度学习在图像识别中的应用研究综述

深度学习作为图像识别领域重要的技术手段，有着广阔的应用前景，开展图像识别技术研究对推动计算机视觉及人工智能的发展具有重要的理论价值和现实意义，文中对深度学习在图像识别中的应用给予综述。介绍了深度学习的由来，具体分析了深度信念网络、卷积神经网络、循环神经网络、生成式对抗网络以及胶囊网络等深度学习模型，对各个深度学习模型的改进型模型逐一对比分析。总结近年来深度学习在人脸识别、医学图像识别、遥感图像分类等图像识别应用领域取得的研究成果并探讨了已有研究值得商榷之处，对深度学习在图像识别领域中的发展趋势进行探讨，指出有效使用迁移学习技术识别小样本数据，使用非监督与半监督学习对图像进行识别，如何对视频图像进行有效识别以及强化模型的理论性等是该领域研究的进一步方向。     

神经结构搜索的研究进展综述

近年来,深度神经网络(DNNs)在许多人工智能任务中取得卓越表现,例如计算机视觉(CV)、自然语言处理(NLP).然而,网络设计严重依赖专家知识,这是一个耗时且易出错的工作.于是,作为自动化机器学习(AutoML)的重要子领域之一,神经结构搜索(NAS)受到越来越多的关注,旨在以自动化的方式设计表现优异的深度神经网络模...     

A review of predictive policing from the perspective of fairness

Machine Learning has become a popular tool in a variety of applications in criminal justice, including sentencing and policing. Media has brought attention to the possibility of predictive policing systems causing disparate impacts and exacerbating social injustices. However, there is little academic research on the importance of fairness in machine learning applications in policing. Although prior research has shown that machine learning models can handle some tasks efficiently, they are susceptible to replicating systemic bias of previous human decision-makers. While there is much research on fair machine learning in general, there is a need to investigate fair machine learning techniques as they pertain to the predictive policing. Therefore, we evaluate the existing publications in the field of fairness in machine learning and predictive policing to arrive at a set of standards for fair predictive policing. We also review the evaluations of ML applications in the area of criminal justice and potential techniques to improve these technologies going forward. We urge that the growing literature on fairness in ML be brought into conversation with the legal and social science concerns being raised about predictive policing. Lastly, in any area, including predictive policing, the pros and cons of the technology need to be evaluated holistically to determine whether and how the technology should be used in policing.

     

深度神经网络的小样本学习综述

随着最近深度学习技术的蓬勃发展,深度神经网络（DNN）在大规模的图像分类与识别任务中取得了突破性的进展,但其在解决小样本学习问题时仍面临巨大挑战。小样本学习（FSL）是指在少量有监督样本的情况下学习一个能解决实际问题的模型,在深度学习领域具有重要意义。这促使该系统梳理了已有的DNN下的小样本学习工作,根据它们在解决小样本学习问题时所采用的技术,将DNN下的小样本学习解决方案分为四种策略：数据增强、度量学习、外部记忆、参数优化。根据这些策略,对现有的DNN下的小样本学习方法进行了全面的综述,同时总结了每一种策略在相关基准上的表现。强调了现有技术存在的局限性并对其未来的发展方向进行了展望,为今后的研究工作提供参考。     

基于深度学习的行人重识别研究综述

随着深度学习的发展,研究人员开始探索将深度学习应用于行人重识别任务并提出了大量方法,随之也迎来了新的挑战。为系统地了解这一领域的研究现状和发展趋势,首先对行人重识别任务以及存在的问题进行简单介绍;其次,根据训练方式的不同,分别探讨监督学习、半监督学习/弱监督学习以及无监督学习上行人重识别任务的研究进展,并根据现有研究热度介绍生成对抗网络和注意力机制在行人重识别上的应用;之后,列举了该领域中常用的经典数据集,并对比了深度模型在这些经典数据集（Market-1501、CUHK03等）上的表现;最后,对行人重识别领域的未来方向进行了展望。