机器学习公平性指标：现状、挑战和展望

随着机器学习应用的日益普及，机器学习公平性问题引起了学术界和工业界的广泛关注，成为了可信人工智能的重要组成部分。为了评估和改善机器学习应用的公平性，研究人员提出了一系列公平性指标，这些指标有助于保障机器学习模型在不同个体、群体间的公平决策，并为改善和优化模型提供指导。但各界对于指标之间的区别与联系仍没有形成共识，对不同场景、不同任务的公平性定义没有明确的划分，公平性指标缺乏完善的分类体系。文中对公平性指标进行了全面的整理和归类，从指标的数学定义出发，根据是否基于概率统计将公平性指标分为两类，然后分别对这两类指标进行进一步的细粒度划分和阐述。为了便于读者理解和运用，结合一个实际案例，从适用场景和实现条件等方面指出各类指标的优势和面临的挑战，还结合数学定义讨论了指标之间的关系，并对未来趋势进行了展望。     

公平谱聚类方法用于提高簇的公平性

最近，算法的公平性问题引起了机器学习领域学者的广泛讨论。鉴于谱聚类在现代数据科学中的广泛流行，研究谱聚类的算法公平性是一个至关重要的话题。现有的公平谱聚类算法主要存在两个缺点：1)公平性能差；2)仅在单个敏感属性下工作。文中将公平问题视为一种约束谱聚类问题，通过求解约束谱聚类的可行解集，提出了一种非规范化公平谱聚类方法(Unnormalized Fair Spectral Clustering, UFSC),用于提升公平性能。此外，文中还提出了一种适用于多个敏感属性约束的公平聚类算法(Multi-sensitive Attributes Fair Spectral Clustering, MFSC)。在多个真实数据集上进行了实验，结果表明，UFSC和MFSC算法比现有的公平谱聚类算法生成的聚类结果更加公平。     

带宽分配中效率与公平性问题研究

本文提出了新的衡量网络带宽分配算法的公平性和效率的定义。基于这个定义对不同的网络带宽公平性分配算法之间的公平性和效率进行了比较。带宽分配问题可以看作是求解一个最大化效用函数的问题,给出了一个新的效用函数,对它在具体网络中的分配和其他公平性分配算法进行比较,建立了它们之间的一种对应关系。     

FERED：公平性增强的RED算法

当前大多数AQM机制的实现算法都更多地强调了算法的效率和稳定性而忽视了公平性.已有研究表明,TCP的RTT不公平性问题和多拥塞链路环境下的不公平性问题广泛存在于众多的著名AQM实现算法中,比如RED,REM,PI和AVQ等.虽然FRED和Balanced RED可以解决这些不公平性问题,但它们的实现都需要在路由器上保留每流状态信息,算法可扩展性存在问题.在实际网络测量试验结果的基础上,提出了利用IP数据报头中的TTL字段信息来增强公平性的思路,并据此对RED算法进行了扩展,实现了一个公平性增强的RED算法(FERED).NS2仿真试验结果显示FERED可以显著增强公平性,同时保留了RED算法可以很好地控制队列长度的优点,而且FERED实现简单,无需在路由器保留每流状态信息.     

基于概率模型检查的树模型公平性验证方法

如今,越来越多的社会决策借助机器学习模型给出,包括法律决策、财政决策等等.对于这些决策,算法的公平性是极为重要的.事实上,在这些环境中引入机器学习的目的之一,就是为了规避或减少人类在决策过程中存在的偏见.然而,数据集常常包含敏感特征,或可能存在历史性偏差,会使得机器学习算法产生带有偏见的模型.由于特征选择对基于树的模型具有重要性,它们容易受到敏感属性的影响.提出一种基于概率模型检查的方法,以形式化验证决策树和树集成模型的公平性.将公平性问题转换为概率验证问题,为算法模型构建PCSP#模型,并使用PAT模型检查工具求解,以不同定义的公平性度量衡量模型公平性.基于该方法开发了FairVerify工具,并在多个基于不同数据集和复合敏感属性的分类器上验证了不同的公平性度量,展现了较好的性能.与现有的基于分布的验证器相比,该方法具有更高的可扩展性和鲁棒性.     

可信机器学习的公平性综述

人工智能在与人类生活息息相关的场景中自主决策时,正逐渐面临法律或伦理的问题或风险.可信机器学习是建立安全人工智能系统的核心技术,是人工智能领域的热门研究方向,而公平性是可信机器学习的重要考量.公平性旨在研究机器学习算法决策对个人或群体不存在因其固有或后天属性所引起的偏见或偏爱.本文从公平表征、公平建模和公平决策三个角度出发,以典型案例中不公平问题及其危害为驱动,分析数据和算法中造成不公平的潜在原因,建立机器学习中的公平性抽象定义及其分类体系,进一步研究用于消除不公平的机制.可信机器学习中的公平性研究在人工智能多个领域中处于起步阶段,如计算机视觉、自然语言处理、推荐系统、多智能体系统和联邦学习等.建立具备公平决策能力的人工智能算法,是加速推广人工智能落地的必要条件,且极具理论意义和应用价值.     

基于变化概率的网络选课系统算法研究

选课系统的关键是如何解决选课活动的公平性问题及大批量学生同时访问系统带来的网络拥堵问题,现有的选课算法在这些问题上都没有太好的表现。本文对现有选课算法进行了分析和研究,提出并详细阐述了一种新的选课算法——基于变化概率的公平选课算法。该算法使得每个学生在选课活动当中能拥有趋于均等的选课概率,从而使选课活动在最大程度上实现了公平性原则并极大地缓解了网络拥堵问题。     

弹性分组数据环公平性算法性能研究

介绍了空间重用及公平性算法的基本原理，重点研究了RPR草案中采用的SRP-fa公平性算法，通过仿真分析了该算法在不同流量模型下对环路的吞吐量产生的影响。在特定模型下，SRP-fa公平算法的性能达到了最大最小公平性准则预测的标准。     

基于变化概率的网络选课系统公平算法

网络选课系统研发工作的重点和难点就是找到一种算法既能充分体现选课活动的公平性又能很好地解决大批量并发访问系统带来的网络拥堵问题。对现有选课算法进行了分析和研究,提出并详细阐述用于实时选课系统的一种新算法——基于变化概率的公平算法。该算法使得每个学生在选课活动当中能拥有趋于均等的选课概率,从而使选课活动在最大程度上实现了公平性原则并极大的缓解了网络拥堵问题。     

面向深度学习的公平性研究综述

深度学习是机器学习研究中的一个重要领域,它具有强大的特征提取能力,且在许多应用中表现出先进的性能,因此在工业界中被广泛应用.然而,由于训练数据标注和模型设计存在偏见,现有的研究表明深度学习在某些应用中可能会强化人类的偏见和歧视,导致决策过程中的不公平现象产生,从而对个人和社会产生潜在的负面影响.为提高深度学习的应用可靠性、推动其在公平领域的发展,针对已有的研究工作,从数据和模型2方面出发,综述了深度学习应用中的偏见来源、针对不同类型偏见的去偏方法、评估去偏效果的公平性评价指标、以及目前主流的去偏平台,最后总结现有公平性研究领域存在的开放问题以及未来的发展趋势.     

A review of predictive policing from the perspective of fairness

Machine Learning has become a popular tool in a variety of applications in criminal justice, including sentencing and policing. Media has brought attention to the possibility of predictive policing systems causing disparate impacts and exacerbating social injustices. However, there is little academic research on the importance of fairness in machine learning applications in policing. Although prior research has shown that machine learning models can handle some tasks efficiently, they are susceptible to replicating systemic bias of previous human decision-makers. While there is much research on fair machine learning in general, there is a need to investigate fair machine learning techniques as they pertain to the predictive policing. Therefore, we evaluate the existing publications in the field of fairness in machine learning and predictive policing to arrive at a set of standards for fair predictive policing. We also review the evaluations of ML applications in the area of criminal justice and potential techniques to improve these technologies going forward. We urge that the growing literature on fairness in ML be brought into conversation with the legal and social science concerns being raised about predictive policing. Lastly, in any area, including predictive policing, the pros and cons of the technology need to be evaluated holistically to determine whether and how the technology should be used in policing.

     

Petri网中的公平依赖体系研究

本文给出了弱公平依赖的严格定义，及亚公平依赖、弱公平依赖关系的判定条件．从而使了公平依赖关系也同公平关系一样成为一个严格体系，并给出了公平依赖体系的图形表示．使公平依赖关系的研究可部分的借鉴公平体系研究的成果，这对以后公平依赖关系的研究具有一定的指导意义．     

网约车任务分配系统优化

网约车是一种广泛应用的共享移动应用, 其核心问题是将出租车请求分配给具有不同目标的司机, 尽管对网约车的任务分配进行了广泛的研究, 但在很大程度上忽视了司机之间收入的公平性, 由于优化视角的短视和分配技术的耗时, 先行者对网约车公平任务分配的研究在公平性、效用性方面还存在不足. 在本文中, 提出了公平分配学习(LAF)方法, 它既优化了效用又优化了公平性的高效任务分配方案, 采用强化学习以整体的方式进行分配, 并提出一套加速技术, 以实现大规模数据的快速公平分配. 实验结果表明, 公平分配学习方法在公平性、效用性和效率方面分别比现有水平高出86.7%、29.1%和797%.     

Petri网中的广义公平关系

在吴折辉等提出的公平性和王培良等提出的弱公平性概念的基础上,提出了Ｐｅｔｒｉ网中的广义公平关系,同公平关系和弱公平关系比起来,广泛公平关系的概念更符合计算科学对公平性的传统理解,文中讨论了存在准公平关系的可重复网结构,并在此基础上给出了菊花链式握手协议的一个Ｐｅｔｒｉ网模型。     

离线公平交换协议的子协议分析

离线公平交换协议的子协议对其公平性至关重要。使用串空间方法分析2个重要的离线公平交换协议的子协议对协议公平性的影响,发现保持子协议运行的互斥和结果的同步是离线公平交换协议公平性的重要保证。根据该发现,针对协议中存在的问题,给出协议的改进方案,提出设计两方和多方离线公平交换协议的建议。     

基于深度学习的视频预测研究综述

近年来,深度学习算法在众多有监督学习问题上取得了卓越的成果,其在精度、效率和智能化等方面的性能远超传统机器学习算法,部分甚至超越了人类水平。当前,深度学习研究者的研究兴趣逐渐从监督学习转移到强化学习、半监督学习以及无监督学习领域。视频预测算法,因其可以利用海量无标注自然数据去学习视频的内在表征,且在机器人决策、无人驾驶和视频理解等领域具有广泛的应用价值,近两年来得到快速发展。本文论述了视频预测算法的发展背景和深度学习的发展历史,简要介绍了人体动作、物体运动和移动轨迹的预测,重点介绍了基于深度学习的视频预测的主流方法和模型,最后总结了当前该领域存在的问题和发展前景。     

Fair allocation of utilities in multirate multicast networks: aframework for unifying diverse fairness objectives

We study fairness in a multicast network. We assume that different receivers of the same session can receive information at different rates. We study a fair allocation of utilities, where the utility of a bandwidth is an arbitrary function of the bandwidth. The utility function is not strictly increasing, nor continuous in general. We discuss fairness issues in this general context. Fair allocation of utilities can be modeled as a nonlinear optimization problem. However, nonlinear optimization techniques do not terminate in a finite number of iterations in general. We present an algorithm for computing a fair utility allocation. Using specific fairness properties, we show that this algorithm attains global convergence and yields a fair allocation in polynomial number of iterations     

CSFQ算法分析与改进

核心无状态公平队列调度（CSVQ）算法提供了如同有状态网那样好的公平带宽分配，但它的丢包算法不适用于TCP流。针对TCP流的特点，对CSFQ算法进行如下改进：将缓存队列长度与丢包概率关联起来，用一种类似于RED（random early drop）缓存管理方法解决了缓存频繁溢出导致的一些问题；对TCP流的丢包率进行修正，使用多余带宽来转发TCP包，解决TCP流与UDP流的带宽分配公平性。仿真试验表明，新算法NEW-CSFQ更好地提供数据流公平的频宽共享，对突发流响应较原算法有所提高，且算法复杂度简单，容易在高速核心路由器上实现。     

一种乐观电子商务协议的公平性分析

乐观电子商务协议通常具有复杂结构,由多个子协议组合而成,与传统认证协议具有显著不同。电子商务协议最主要目的是实现买卖双方的公平交换,同时假定交换双方都可能是不诚实的,需要考虑来自协议合法实体的内部攻击。文章在深入分析公平交换协议各项属性的基础上,定义了电子项的认证属性,对SVO逻辑进行了扩展,使用SVO逻辑语法定义了电子商务协议应满足的公平性。文章以一种真实的电子商务协议为对象,演示了基于SVO逻辑的电子商务协议公平性分析方法,并指出该协议存在安全缺陷,提出改进意见。