排序方式： 共有3条查询结果，搜索用时 15 毫秒
1
1.
随着深度学习的广泛应用，研究者在关注模型分类性能的同时，还需要关注模型的决策是否公平可信。存在决策偏见的深度模型会造成极大的负面影响，因此如何维持深度模型的分类正确率，同时提高模型的决策公平至关重要。目前已有工作提出了较多方法，用于改善模型的个体公平，但是这些方法仍然在去偏效果、去偏后模型可用性、去偏效率等方面存在缺陷。为此，文中分析了深度模型存在个体偏见时神经元异常激活现象，提出了一种基于偏见神经元抑制的模型去偏方法NeuronSup,具有显著降低个体偏见、对主任务性能影响小、时间复杂度低等优势。具体而言，首先根据深度模型部分神经元由于个体偏见而产生异常激活的现象提出了偏见神经元的概念。然后，利用歧视样本对查找深度模型中的偏见神经元，通过抑制偏见神经元的异常激活大幅降低深度模型的个体偏见，并且根据每个神经元的最大权重边确定主任务性能神经元，通过保持深度模型的主任务性能神经元参数不变，来减小去偏操作对深度模型分类性能造成的影响。因为NeuronSup只对深度模型中的特定神经元进行去偏操作，所以时间复杂度更低，效率更高。最后，在3个真实数据集的6种敏感属性上开展去偏实验，与5种对比算法相... 相似文献
3.
深度学习是机器学习研究中的一个重要领域,它具有强大的特征提取能力,且在许多应用中表现出先进的性能,因此在工业界中被广泛应用然而,由于训练数据标注和模型设计存在偏见,现有的研究表明深度学习在某些应用中可能会强化人类的偏见和歧视,导致决策过程中的不公平现象产生,从而对个人和社会产生潜在的负面影响.为提高深度学习的应用可靠性... 相似文献
1