Distant Supervised Relation Extraction with Cost-Sensitive Loss

Recently, many researchers have concentrated on distant supervision relation extraction (DSRE). DSRE has solved the problem of the lack of data for supervised learning, however, the data automatically labeled by DSRE has a serious problem, which is class imbalance. The data from the majority class obviously dominates the dataset, in this case, most neural network classifiers will have a strong bias towards the majority class, so they cannot correctly classify the minority class. Studies have shown that the degree of separability between classes greatly determines the performance of imbalanced data. Therefore, in this paper we propose a novel model, which combines class-to-class separability and cost-sensitive learning to adjust the maximum reachable cost of misclassification, thus improving the performance of imbalanced data sets under distant supervision. Experiments have shown that our method is more effective for DSRE than baseline methods.     

基于梯度范数的暂态稳定评估模型的不平衡修正方法

为了解决电力系统中样本数量和质量不平衡造成的暂态稳定评估偏差问题,从评估模型的训练过程出发,通过预训练模型获得样本对模型参数修正的梯度范数,引入梯度范数均值比量化样本的不平衡程度,相较于先验信息,梯度范数均值比综合考虑了样本数量与样本质量的不平衡,并提出基于代价敏感法的不平衡修正方法,利用该方法改善模型的评估倾向性,以实现较好的修正效果。IEEE 39节点系统和华东电网系统的仿真结果验证了所提方法的有效性。     

不平衡数据的集成分类算法综述

集成学习是通过集成多个基分类器共同决策的机器学习技术,通过不同的样本集训练有差异的基分类器,得到的集成分类器可以有效地提高学习效果。在基分类器的训练过程中,可以通过代价敏感技术和数据采样实现不平衡数据的处理。由于集成学习在不平衡数据分类的优势,针对不平衡数据的集成分类算法得到广泛研究。详细分析了不平衡数据集成分类算法的研究现状,比较了现有算法的差异和各自存在的优点及问题,提出和分析了有待进一步研究的问题。     

面向数据漂移的代价敏感客户细分

为解决数据挖掘中存在的数据漂移和客户价值分布不平衡问题,采用了分阶段聚类和代价敏感支持向量机的新方法.新方法首先对全部客户聚类得到特征相似的客户群,然后用某个区域客户属于某客户群的后验概率对城市进行聚类,具有相似后验概率分布的城市群被认为是具有类似的客户结构,每个城市群的客户组成了新的客户样本,对每个样本分别进行代价敏...     

考虑样本类别不平衡的电网故障事件智能识别方法

电网中不同设备的故障概率存在差异,影响智能诊断技术的准确性.为解决此问题,提出了一种基于代价敏感学习和模型自适应选择融合的电网故障事件智能识别方法.首先,利用Word2vec模型将预处理后的电网告警信息向量化,并搭建2个双向长短期记忆网络作为基础分类器;然后,设计代价敏感损失函数,将交叉熵损失函数与代价敏感损失函数分别应用于2个分类器中;最后,提出一种模型自适应选择融合法,融合上述分类器,得到故障事件识别结果.实际数据测试表明,所提方法能够有效降低故障事件识别中样本类别不平衡的影响.     

代价敏感分类的软件缺陷预测方法

软件缺陷预测是提高软件测试效率,保证软件可靠性的重要途径。考虑到软件缺陷预测模型对软件模块错误分类代价的不同,提出了代价敏感分类的软件缺陷预测模型构建方法。针对代码属性度量数据,采用Bagging方式有放回地多次随机抽取训练样本来构建代价敏感分类的决策树基分类器,然后通过投票的方式集成后进行软件模块的缺陷预测,并给出模型构建过程中代价因子最优值的判定选择方法。使用公开的NASA软件缺陷预测数据集进行仿真实验,结果表明该方法在保证缺陷预测率的前提下,误报率明显降低,综合评价指标AUC和F值均优于现有方法。     

融合矩阵分解和代价敏感的微生物数据扩增算法

微生物会对人类健康产生直接影响,对相关数据的分析有助于疾病诊断。然而,采集到的数据存在类不平衡与高稀疏性两个问题。现有的过采样方法在一定程度上可缓解数据的类不平衡,但是难以应对微生物数据的高稀疏性。本文提出了一种融合矩阵分解和代价敏感的数据扩增算法,其包含3个技术。首先,将原始矩阵分解为样本子空间和特征子空间;其次,利用样本子空间的正向量及其近邻向量生成合成向量;最后,根据合成向量与所有负向量的距离对其过滤。实验在8个微生物数据集上进行,同时与5种过采样算法对比,结果表明本文所提算法能够增强正样本的多样性,在识别出更多正样本的同时,分类结果的代价更低。     

基于代价敏感的决策树的电信离网分析模型

随着电信行业竞争的加剧,客户流失率日益攀升,因此提高客户流失的预测精度将直接关系到电信企业的生存和发展.而电信客户数据集中存在严重的数据不平衡问题,会导致两类错分代价明显不等同.而基于传统决策树的客户流失模型却是在两类错分代价相等的前提下建立的,与实际情况不符.因此引入代价敏感学习理论,该理论将不同的错分代价纳入建模过程,以建立一个基于代价敏感的决策树的电信客户离网分析模型.该方法有效地提高了模型对流失客户的预测性能.这对促进电信业的发展具有相当重要的意义.     

基于代价敏感深度决策树的公交车环境人脸检测

针对公交车环境下的人脸检测具有光照变化、模糊、遮挡、低分辨率和姿势变化等问题,提出了基于代价敏感深度决策树的人脸检测算法。首先,基于归一化的像素差异（NPD）特征构建单个深度二次树（DQT）;接着,根据当前决策树的分类结果,利用代价敏感Gentle Adaboost方法对样本权重进行更新,依次训练出多棵深度决策树;最后,将所有决策树通过Soft-Cascade级联得到最终的检测算法。在人脸检测数据集（FDDB）和公交车视频上的实验结果表明,所提算法与现有的深度决策树算法相比,在检测率和检测速度上均有提升。     

面向混合数据的多伴随三支决策

针对混合数据的知识表示和分类的问题,在思考混合数据的有效表示时,提出代价敏感多伴随模糊粗糙集模型,在解决混合数据的分类问题上,引入三支决策思想,同时在多伴随模型基础上做了两点改进:1）提出贴近代价敏感多伴随模糊粗糙集模型特点的概率定义;2）借助双量化延迟代价目标函数的思想,构造面向混合数据的新型三支决策模型。该模型具有如下特点:1）引入多个伴随对,模拟了数值型属性和符号型属性之间异构互补的关系;2）定义多伴随算子,充分表达了不同类型属性之间的偏好;3）结合模糊粗糙集,克服了分类问题的不确定性;4）考虑获取不同类型属性的代价,提高了应用到实际生活的可能性。最后用实例验证了此模型的有效性。