基于多元神经网络融合的分布式资源空间文本分类研究

针对实体产业对科技资源的服务需求,以服务效应作为资源文本分类标准,提出一种基于多元神经网络融合的分布式资源空间文本分类模型。设计了包含词嵌入层、卷积层、双向门控循环单元层、注意力机制层和softmax层的多元神经网络通路;在此基础上采用基于需求—效应—资源分类策略,完成了从定性科技资源需求到定量资源服务效应求解,再到定性科技资源输出的映射变换,重点解决了分布式科技资源局部和全局语义特征形式多样、文本长距离依赖特征显著、重要资源信息难以准确识别的问题,进而从分布式科技资源空间中快速准确地获取效应知识,提升实体产业产品研发效率和创新能力;通过万方专利科技资源数据集验证了所提方法的可行性和有效性,为更加全面地挖掘资源文本特征和按需服务实体产业提供了一种新的思路和手段。     

一种基于深度学习的产品分类统计方法的研究

对于流水线上多类产品不规则混合放置条件下的统计问题,利用基于faster R-CNN和改进的深度卷积网络结合的图像识别方法,实现了对产品的在线分类计数。首先利用faster R-CNN方法获取图像中产品的位置信息,然后用改进的深度卷积网络对图像进行特征提取,将产品区域的位置信息映射到最后一层特征图上,再用ROI池化对产品区域特征进行尺度归一化,把归一化后的产品特征输入softmax分类器识别,从而实现了分类统计。实验结果表明,该方法能够在工业生产中实现多类混线产品在线自动分类统计。     

基于局部特征的青年女性腿部形态分类

为提高女性裤装的合体性与舒适性,采用三维测量法、图像测量法及手工测量法相结合的方式,对236名18~25岁的青年女性腿部形态进行测量,获取20个相关特征变量;通过主成分因子分析得到影响腿部形态的主要特征因子,通过聚类分析得到青年女性腿部形态的分类结果;最后结合膝曲角的正负归纳出各类腿部形态的辨别规则并进行辨别验证。研究得出:影响腿部形态的主要特征因子有水平围度因子、长度因子、小腿围度差因子、腿部曲度因子、腿部轮廓因子和大腿围度差因子;人体腿部形态可分成圆体型、稍扁体型和扁体型3类;以大腿宽厚比、大腿根围膝围比、大小腿长比及膝曲角4个变量建立腿部形态分类规则。     

基于梯度分布调节策略的Xgboost算法优化

为了解决集成学习模型Xgboost在二分类问题中少数类检出率低的问题，提出了基于梯度分布调节策略的改进的Xgboost算法——LCGHA-Xgboost。首先，通过定义损失贡献（LC）来模拟Xgboost算法中样本个体的损失量；而后，通过定义损失贡献密度（LCD）来衡量Xgboost算法中样本被正确分类的难易程度；最后，提出了梯度分布调节算法LCGHA，依据LCD动态调整样本个体的一阶梯度分布，间接地增大难分样本（主要存在于少数类中）的损失量，减小易分样本（主要存在于多数类中）的损失量，使Xgboost算法偏向对难分样本的学习。实验结果表明,与Xgboost、GBDT、随机森林（Random_Forest）这三大集成学习算法相比，LCGHA-Xgboost算法在多个UCI数据集上的召回率（Recall）值有5.4%~16.7%的提高，AUC值有0.94%~7.41%的提高；在垃圾网页数据集WebSpam-UK2007和DC2010数据集上所提算法的Recall值更是有44.4%~383.3%的提高，AUC值有5.8%~35.6%的提高。LCGHA-Xgboost算法可以有效提高对少数类的分类检出能力，减小少数类的分类错误率。     

ELMs和SVMs在多分类问题上的泛化性能比较

多分类问题是机器学习、数据挖掘领域的重要研究内容。在文本分类、语音识别、图像识别、基因检测等方面有广泛的应用。通过在UCI数据集对极限学习机算法ELMs(ELM,KELM)和支持向量机算法SVMs(SVM,LSSVM)在多分类问题上的表现进行详细比较,得出以下结论:ELMs相较于SVM在多分类问题上有更高的分类准确率,而且随着分类数目的增加,ELMs的泛化能力相较于SVM提高越多,但是ELMs对于LSSVM并没有得到上述结论;ELMs相较于SVMs对数据的类别数目不敏感,分类准确率随类别数目增加下降不明显;ELMs相较于SVMs在多分类问题上所需计算代价更小,且拥有更快的学习和训练速度,适用于多分类问题。