深度学习工具Tensorflow的解析

本文首先对深度学习的现状进行分析,得出了深度学习与软件工具同步是发展的必然趋势,Tensorflow适合作为深度学习工具的结论.最后详细探讨了Tensorflow在深度学习中的具体实践.     

DeepLabel:基于深度学习的问题单分类方法研究

基于机器学习的问题单分类方法无法捕获问题单的文本信息(如标题和描述)中的隐藏语义,从而有碍分类的准确性。为了解决上述问题,从GitHub的1 286个Java项目中,研究了794 601个问题单的标签用法,并识别6个常用的标签来描述问题单类别。提出一个语义增强方法DeepLabel,来自动地对问题单的类别进行分类。DeepLabel建立在神经网络架构上,用于学习问题单中标题和描述的语义表达及问题单和标签之间的语义关联。对30 000个有标签的问题单的实验评估结果表明,DeepLabel在宏平均(Macro-averaging)和微平均(Micro-averaging)的F1-socre上均达到了67.3%,分别较基准方法提高了8.1百分点和8.8百分点。     

自然语言处理中的文本分类研究

在互联网信息时代,文本数据呈指数增长,如何管理和分析海量的文本数据已经成为一项挑战。近年来,自然语言处理领域中的文本分类研究取得了很大突破。本文阐述了自然语言处理领域中研究文本分类任务中使用的方法及研究进展和成果,介绍了从传统机器学习到深度学习的文本分类任务中所使用的模型,并总结和展望了文本分类在自然语言处理领域的发展趋势。     

基于自适应遗传神经网络的银行客户分类研究

银行产品的营销行为都是针对广大客户的。若能提前分辨出哪些是优质客户,再为其定制合理的营销策略,那银行就能获得更大的竞争力。文中将遗传算法与BP神经网络结合用于对银行客户分类进而预测客户是否会购买银行产品。该方法有效地克服了BP神经网络容易陷入局部极小值和收敛速度慢的问题,并且针对其中遗传算法的计算时间和精度问题提出了一种新的自适应遗传算法。实验结果表明,基于这种自适应的遗传神经网络的方法用更短的计算时间达到了更高的预测精度,可以准确地为银行客户分类。     

ID3分类算法在银行客户流失中的应用研究

决策树已被成功应用到许多分类问题上,其中ID3是决策树学习的典型算法.文中就该算法在银行客户流失中的应用做了实例研究.叙述了ID3分类算法的原理及其实现算法,并分析了银行客户流失的原因和分类,以一个具体案例详细讲解了ID3分类算法在银行客户流失分析的具体应用流程,包括:数据采样、数据分析、建立模型和模型解释.文中实现ID3算法并作用于银行数据得到一个银行客户流失模型,通过提取模型中的规则对银行预测客户流失特征具有一定的辅助作用.     

深度学习在藻类分类识别中的应用

为了解决藻类分类识别中人工选取特征困难的问题,提出了一种基于深度学习的藻类分类识别方法。首先,对训练和测试样本集数据进行处理,得到所需数据的格式;其次,研究各种深度学习模型,理解卷积层、全连接层等的作用,基于Caffe设计深度学习网络模型;最后,根据设计的深度学习网络模型,比较各个模型的性能,得到最好的模型。实验结果表明,使用该方法做藻类分类,优于张松等基于视觉词包模型训练SVM分类器的方法,得到比较理想的效果。     

基于深度学习的问题分类方法研究

问题分类是问答系统中的重要组成部分。但现阶段的问题分类需要人工制定提取特征的策略和不断优化特征规则。深度学习方法在问题分类上具有可行性,通过自我学习特征的方式表示和理解问题,避免人工特征的制定,从而减少人工代价。针对问题分类,改进了长短期记忆人工神经网络(LSTM)和卷积神经网络(CNN)模型,并结合两者的优势组合成为一种新的学习框架(LSTM-MFCNN),加强对词序语义和深度特征的学习。实验结果表明,该方法在不需要制定繁琐的特征规则的条件下,仍然有较好的表现,准确率达到了93.08%。     

深度学习算法在问句意图分类中的应用研究

在聊天机器人多轮对话中如何根据上下文理解用户的意图是多轮交互中的一个重点问题，也是一个难点问题。现有的问句理解方法大多是针对单句的，且侧重于某种句式结构的理解。如何根据上下文语境对当前用户的意图进行识别，而不仅仅是针对单轮进行一个个分析，使得对话在一个连续的语境下具备细粒度的理解能力，是一个亟待解决的问题。针对以上问题，提出了一种基于深度学习的自然语言问句多意图分类方法，其中涉及到的用户意图包含闲聊类、音乐类、新闻类、算术类、餐饮类、订票类、天气类、服务类等13类。首先使用自然语言处理的相关技术对多轮对话进行处理分析，识别出其中的关键词，然后使用深度学习方法和分层分类技术构建了二分类和多分类深度学习模型，学习上下文语境和语义关系，共同对用户意图进行识别。通过实验证明了构建的深度学习模型对用户意图识别的准确率分别为94.81%、93.49%。因此，所提方法基本能够解决自然语言问句意图识别的问题。     

基于Tensorflow对卷积神经网络的优化研究

针对卷积神经网络在性耗比上的不足,提出了异构式CPU+GPU的协同计算模型,在模型计算过程中使CPU负责逻辑性强的事物处理和串行计算,使GPU执行高度线程化的并行处理任务。通过实验测试与单GPU训练、单CPU训练进行对比,结果表明异构式CPU+GPU计算模型在性耗比上更加优异。针对在卷积神经网络中Swish激活函数在反向传播求导误差梯度时涉及参数较多所导致的计算量较大,收敛速度慢,以及ReLU激活函数在[x]负区间内导数为零所导致的负梯度被置为零且神经元可能无法被激活的问题,提出了新的激活函数ReLU-Swish。通过测试训练对比并分析结果,将Swish激活函数小于零与ReLU激活函数大于零的部分组成分段函数,并且通过CIFAR-10和MNIST两个数据集进行测试对比实验。实验结果表明,ReLU-Swish激活函数在收敛速度以及模型测试训练的准确率上对比Swish激活函数及ReLU激活函数有较明显的提高。     

基于人工智能的类风湿性关节炎中医辅助诊疗系统

类风湿性关节炎(RA)是一种广泛存在且慢性、难治的全身性免疫风湿病,中医在其治疗中具有副作用较少、价格相对低廉等优势,但是中医师的缺乏限制RA中医诊疗方案的推广.因此,文中提出基于人工智能的RA中医辅助诊疗系统.通过对患者病历文本和关节影像数据的学习实现对RA和RA证型的判断,辅助医生诊断,并根据证型智能推荐中医药方.文中还基于RA中医药典籍知识构建知识图谱,在医生诊疗过程中提供诊疗知识指导.系统可辅助经验不足的临床医师做出诊疗决策,提高RA的治疗水平,有助于对RA治疗的研究和推广.     

An integrated model of problem solver

The purpose of this paper is to propose an unitary formal model, comprehensive of both the classical state-space and problem-reduction approaches, in order to define a new structure of problem solver. In particular, the model we propose, which is strictly related in its formal aspects to the graphs and AND/OR graphs theory, is primarily intended to allow the problem solver to choose, at each step during the solution process, the best representation for the problem (state-space or problem-reduction) and, hence, the optimal expected search strategy.In the paper, the basic functions and the fundamental structure of a problem solver are first presented. The formal definition of the integrated approach is then introduced, together with explanatory examples, and the new model is critically discussed in detail. The formal notions are globally illustrated by a complete example dealing with all the aspects of the solution process. A problem solver model, based on the new approach, is also proposed. Implementation of systems to support an integrated problem solver and the related linguistic problems are not discussed in the paper.     

基于深信度网络分类算法的行人检测方法

针对目前浅层分类方法存在训练样本数量过大和拟合复杂函数能力较弱等不足,提出一种改进的基于深信度网络分类算法的行人检测方法。首先,通过搭建带T分布函数显层节点的受限波兹曼机输入端改进深信度网络的输入方式,将行人特征提取信息通过输入端的显层结构转化为分类器可以识别的伯努利分布方式;其次,搭建多隐层受限波兹曼机中间层结构,实现隐层结构间的数据传递,保留关键信息。最后,利用BP神经网络搭建分类结构的输出端,实现分类误差信息反向传播并对分类结构的参数进行微调,不断优化分类器结构。实验证明,改进的深信度网络行人检测算法性能优于经典浅层分类算法,算法的检测速度也能满足使用要求。     

基于移动Agent的电子商务系统研究

移动Agent技术将人工智能和网络技术结合起来,它的智能性、动态性和移动性特点为电子商务的智能资源发现和网上自动交易提供了技术支持.介绍移动Agent技术的基本原理,讨论移动Agent在电子商务中应用的关键技术,重点阐述了基于移动Agent的电子商务系统的体系结构.     

双分支迭代的深度增量图像分类方法

针对深度增量学习可能产生灾难性遗忘的问题,提出双分支迭代的深度增量图像分类方法,使用主网络存储旧类知识,分支网络学习增量数据中的新类知识,并在增量过程中使用主网络的权重优化分支网络的参数.使用基于密度峰值聚类的方法从迭代数据集中筛选典型样本并构建保留集,并加入增量迭代训练中,减轻灾难性遗忘.实验表明,文中方法的性能较优.     

基于函数逼近的学习式搜索

本文将函数逼近的方法引入到学习式搜索中,使学习式搜索通过一定数量的解题训练后可以建立起一个任意一致逼近理想函数h*(·)的启发估计函数h(·).本文给出了一个这样的学习式搜索算法A-Bn,并证明了当训练例子集充分大后,A-Bn可在多项式复杂度内解决任一后来提交的同类问题.     

平行手术:基于ACP的智能手术计算方法*

由人工社会(Artificial Societies)、计算实验(Computational Experiments)、平行执行(Parallel Execution)构成的ACP理论在平行智能和复杂系统建模与调控中发挥重要作用.文中将ACP理论引入到医疗手术领域中,提出平行手术的基本框架及相关流程.在平行手术中,采用人工场景模拟医生和患者情况,表征真实复杂的手术场景.在此基础上,采用计算试验的方法试验和评估手术方案,选择最佳方案.最后通过虚实互动的平行执行功能在线优化手术方案,实时地对手术进行智能预测与导引.整个框架结合规则提取、计算机图形学、虚拟现实/增强现实、机器学习、知识自动化等技术,力图有效提高手术的效率和准确性.     

深度学习在语音识别中的研究进展综述

在如今的大数据时代里,对于处理大量未经标注的原始语音数据的传统机器学习算法,很多都已不再适用。与此同时,深度学习模型凭借着其对海量数据的强大建模能力,能够直接对未标注数据进行处理,成为当前语音识别领域的一个研究热点。首先主要分析和总结了当前几种具有代表性的深度学习模型;其次是其在语音识别中对于语音特征提取及声学建模中的应用;最后总结了当前所面临的问题和发展方向。     

基于残差边卷积的3D点云分类算法

3D点云的不规则性与无序性使点云的分类仍具有挑战性.针对上述问题,文中设计基于残差边卷积的3D点云分类算法,可直接从点云学习到具有区分度的形状描述子,用于目标分类.首先,设计具有残差学习的边卷积模块,用于点云的特征提取.通过K近邻算法,该边卷积模块在输入点云上构建局部图,使用卷积及最大池化进行局部特征的提取与聚合.然后,通过多层感知器从原始点特征中提取全局特征,并以残差学习的方式与局部特征结合.最后,以该卷积块为基本单元,构建深度神经卷积网络,实现3D点云的分类.文中方法较全面地考虑点云局部特征与全局特征的有机结合,网络具有更深层次的结构,最终得到的形状描述子更抽象,具有更高的区分度.在具有挑战性的ModelNet40、ScanObjectNN数据集上的实验证实文中方法的分类性能较优.