基于深度学习的青少年手腕骨骨龄评价

利用人工智能中的深度学习方法自动检测并评价西南地区青少年左手腕关节X线片的骨龄。在四川大学华西第二医院共收集2426例1-18岁青少年左手腕X线片,利用YOLOv3框架和少部分数据进行标定、训练以检测X线片上传统骨龄评价方法需要的区域,将关键区域截图并调整姿态组成新的图片。再利用caffe框架将扩展后的数据集分成训练集、验证集、测试集,以骨龄为标签对不同性别数据分别进行训练以获得男性和女性骨龄预测的模型,并计算误差在±1岁以内的准确率。选择caffe框架训练出来的最好模型,测试出测试集中±1岁的准确率为男性81.06%,女性85.08%。利用深度学习中简单的神经网络训练少量数据即可得到不错的骨龄评价准确率,表明了深度学习方法在西南地区青少年骨龄评价的可行性以及在数据增加和网络优化之后准确率存在的极大提升空间。     

基于增强深度特征和TSK模糊分类器的癫痫脑电信号识别

识别癫痫脑电信号的关键在于获取有效的特征和构建可解释的分类器.为此,提出一种基于增强深度特征的TSK模糊分类器(ED-TSK-FC).首先,ED-TSK-FC使用一维卷积神经网络(1D-CNN)自动获取癫痫脑电信号的深度特征与潜在类别信息,并将深度特征和潜在类别信息合并为增强深度特征;其次,将增强深度特征作为ED-TSK-FC模糊规则前件与后件部分的训练变量,保证原始输入的深度特征及其潜在意义都出现在模糊规则中,进而对增强深度特征作出良好的解释;然后,采用岭回归极限学习算法对模糊规则的后件参数进行快速求解,在不显著降低分类准确度的情况下,ED-TSK-FC的廉价训练方法可以缩短模型的训练时间;最后,在Bonn癫痫数据集上,分别从分类性能、学习效率和可解释性3个方面,验证ED-TSK-FC的优越性.     

基于深度学习的文本分类技术研究进展

随着深度学习技术的快速发展,许多研究者尝试利用深度学习来解决文本分类问题,特别是在卷积神经网络和循环神经网络方面,出现了许多新颖且有效的分类方法。对基于深度神经网络的文本分类问题进行分析,介绍卷积神经网络、循环神经网络、注意力机制等方法在文本分类中的应用和发展,分析多种典型分类方法的特点和性能,从准确率和运行时间方面对基础网络结构进行比较,表明深度神经网络较传统机器学习方法在用于文本分类时更具优势,其中卷积神经网络具有优秀的分类性能和泛化能力。在此基础上,指出当前深度文本分类模型存在的不足,并对未来的研究方向进行展望。     

基于图神经网络与深度学习的商品推荐算法

基于图神经网络的推荐算法可以提取传统方法无法提取用户与商品之间的关联关系.目前此类算法大多忽略了用户和商品的评论数据中所存在的一般偏好.针对这一问题,提出了一种方法,在利用图神经网络提取关联关系的同时,利用深度学习提取评论的优势提取用户和商品的一般偏好,并进行特征融合来提升推荐效果.在四组公共数据集中进行了对比实验,使用召回率和归一化折损累计增益作为评价指标,并通过消融实验验证了方法的有效性.实验表明该方法比已有相关算法的效果更好.两种网络的特征融合对推荐效果有提升作用.     

深度学习推荐模型中的注意力机制研究综述

探讨注意力机制如何帮助推荐模型动态关注有助于执行当前推荐任务输入的特定部分.分析注意力机制网络框架及其输入数据的权重计算方法,分别从标准注意力机制、协同注意力机制、自注意力机制、层级注意力机制和多头注意力机制这五个角度出发,归纳分析其如何采用关键策略、算法或技术来计算当前输入数据的权重,并通过计算出的权重以使推荐模型可...     

基于深度学习的问答匹配方法

面向中文问答匹配任务,提出基于深度学习的问答匹配方法,以解决机器学习模型因人工构造特征而导致的特征不足和准确率偏低的问题。在该方法中,主要有三种不同的模型。首先应用组合式的循环神经网络（RNN）与卷积神经网络（CNN）模型去学习句子中的深层语义特征,并计算特征向量的相似度距离。在此模型的基础上,加入两种不同的注意力机制,根据问题构造答案的特征表示去学习问答对中细致的语义匹配关系。实验结果表明,基于组合式的深度神经网络模型的实验效果要明显优于基于特征构造的机器学习方法,而基于注意力机制的混合模型可以进一步提高匹配准确率,其结果最高在平均倒数排序（MRR）和Top-1 accuray评测指标上分别可以达到80.05%和68.73%。     

基于深度学习的COVID-19智能诊断系统

本研究旨在探索运用深度学习的方法辅助医生利用胸部X光片进行COVID-19诊断的可行性和准确性。首先利用公开的COVID-QU-Ex Dataset训练集训练一个UNet分割模型,实现肺部ROI区域的自动分割。其次完成对该公共数据集肺部区域的自动提取预处理。再次利用预处理后的三分类影像数据（新冠肺炎、其它肺炎、正常）采用迁移学习的方式训练了一个分类模型MBCA-COVIDNET,该模型以MobileNetV2作为骨干网络,并在其中加入坐标注意力机制（CA）。最后利用训练好的模型和Hugging Face开源软件搭建了一套方便医生使用的COVID-19智能辅助诊断系统。该模型在COVID-QU-Ex Dataset测试集上取得了高达97.98%的准确率,而该模型的参数量和MACs仅有2.23M和0.33G,易于在硬件设备上进行部署。该智能诊断系统能够很好的辅助医生进行基于胸片的COVID-19诊断,提升诊断的准确率以及诊断效率。     

基于深度学习的知识追踪研究综述

随着人工智能与教育的不断发展,知识追踪在智慧教学领域具有广阔的应用前景;深度学习以其强大特征提取能力广泛应用于知识追踪,以深度学习知识追踪模型为起点,其改进模型为主线,全面回顾了知识追踪模型的研究进展,简要介绍了知识追踪领域传统模型的特点及不足,阐述了基于深度学习知识追踪模型的原理及局限性,同时全面整理并分析了针对可解释性问题、缺少学习特征、记忆增强网络、图神经网络、基于注意力机制五个方面的改进模型,梳理了知识追踪领域常用的公开数据集、评价指标及模型性能对比分析,最后总结并探讨了知识追踪在智慧教学方面的应用以及当前该研究领域的研究现状与未来的研究方向。     

基于注意力机制的深度学习路面裂缝检测

为实现自动准确地检测路面裂缝,提升路面裂缝检测效果,提出了一种基于注意力机制的裂缝检测网络(attention-basedcracknetworks,ACNet).该网络采用编码器-解码器网络构架,编码器采用ResNet34为骨干网,提取路面裂缝特征;在编码器和解码器间加入基于注意力机制的特征模块(attention-basedfeaturemodule,AFM),以利用全局信息和增加对检测不同尺度裂缝的鲁棒性,更好地提取裂缝特征和定位裂缝位置;在解码阶段也引入注意力机制,设计了基于注意力机制的解码模块(attention-baseddecodermodule,ADM),实现对裂缝的准确定位.在公共裂缝数据集CFD和CRACK500上,与U-Net等其他8种方法进行了比较,结果表明, ACNet裂缝检测效果更理想,在主观视觉上,裂缝定位更准确,细节更丰富;在实验指标F1和重合率上,检测结果都有明显提升,说明了该网络的有效性.     

基于深度学习的手骨X射线图像骨龄评估

骨龄评估是研究儿童内分泌、遗传因子和生长障碍的常用临床手段,传统骨龄评估方法耗时较长,易受评估者主观因素影响产生误差,而现有自动提取临床特征的骨龄评估方法精度低且泛化能力差。提出一种基于深度学习的端到端手骨X射线图像自动骨龄评估方法。去除Inception ResNet V2网络的Softmax层优化结构,在Inception模块中增加非对称卷积核提高特征图分类精度,引入残差连接结构避免梯度消失或爆炸问题,同时采用均方误差损失函数对骨龄评估回归性能进行评价,并使用分层K折交叉验证法保证数据集样本分类均衡。实验结果表明,与采用BoNet网络的骨龄评估方法相比,该方法评估的骨龄与真实骨龄平均绝对误差减少0.4230岁,骨龄预测精度更高。     

基于注意力机制的深度学习推荐算法

针对目前基于评论文本的推荐算法存在文本特征和隐含信息提取能力不足的问题, 提出一种基于注意力机制的深度学习推荐算法. 通过分别构建用户和项目的评论文本表示, 利用双向门控循环单元提取文本的上下文依赖关系以获得文本特征表示, 引入注意力机制, 更准确的获取用户兴趣偏好和项目属性特征. 将生成的用户和项目评论数据的两组隐含...     

基于图深度学习的金融文本多标签分类算法

金融文本多标签分类算法可以根据用户需求在海量金融资讯中实现信息检索。为进一步提升金融文本标签识别能力,建模金融文本多标签分类中标签之间的相关性,提出基于图深度学习的金融文本多标签分类算法。图深度学习通过深度网络学习局部和全局的图结构特征,可以刻画节点之间的复杂关系。通过建模标签关联实现标签之间的知识迁移,是构造具有强泛化能力算法的关键。所提算法结合标签之间的关联信息,采用基于双向门控循环网络和标签注意力机制得到的新闻文本对应不同标签的特征表示,通过图神经网络学习标签之间的复杂依赖关系。在真实数据集上的实验结果表明,显式建模标签之间的相关性能够极大地增强模型的泛化能力,在尾部标签上的性能提升尤其显著,相比CAML、BIGRU-LWAN和ZACNN算法,该算法在所有标签和尾部标签的宏观F1值上最高提升3.1%和6.9%。     

基于深度学习的中文文本分类算法

针对现有情感分析模型将卷积神经网络(CNN)和循环神经网络(RNN)建模分离的状况,论文提出了一种基于双向长短期记忆网络(Bi-LSTM)和CNN相结合并带有注意力机制(Attention)的文本分类模型。模型先获取上下文语义特征,再融合局部语义特征,同时对每一时刻的特征信息给予多个不同权重关注。实验表明,该模型可以有效地增强分类语义特征的捕获能力,比使用单一神经网络或者它们的任意两两组合,该模型不论在训练速度还是在预测准确度方面都有很好的改善。     

基于深度学习LoFTR算法的路面图像拼接

相比基于特征点的传统图像特征匹配算法,基于深度学习的特征匹配算法能产生更大规模和更高质量的匹配.为获取较大范围且清晰的路面裂缝图像,并解决弱纹理图像拼接过程中发生的匹配对缺失问题,本文基于深度学习LoFTR (detector-free local feature matching with Transformers)算法实现路面图像的拼接,并结合路面图像的特点,提出局部拼接方法缩短算法运行的时间.先对相邻图像做分割处理,再通过LoFTR算法产生密集特征匹配,根据匹配结果计算出单应矩阵值并实现像素转换,然后通过基于小波变换的图像融合算法获得局部拼接后的图像,最后添加未输入匹配网络的部分图像,得到相邻图像的完整拼接结果.实验结果表明,与基于SIFT (scale-invariant feature transform)、SURF (speeded up robust features)、ORB (oriented FAST and rotated BRIEF)的图像拼接方法比较,研究所提出的拼接方法对路面图像的拼接效果更佳,特征匹配阶段产生的匹配结果置信度更高.对于两幅路面图像的拼接,采...     

深度强化学习联合回归目标定位

为了模拟人眼的视觉注意机制, 快速、高效地搜索和定位图像目标, 提出了一种基于循环神经网络(Recurrent neural network, RNN)的联合回归深度强化学习目标定位模型. 该模型将历史观测信息与当前时刻的观测信息融合, 并做出综合分析, 以训练智能体快速定位目标, 并联合回归器对智能体所定位的目标包围框进行精细调整. 实验结果表明, 该模型能够在少数时间步内快速、准确地定位目标.     

基于深度学习的脸部年龄预测算法

为提高脸部年龄预测的准确性,在深度学习的基础上提出一种可有效预测脸部年龄的算法.通过对人脸图像进行预处理,获取左眼、右眼、鼻子和嘴巴四个部分的局部图像,利用迁移TensorFlow深度学习库中的Inception V4模型,提取脸部图像四个部分的多尺度局部特征,并将提取的局部特征使用串联方式相连接以得到融合特征,再将不...     

基于深度学习的股票趋势预测算法

针对股票趋势预测难的问题,提出一种利用CNN和LSTM进行特征提取,并结合注意力机制和对抗训练的股票趋势预测算法——AACL（Adversarial Attentive CNN-LSTM）算法。该算法利用CNN提取股票的整体趋势信息,LSTM提取股票的短期波动信息,并通过注意力机制将多个股票联系起来,捕捉股票之间的涨跌关系。算法还引入了对抗训练,通过对数据进行干扰,提高算法的鲁棒性。为了验证算法的有效性,在KDD17、ACL18和China50这3个数据集上进行实验,并与现有的算法进行比较,实验结果表明本文提出的算法可以获得最优的预测效果。