基于机器学习的超声造影分析综述

超声造影（Contrast-enhanced ultrasound, CEUS）通过外周静脉注入超声造影剂,显著增强来自肿瘤微血管的血流信号,便于临床医生以实时、动态的方式评估肿瘤血管生成、周边浸润等,广泛应用于多器官病变诊断、预后评估和治疗方案规划等方面。近年来,以深度学习为代表的机器学习方法快速发展,为动态超声造影智能分析带来新的机遇。深度学习方法很大程度上拓宽了超声造影临床应用范围,提高了其诊疗效能。但与常规超声影像类似,超声造影仍然存在斑点噪声、呼吸运动干扰和标准化程度低等问题,使得动态灌注时间、空间信息挖掘面临挑战。本文系统性回顾了近年来超声造影智能分析相关工作,涵盖良恶性鉴别、恶性分级、疗效预测和诊疗方案选择等方面应用,总结了当前影像组学及深度学习方法在超声造影分析领域的最新进展,并指出当前研究的局限性和未来发展方向。     

基于预训练模型的关系抽取研究综述

近年来随着深度学习技术的不断革新,预训练模型在自然语言处理中的应用也越来越广泛,关系抽取不再是单纯地依赖传统的流水线方法。预训练语言模型的发展已经极大地推动了关系抽取的相关研究,在很多领域已经超越了传统方法。首先简要介绍关系抽取的发展与经典预训练模型;其次总结当下常用的数据集与评测方法,并分析模型在各数据集上的表现;最后探讨关系抽取发展的挑战与未来研究趋势。     

融合双注意力机制的人群计数算法

针对背景复杂、遮挡、人群分布不均等人群计数常见问题,提出了一种结合联合损失的空间-通道双注意力机制卷积神经网络模型(joint loss-based space-channel dual attention network, JL-SCDANet).该网络前端进行图像粗粒度特征提取,中间加入空间注意力机制以及通道注意力机制突出图像重点区域,后端使用可加大感受野且不丢失图像分辨率的空洞卷积提取深层二维特征.此外,该模型结合联合损失函数进行训练,以增强模型的鲁棒性.为了验证模型的改进效果,在3个公共数据集(ShanghaiTech Part B、mall和UCF＿CC＿50)上分别进行了对比实验,在ShanghaiTech Part B数据集中平均绝对误差(MAE)和均方误差(MSE)分别达到了8.13和13.13;在mall数据集中MAE、MSE达到了1.78和2.28;在UCF＿CC＿50数据集中MAE、MSE分别达到了182.12和210.24,实验结果证明了该网络在提高人数统计准确率上的有效性.     

基于Conv1d-LSTM模型的能源分配预测

能源分配问题往往与其所在区域环境有关,能源分配的预测可以通过当地环境因素数据来推测之后对该区域的能源分配数值,最大程度上分配好能源. LSTM网络预测短期效果良好,但预测较长时期的数据会导致误差积累,速度慢且准确性差; Informer是近期新提出的能源预测算法模型,速度快但在该任务上预测能力不够.本文提出Conv1d-LSTM模型,预测结果优于上述两个模型,具有更低的平均绝对误差和均方根误差.     

基于改进YOLOv3的智慧足球场行人检测

由于足球比赛场景中密集人群、移动小目标居多, YOLOv3算法存在检测精确度较低且模型参数量较大等问题, 使其无法部署在资源算力有限的移动设备上, 本文提出了一种基于改进YOLOv3的行人检测方法, 将Darknet-53主干特征提取网络替换为更加高效且轻量化的GhostNet网络; 同时选取了4个尺度的检测分支层并采用K-means++算法改善anchor box的聚类效果; 添加空间金字塔池化对输入图像实现相同大小的输出; 提出CIoU损失函数来计算目标定位损失值; 添加heatmap热力图可视化并在训练中使用Mosaic数据增强. 实验结果表明, YOLOv3-GhostNet在VOC融合数据集上mAP达到90.97%的同时相比YOLOv3算法提高了1.75%, 参数量减少了约81.4%且实时检测速率提高了约1.5倍, 在小型移动设备上表现出不错的检测效果.     

融合语音、脑电和人脸表情的多模态情绪识别

本文提出了一种多模态情绪识别方法, 该方法融合语音、脑电及人脸的情绪识别结果来从多个角度综合判断人的情绪, 有效地解决了过去研究中准确率低、模型鲁棒性差的问题. 对于语音信号, 本文设计了一个轻量级全卷积神经网络, 该网络能够很好地学习语音情绪特征且在轻量级方面拥有绝对的优势. 对于脑电信号, 本文提出了一个树状LSTM模型, 可以全面学习每个阶段的情绪特征. 对于人脸信号, 本文使用GhostNet进行特征学习, 并改进了GhostNet的结构使其性能大幅提升. 此外, 我们设计了一个最优权重分布算法来搜寻各模态识别结果的可信度来进行决策级融合, 从而得到更全面、更准确的结果. 上述方法在EMO-DB与CK+数据集上分别达到了94.36%与98.27%的准确率, 且提出的融合方法在MAHNOB-HCI数据库的唤醒效价两个维度上分别得到了90.25%与89.33%的准确率. 我们的实验结果表明, 与使用单一模态以及传统的融合方式进行情绪识别相比, 本文提出的多模态情绪识别方法有效地提高了识别准确率.     

基于深度学习的自然灾害遥感影像语义分割

自然灾害种类繁多, 通过遥感影像语义分割相对比较困难. 为了能够更好实现遥感影像分割, 本文提出一种基于生成对抗网络的3层遥感影像语义分割模型, 针对不同场景的解析, 基于全卷积神经网络FCN, 设计一种多层次的遥感语义分割框架. 有效对遥感图像语义分割进行处理, 从而提高了模型的分割精度. 实验表明利用这种模型是有效的, 特别是受损建筑的分割结果, mIoU为82.28%, 通过该模型与其他网络模型进行对比, 其性能评价指标明显优于其他网络模型. 最后, 通过对自然灾害各种场景影像进行分析, 为应急管理部门提供一份可靠的数据报告.     

基于双分支融合注意力机制的图像分割算法

针对DeepLabV3+在特征提取阶段忽略了不同尺度特征重要程度出现的部分细节信息损失导致图像分割不细致,提出一种融合双分支特征提取和注意力机制的改进算法. ResNet101骨干网络初步提取出的特征图作为注意力机制的输入特征,解决了网络退化及梯度消失的问题,也能够捕获到被DeepLabV3+忽略的图像细节信息;设计双分支特征提取机制扩大特征提取能力,细化图像边缘信息以优化网络对不同尺度特征关注不均的问题;同时,联合采用交叉熵损失和类别不平衡函数两种损失函数作为损失函数,通过聚焦于前景样本降低背景的影响,提高算法分割精度.实验结果表明,改进算法在PASCAL VOC 2012和CityScapes数据集上的平均交并比(MIoU)值分别达到了79.92%和68.59%,与经典算法和基于DeepLabV3+改进的算法相比,特征提取的准确性有所提高,分割效果更优.     

集群环境中微服务容器资源特征分析及优化

在集群环境中部署微服务已经成为微服务部署的重要方式.由于不同种类服务对于CPU、内存、磁盘等资源的需求不同,导致集群中的节点产生资源碎片、出现资源消耗倾斜.如何提高集群资源利用率、降低集群能耗,成为继保障服务级别协议(service level agreement, SLA)之后的重大挑战.本文以阿里巴巴集团2021年发布的近两万个微服务的详细跟踪为数据样本,从容器资源使用情况、节点部署特征和资源消耗偏好等多个维度出发,分析其集群资源消耗特征,发现集群中出现了资源消耗倾斜的情况.通过进一步分析节点中容器部署情况发现容器资源分配不合理加剧了这一现象.基于此我们提出了一种使用深度双Q网络的模型,依据上游服务资源需求的实时变化,对容器资源分配进行优化.对比实验结果表明该方法可以在保证服务SLA的情况下有效提高容器资源利用率,改善节点资源消耗倾斜的情况.     

基于CNN与Transformer的医学图像分割

医学图像对疾病的诊断、治疗和评估均有所帮助,准确分割医学图像中的器官对于辅助医生的诊断具有重要的实际意义.由于医学图像中各器官部位与周围组织的图像对比度低,不同器官的边缘和形状也会存在很大差异,从而增加了分割的难度.针对这些问题,本文提出了一种基于卷积神经网络和Transformer的医学图像语义分割网络,有效提高了医学图像语义分割的精度.特征提取部分使用ResNet-50网络结构,在特征提取后使用Transformer模块来扩大感受野.在上采样过程中加入多个跳跃连接层,充分利用各阶段的特征提取信息,来恢复至与输入图像相近的分辨率.在胃肠道医学图像分割数据集上的实验结果证明本文的方法可以有效分割医学图像中的器官组织,提升分割准确率.