基于Keras手写数字识别模型的改进

针对结构设计不合理的卷积神经网络导致MNIST识别的准确率低、收敛速度慢和训练参数多等问题,提出卷积神经网络结构的改进模型.改进的模型采用2次卷积、2次池化和3次全连接、采用Relu激活函数和Softmax回顾函数相结合,加入Dropout层防止过拟合,加入Flatten层优化结构.为了缩减代码量,采用API功能强大的Keras模型替代Tensorflow.对MNIST的训练集和测试集数据的准确率进行仿真实验,实验结果表明:采用改进的结构在MNIST的训练中不仅收敛速度快、训练参数少、损失率低,而且在测试集上的准确率达到99.54％、高于改进前的99.25％,对后续手写数字的研究具有重要意义.     

面向可重构扫描网络的锁定隔离安全结构

为使可重构扫描网络免受未经授权的访问、恶意仪器对传输数据的窜改和嗅探3种安全攻击的影响,提出了锁定隔离安全结构.该结构首先把彼此不具有安全威胁的仪器分成一组,通过控制隔离信号实现组与组之间的单独访问,以防止恶意仪器对传输数据的窜改和嗅探.然后通过使用锁段插入位保护关键的仪器,只有扫描网络中处于特定位置的多个键值被设置成特定值(0,1序列)时锁段插入位才能打开,能加大未经授权访问的难度.此外,为解决仪器分组多导致硬件开销大和布线困难的问题,提出了仪器分组算法,根据仪器间的安全关系构建无向图,然后对无向图求极大独立集,能有效地减少仪器分组数.在ITC 02基准电路上的实验结果表明,与国际上同类方法相比,所提的安全结构打开锁段插入位所需要的时间增大了7倍,在面积、功耗和布线上的平均减少百分比分别为3.81%,9.02%和4.55%.     

面向隐私保护联邦学习的医学影像目标检测算法

联邦学习技术是一种新型多机构协同训练模型范式,广泛应用于多领域,其中模型参数隐私保护是一个关键问题.针对CT影像综合性病灶检测任务,提出隐私保护的联邦学习算法.首先部署松散耦合的客户端-服务器架构;其次在各客户端使用改进的RetinaNet检测器,引入上下文卷积和后向注意力机制;最后完成联邦训练.各客户端使用局部更新策略,采用自适应训练周期,局部目标函数中加入了限制项;服务器使用自适应梯度裁剪策略和高斯噪声差分隐私算法更新全局模型参数.在DeepLesion数据集上的消融分析说明了算法各部分的重要性.实验结果表明,改进的RetinaNet检测器有效地提升了多尺度病灶的检测精度.与集中数据训练模型范式相比,联邦学习所得模型性能略低(mAP分别为75.33％和72.80％),但训练用时缩短近38％,有效地实现了隐私保护、通信效率和模型性能的良好权衡.     

基于注意力机制和BiGRU融合的文本情感分析

针对简单的神经网络缺乏捕获文本上下文语义和提取文本内重要信息的能力,设计了一种注意力机制和门控单元(GRU)融合的情感分析模型FFA-BiAGRU.首先,对文本进行预处理,通过GloVe进行词向量化,降低向量空间维度;然后,将注意力机制与门控单元的更新门融合以形成混合模型,使其能提取文本特征中的重要信息;最后,通过强制向前注意力机制进一步提取文本特征,再由softmax分类器进行分类.在公开数据集上进行实验,结果证明该算法能有效提高情感分析的性能.     

基于样本特征核矩阵的稀疏双线性回归

在许多实际应用中出现了大量的冗余数据,这些数据可能是高维的,这时进行回归预测将会出现过拟合的现象,并且还会出现预测精度偏低等问题.另外,大多数回归方法都是基于向量的,忽略了矩阵数据原始位置之间的关系.为此,文中提出了一种基于样本特征核矩阵的稀疏双线性回归(Kernel Matrix-based Sparse Bilinear Regression,KMSBR)方法.该方法直接将数据矩阵作为输入,其是通过左右回归系数矩阵而建立的,利用样本的特征核矩阵和L2,1范数,能够同时实现对样本及样本特征的选择,且考虑了数据的原始位置,提高了算法的性能.在若干数据集上的实验结果表明,KMSBR能有效地选择相对重要的样本和特征,从而提高算法的运行效率,且其预测精度优于已有的几种回归模型.     

基于分段式的SPOC在线课程教学设计与实践

为了确保在线教学和课堂教学"同质等效",提出基于分段式的SPOC在线课程教学模式,以编译原理课程为例,从认知学习阶段、交互式学习阶段和延展式学习阶段,介绍基于分段式的SPOC在线课程教学实践,从学生的课堂表现、期末测验、综合作业、MOOC平台的学生学习数据统计以及在线调查问卷的反馈情况,说明教学效果并提出改进建议.     

一种Anchor Free的无人机检测方法

目前几乎所有最先进的目标检测方法都依赖于预先定义的anchor,但是由于anchor的存在,网络会增加与anchor相关的计算开销,而且在现实世界中,目标尺度多种多样,比如地对空拍摄的无人机目标,预先定义的anchor不可能穷举所有的无人机尺度。因此,该文抛弃预先定义的anchor,采用anchor free的方法来检测无人机。该anchor free方法以目标中心区域的像素为训练样本来逐像素预测边界框的偏移量。针对地对空拍摄的无人机目标大部分都是小尺度的情况,采用高分辨率网络HRNet作为主干网络来提取小目标细粒度的特征,从而提高小目标检测的精度。相对于基于anchor的目标检测方法,该网络框架简单、灵活,并且可以自适应地预测无人机目标的边界框。在自己设计的无人机数据集上,该方法获得了更高的召回率和精确率。     

基于彩票假设的软剪枝算法

神经网络层数的不断增加使网络复杂度也呈指数级上升,导致应用场景受到限制。提出一种基于彩票假设的软剪枝算法实现网络加速。通过使用前一阶段的剪枝网络对其进行知识蒸馏来补偿的方法恢复错误参数,并在知识蒸馏的损失函数中加入稀疏约束来保持稀疏性。在此基础上,将当前阶段得到的剪枝网络与知识蒸馏得到的学生网络进行融合。在进行网络融合时,计算剪枝网络与学生网络的相似性,并通过设计特定的融合公式来突出相近的网络参数和抑制相离的网络参数,使得网络在剪枝率提高后仍然表现良好。在CIFAR-10/100数据集上对VGG16、ResNet-18和ResNet-56模型进行实验,结果显示：剪枝率为80%时,VGG16在CIFAR-10数据集上的分类精度下降0.07个百分点;剪枝率为60%时,ResNet-56在CIFAR-10数据集上的分类精度提升0.06个百分点;剪枝率为85%、95%和99%时,ResNet-18在CIFAR-100数据集上的分类精度仅下降1.03、1.51和2.04个百分点。实验结果表明,所提算法在提高网络剪枝率的同时仍能使其保持较高的精度,验证了算法的有效性。     

基于改进YOLOv3的列车运行环境图像小目标检测算法

列车辅助驾驶离不开对列车运行环境的实时检测,而列车运行环境图像存在丰富的小目标。与大中型目标相比,目标占原图比例小于1%的小目标由于分辨率低而存在误检率高、检测精度较差的问题,因此提出一种基于改进YOLOv3的列车运行环境目标检测算法YOLOv3-TOEI (YOLOv3-Train Operating Environment Image)。首先,利用k-means聚类算法优化anchor,从而提高网络的收敛速度;然后,在DarkNet-53中嵌入空洞卷积以增大感受野,并引入稠密卷积网络（DenseNet）获取更丰富的图像底层细节信息;最后,将原始YOLOv3的单向特征融合结构改进为双向自适应特征融合结构,从而实现深浅层特征的有效结合,并提高网络对多尺度目标（特别是小目标）的检测效果。实验结果表明,与原YOLOv3算法相比,YOLOv3-TOEI算法的平均精度均值（mAP）@0.5达到84.5%,提升了12.2%,每秒传输帧数（FPS）为83,拥有更好的列车运行环境图像小目标检测能力。     

融合多类时空轨迹特征的跨网络用户身份识别

随着位置社交网络的蓬勃发展,用户移动行为数据得到极大丰富,推动了基于时空数据的身份识别问题的相关研究。跨位置社交网络的用户身份识别,强调学习不同平台时空序列间的相关性,旨在发现同一用户在不同平台的注册账号。为解决现有研究面临的数据稀疏、低质量和时空不匹配问题,提出了一种融合双向时空依赖和时空分布的识别算法UI-STDD。该算法主要包含3个模块：时空序列模块通过结合成对注意力的双向长短时记忆网络来刻画用户移动模式;时间偏好模块从粗、细两个粒度定义用户个性化模式;空间位置模块挖掘位置点的局部和全局信息,量化空间邻近性。基于上述模块得到的用户轨迹对特征,UI-STDD利用多层前馈网络判断跨网络的两个账户是否对应于现实中的同一个人。为验证UI-STDD的可行性和有效性,在3组公开的数据集上进行了实验。实验结果表明,所提算法能够提高基于时空数据的用户身份识别率,F1值平均高于最优对比方法10%以上。