A new VAE-GAN model to synthesize arterial spin labeling images from structural MRI

Arterial spin labeling (ASL) is a relatively new MRI technique that can measure cerebral blood flow, which is of great importance for the diagnosis of dementia diseases. Besides, this valuable imaging modality does not need exogenous tracers and has no radiation, which makes it favorable for elder patients. However, ASL data does lack in many contemporary image-based dementia diseases datasets, which include popular ADNI-1/GO/2/3 datasets. In order to supplement the valuable ASL data, a new Generative adversarial network (GAN)-based model is proposed to synthesize ASL images in this study. This new model is unique, as the popular variational auto-encoder (VAE) has been utilized as the generator of the GAN-based model. Hence, a new VAE-GAN architecture is introduced in this study. In order to demonstrate its superiority, dozens of experiments have been conducted. Experimental results demonstrate that, this new VAE-GAN model is superior to other state-of-the-art ASL image synthesis methods, and the accuracy improvement after incorporating synthesized ASL images from the new model can be as high as 42.41% in dementia diagnosis tasks.     

数据驱动的机床等待过程节能方法研究

为了降低机床等待过程中的能耗，提出了一种实时数据驱动的机床等待时间预测与节能控制方法。首先，建立了射频识别驱动的生产进度评估方法，并以生产进度数据作为输入，构建了基于堆栈降噪自编码的机床等待时间预测模型；其次，依据预测的机床等待时间，提出了机床状态切换方法，以降低机床能耗；最后，通过一个电梯零部件制造车间的案例分析，表明该方法的预测误差仅为4.1%，同时将机床等待过程能耗降低了57%，实现了制造车间的节能减排。     

改进的多层感知机在客户流失预测中的应用

针对在传统的客户流失预测数据预处理中，使用one-hot编码处理离散属性导致数据维度增加及数据过于稀疏的问题，提出了两种基于多层感知机的改进后的客户流失预测模型。其主要思想是分别使用堆叠自编码器和实体嵌入两种方法对多层感知机进行改进，通过将离散属性的高维编码数据向低维空间映射，有效地减少了one-hot编码产生的稀疏数据，增加了离散属性值之间的关联度。在对两份公开的数据集进行交叉验证后的实验结果表明，改进后的模型既有效地提高了预测的准确度，又维持了传统多层感知机模型在并行化计算方面的优势。     

基于梯度范数的暂态稳定评估模型的不平衡修正方法

为了解决电力系统中样本数量和质量不平衡造成的暂态稳定评估偏差问题,从评估模型的训练过程出发,通过预训练模型获得样本对模型参数修正的梯度范数,引入梯度范数均值比量化样本的不平衡程度,相较于先验信息,梯度范数均值比综合考虑了样本数量与样本质量的不平衡,并提出基于代价敏感法的不平衡修正方法,利用该方法改善模型的评估倾向性,以实现较好的修正效果。IEEE 39节点系统和华东电网系统的仿真结果验证了所提方法的有效性。     

基于多源数据融合的半导体晶片CMP抛光材料去除率预测

目的 对半导体晶片抛光过程中的工艺参数、耗材使用量、抛光垫状态参数等多源数据预处理后进行数据融合,建立材料去除率(MRR)预测模型,为实现半导体晶片抛光加工工艺的决策和处理奠定基础。方法 研究晶片抛光加工中的数据特点及数据融合需求,提取数据集中每个晶片加工过程中的统计特征并生成新数据集,同时引入邻域特征以应对晶片加工过程中动态因素对材料去除率的影响。提出基于深度自动编码器的多源数据融合及材料去除率预测方法。设计深度自动编码器参数,优化深度自动编码器的损失函数从而增强深度自动编码器对强相关性特征变量的重建。基于深度自动编码器进行多源传感器信号融合,降低数据维度。使用超参数搜索算法优化BP神经网络超参数,利用BP神经网络方法将融合后的数据进行半导体晶片抛光过程中的材料去除率预测。结果 采用PHM2016数据集对模型进行验证,均方误差MSE达到7.862,相关性R²达到91.2%。结论 基于多源数据的融合模型能有效预测MRR,可以对半导体晶片CMP工艺过程的智能决策与控制起到良好的辅助作用。     

基于格拉姆角场和深度残差网络的变压器绕组松动故障诊断模型

针对变压器绕组松动故障诊断中特征量难以选取,依赖人工经验的问题,提出了一种基于自动编码器降噪,格拉姆角场（GAF）和深度残差网络（ResNet）进行识别的变压器绕组松动诊断方法。该方法直接从GAF图像中自动学习有效的故障特征,不需要手动提取特征量。首先,将振动信号经过自动编码器进行降噪,获得信噪比更高的振动信号。然后,采用GAF方法将振动信号转化为二维图像,生成图像数据集,在此基础上训练ResNet,构建适用于变压器绕组松动故障分类识别的网络模型。最后,搭建变压器绕组松动故障试验平台,采集绕组在不同松动和试验电流下的振动信号并进行分析。试验结果表明,所提诊断方法对变压器绕组松动识别准确率达95%以上,能够有效识别松动相和松动程度,适用于变压器绕组松动故障的识别和诊断。     

视觉特征对比解耦的广义零样本学习

广义零样本学习通常利用在ImageNet上预训练的深度模型来提取相应的视觉特征,然而预训练模型提取到的视觉特征不可避免地包含和语义无关的信息,这将导致语义—视觉对齐的偏差以及对不可见类的负迁移,从而影响分类结果。为解决上述问题,提出了视觉特征对比解耦的广义零样本学习模型(visual feature contrast decoupling for generalized zero-shot learning, VFCD-GZSL),通过解耦出视觉特征中的语义相关表示来降低冗余信息对分类结果的影响。具体来说,首先用条件变分自编码器生成不可见类的视觉特征。然后通过解耦模块将视觉特征解耦语义相关和语义无关的潜层表示,同时添加总相关惩罚和对比损失来鼓励两者间的相互独立,并用语义关系匹配模型衡量其语义一致性,从而指导模型学习语义相关表示。最后使用特征细化模块细化后的特征和语义相关表示联合学习一个广义零样本学习分类器。在四个数据集上的实验均取得较优的结果,证实了所提方法的有效性。     

基于自编码压缩与多尺度特征提取的抽水蓄能机组劣化趋势评估与预测

恶劣的运行环境为抽水蓄能机组安全运行带来严峻挑战,抽水蓄能机组劣化趋势评估与预测技术能够有效反映机组运行状况并预测机组未来劣化情况,为机组状态检修提供重要依据。然而,机组运行工况参数中存在大量冗余或干扰信息,严重影响劣化趋势评估的可靠性;此外,难以对复杂的劣化趋势序列实现准确的预测。为解决上述问题,提出一种基于自编码压缩与多尺度特征提取的抽水蓄能机组劣化评估预测模型。首先,为降低拟合误差,利用深度自编码器(DAE)凝练工况参数中的关键信息,结合多层感知机(MLP)建立健康模型;其次,根据机组运行数据与健康模型,生成机组劣化度;最后,以一维卷积神经网络(1DCNN)提取局部空间特征,以双向门控循环单元(BiGRU)提取双向全局时序特征,结合二者的优势,构建多尺度特征提取网络,实现精确的劣化趋势预测。通过某抽水蓄能机组验证了该模型的有效性。与其他模型相比,自编码压缩模型的拟合误差最低,能够生成可靠的劣化趋势;多尺度特征提取网络能够学习劣化趋势序列中的长期趋势与局部波动信息,预测精度更高。     

栈式降噪自编码网络在变压器故障诊断中的应用

为提高变压器故障诊断的准确率,提出了一种新型的变压器故障诊断网络,该网络以基于栈式降噪自编码网络为基础,把深度学习用在诊断变压器设备故障方面,建立深层网络模型,采取逐层贪婪编码的方式进行自适应的非监督式预训练,实现高维深层故障特征的自适应提取和挖掘,进而使用反向传播算法对模型进行监督式微调。最后利用Softmax分类器,对故障进行分类输出。最后通过实例验证表明,提出的栈式降噪自编码网络能准确、有效地对变压器进行故障诊断,与传统方法相比,该方法提高了变压器故障诊断的准确率。