基于深度学习的Turbo码译码研究

译码器通常被设计用于高斯信道,对于非高斯信道而言却是次优的。深度学习方法为设计译码器提供了一种新的方法,可以对任意信道的数据进行训练和学习。为了克服传统模式存在的弊端,提出了一种新的基于卷积神经网络(CNN)的Turbo码译码方案。通过搭建神经译码网络模型,采用交叉熵函数(BCE)作为损失函数,对生成的编码数据进行网络训练,使得训练网络能够更好地提取特征关系,从而拟合出Turbo码的最佳译码函数。试验结果表明:基于卷积神经译码网络在加性高斯白噪声(AWGN)信道上和标准的Turbo解码器性能接近,但在非AWGN信道上却表现出相比于标准译码器更好的适应性和鲁棒性,适用于任意信道。此外,卷积神经译码网络还可以用于低密度奇偶校验(LDPC)码和Polar码的译码,有利于提出更多端到端训练有素的神经译码器。     

基于二进制对称信道的极化码研究

现有极化码构造方案仅适用于二进制删除信道和加性高斯白噪声信道。为此,研究极化码在二进制对称信道(BSC)的构造方案。分析BSC中的极化码构造方式和编译码算法原理,利用连续删除译码算法对极化码在BSC中的纠错效率进行测试。仿真结果表明,蒙特卡罗法构造的极化码相对于巴氏参数法构造的极化码具有较好的纠错效率。     

基于校验子的Turbo码编译码原理

在Turbo码的编译码过程中,为了降低计算码字的复杂度,减少在公共信道中信息的泄露,采用一种计算Turbo码字的新的方法,即利用离散变量的线性卷积和二进制解卷积的方法完成Turbo码的码字生成。在译码过程中,使用了校验子和边信息联合的译码方式,使得信息在公共信道中得以保护和约束。仿真结果表明,可分别在信噪比1dB的条件下实现100000个二进制序列的误码率达到了10-4以下。     

F-TCKT：融合遗忘因素的深度时序卷积知识追踪模型

智慧教育中，对学生的知识水平进行追踪是很重要的技术之一。传统的深度知识追踪方法的主要关注点集中在循环神经网络(recurrent neural network, RNN)上，但RNN存在梯度消失或者梯度爆炸的问题，并且很多知识追踪方法没有考虑到学习过程中遗忘行为对结果的影响。针对以上问题，为了准确地预测学生的知识水平，提出了一种融合遗忘因素的深度时序卷积知识追踪模型(temporal convolutional knowledge tracking with forgetting, F-TCKT)。该模型引入了三个影响学生遗忘行为的因素，包括学习相同知识点的时间间隔、学习的时间间隔和同一知识点的学习次数。首先利用全连接网络计算得到表示学生遗忘程度的向量并与学生的答题记录进行拼接，然后使用梯度稳定的时间卷积网络(temporal convolutional network, TCN)和注意力机制预测学生下一次答题正误的概率。经实验验证，与传统方法相比，F-TCKT具有更好的预测性能。     

基于双向时间深度卷积网络的中文文本情感分类

普通时间卷积网络对文本进行单向特征提取不能充分捕捉文本特征,对文本的分析能力较弱。提出一种基于双向时间卷积网络(Bi-TCN)的情感分析模型。模型使用单向多层空洞因果卷积结构分别对文本进行前向和后向特征提取,将两个方向的序列特征融合后进行情感分类。研究并分析模型中卷积层数、卷积核大小和空洞因子三个参数对情感分类结果的影响。实验证明,与单向时间卷积网络情感分析模型相比,双向时间卷积网络模型在四个中文情感分析数据集上的准确率分别提高了2.5%、0.25%、2.33%和2.5%。     

采用密集多尺度卷积网络的胰腺分割方法

胰腺是人体内重要的消化器官,受个体年龄、健康状况等因素的影响,它的形状、尺寸和位置可能会发生较大变化.胰腺自动分割一直以来是医学图像分析和计算机辅助诊断领域一个具有挑战性的问题.近年来,深度学习在医学图像分割领域上得到了广泛的应用,本文提出了一种密集多尺度卷积网络(Dense multi-scale convolutional networks, DMC-net)以用于进行胰腺的自动分割.本文将多层图像作为网络输入,采用密集卷积和密集多尺度卷积连接代替了U-net的常规卷积和长跳跃连接,此外在训练过程中本文还采用了边界损失函数对胰腺的形状进行约束.在NIH胰腺公开数据集上的结果表明,文中方法的分割结果Dice系数可以达到86.19%,证明了本文提出的胰腺分割方法的有效性.     

卷积信道编码与物理层网络编码的联合设计

针对无人机作为中继平台在异步通信条件下数据传输误码率高的问题,提出将物理层网络编码与卷积信道编码联合设计的方案。在方案中,中继节点引入置信传播(Belief Propagation)算法,将信道译码和网络编码联合起来,解决了符号偏移和相位偏移对通信系统的影响。仿真结果显示,该方案与未进行信道编码和RA码信道编码方式相比误码率最低,提高了系统的鲁棒性,可以更好地抵制相位偏移和符号偏移对通信系统的影响,提高无人机的抗干扰能力。     

一种改进的奇偶校验比特辅助极化码译码

极化码奇偶校验比特辅助的串行抵消列表(PC-SCL)译码算法利用奇偶校验比特检测出错误路径并剪枝提升性能，但未分析译码过程中发生奇、偶数个错误的频率不均问题。极化码交替加权奇偶校验比特辅助的串行抵消列表(AWPC-SCL)译码算法中每个校验比特由对应检验段内的信息比特交替加权编码得到，虽然解决了奇、偶数个错误频率不均的问题，但未分析校验比特放置的位置对译码性能的影响。通过结合极化码生成矩阵最小汉明重量行索引和蒙特卡罗仿真结果，规定了校验比特的编码方式和放置位置的选取规则，提出了一种改进的交替加权奇偶检验比特辅助串行抵消列表(IAWPC-SCL)译码算法。仿真结果表明，与AWPC-SCL译码算法相比，IAWPC-SCL译码算法在误帧率为10^-4时，译码性能大约提升了0.3dB。     

结合Bi-LSTM-CNN的语音文本双模态情感识别模型

针对单一模态情感识别精度低的问题,提出了基于Bi-LSTM-CNN的语音文本双模态情感识别模型算法.该算法采用带有词嵌入的双向长短时记忆网络(bi-directional long short-term memory network,Bi-LSTM)和卷积神经网络(convolutional neural networ...     

CTC与网络编码的联合设计研究

Turbo码由于具有并行级联的特点,更易于与网络编码进行联合设计,迄今为止成为信道编码与网络编码联合设计领域的一个热点。在研究无线网络中物理层网络编码技术的基础上,提出了一种新型的物理层网络编码和信道编码的联合设计方案,即CTC码（卷积Turbo码）与网络编码的联合设计方案,该方案具有较小的译码时延,更强的纠错性能,对于移动台（MS）来说,不仅提高了码率,还比MS直接使用CTC编码的算法简单。仿真结果表明CTC-网络编码系统具有较强的纠错性能,更适合于各种恶劣环境下的通信。     

基于深度可分离空洞卷积金字塔的变压器渗漏油检测

为了降低影响并提高对变压器渗漏油巡检图像的检测效率,提出一种基于深度可分离空洞卷积金字塔的变压器渗漏油检测模型。首先,将空洞金字塔中普通卷积块修改为深度可分离卷积块,以此扩大金字塔感受野,使特征提取网络提取到的特征图语义信息更加丰富;然后,改进了特征提取阶段低阶语义特征与高阶语义特征融合过程,进一步增强特征提取网络产生特征图的语义信息;最后,为了避免经过多次卷积、池化操作后特征图语义信息的损失,在融合过程中引入空间注意力机制和通道注意力机制,进一步增强特征图中的语义信息。与UNet(convolutional networks for biomedical image segmentation)、PSPNet(pyramid scene parseing network)、DeepLabv3+(encoder-decoder with atrous separable convolution for semantic image segmentation)和MCNN(multi-class convolutional neural network)等算法进行对比实验发现,本文所提出网络...     

结合编码-解码网络和条件随机场的全极化合成孔径雷达土地覆盖分类

针对多极化合成孔径雷达影像地物分类特征表征性较弱及全卷积网络分类精度较低的问题,文中提出结合编码-解码网络(E-D-Net)和条件随机场(CRF)的全极化合成孔径雷达(SAR)土地覆盖分类算法.首先,利用Freeman分解和Pauli分解建模全极化SAR影像,提取各分解对应的散射特征.再借鉴语义分割网络模型的建模思想和多尺度卷积单元构建对称网络模型,将多尺度非对称卷积单元嵌入中层,设计E-D-Net网络模型.通过E-D-Net网络模型对PolSAR影像Freeman分解散射特征进行多层自主学习,获得初始分类结果.最后,利用全连接CRF结合Pauli相干分解伪彩色图信息,对初始分类结果再进行降噪和平滑优化,得到最终分类结果.在两地区PolSAR影像上的实验验证文中算法的有效性和可行性.     

一种高性能低复杂度Polar Code编解码算法研究

极化码(Polar Codes,PC)是一种全新的高性能信道编码技术,是5G移动通信系统的一个研究热点,得到了广泛的关注。传统的连续删除(Successive Cancelation,SC)译码算法在码长有限的情况下的性能较差,为了提高极化码的性能,从计算方式和存储结构两个方面研究了SC译码算法的原理和结构,提出一种SC译码算法的改进型算法CRC-SCL译码算法。为了降低该算法的复杂度,引入了"Lazy Copy"算法。仿真结果表明,CRC-SCL算法与SC算法相比,性能得到了显著的提高。     

极化码与奇偶校验码的级联编码：面向5G及未来移动通信的编码方案

基于信道极化 定理而提出的极化码是目前唯一被严格理论证明可以达到香农容量限的编码,并被接受为第五代移动通信系统（5G）中短码控制信道的编码方案。本文首先给出极化码的编码和译码原理,然后提出一种极化码与奇偶校验码级联的设计方案,发送端编码器采用奇偶校验码作为外码,极化码作为内码的级联编码结构。接收端译码器采用基于奇偶校验辅助的连续消 除列表译码算法。相比于极化码与循环冗余校验码的级联方案,本文提出的级联设计方案具有更加优良的纠错性能,且没有提升编、译码的复杂度,有能力满足5G移动通信控制信道对纠错性能的要求。     

Viterbi译码器的并行优化设计

本文提出了一种(2,1,9)卷积编码及其Viterbi译码的软件实现方案。该方案应用软件技术实现了卷积码维特比译码器功能,在程序实现中充分运用了蝶形运算、周期性回溯等卷积码的固有特性,获得了Viterbi译码输出。重点对蝶形运算和维特比算法进行了SSE并行优化。仿真实验表明,此方案可大幅提高译码效率,缩短处理时间。     

基于条件深度卷积生成对抗网络的图像识别方法

生成对抗网络（Generative adversarial networks,GAN）是目前热门的生成式模型.深度卷积生成对抗网络（Deep convolutional GAN,DCGAN）在传统生成对抗网络的基础上,引入卷积神经网络（Convolutional neural networks,CNN）进行无监督训练;条件生成对抗网络（Conditional GAN,CGAN）在GAN的基础上加上条件扩展为条件模型.结合深度卷积生成对抗网络和条件生成对抗网络的优点,建立条件深度卷积生成对抗网络模型（Conditional-DCGAN,C-DCGAN）,利用卷积神经网络强大的特征提取能力,在此基础上加以条件辅助生成样本,将此结构再进行优化改进并用于图像识别中,实验结果表明,该方法能有效提高图像的识别准确率.     

晶圆表面缺陷模式识别的二维主成分分析卷积自编码器

由于半导体制造过程的高度复杂性和动态性,各种过程故障通常导致晶圆表面出现各种缺陷模式.为了有效地识别晶圆表面缺陷模式从而及时地诊断和控制故障源,提出一种深度神经网络模型--二维主成分分析卷积自编码器(two-dimensional principal component analysis-based convolutional autoencoder, PCACAE).首先,提出一种基于改进的二维主成分分析算法(conditional2DPCA,C2DPCA)的图像卷积核,形成PCACAE的第1个卷积层;其次,对卷积输出进行池化操作并卷积编码重构,构建一个卷积编码器,并提取其编码部分作为PCACAE的第2层卷积层的初始化权值,从而形成一个深度网络模型,实现晶圆图像的特征学习;最后, PCACAE网络进行训练微调得到最终网络模型.将PCACAE应用于WM-811K晶圆图像数据库并与其他算法进行对比测试,实验结果表明, PCACAE在晶圆表面缺陷识别上的性能优于其他经典的卷积神经网络模型(如GoogLeNet,DensNet等),从而验证了该方法的有效性与工业可应用性.     

基于卷积网络的双热电偶动态温度测量方法

为了提高动态温度测量的精度,提出了基于卷积网络的双热电偶动态温度测量方法.采用不同强度的高斯噪声,仿真获得两支时间常数互异的热电偶在高低温双温度源激励下的理论测量值.将理论测量值视为时间序列,采用卷积网络中的卷积神经网络和时间卷积网络对其进行建模,重建真实温度.计算结果表明,基于时间卷积网络的测量方法的均方根误差(RM...     

基于时域卷积网络的中文句子级唇语识别算法

针对现有中文句子级唇语识别技术存在的视觉歧义、特征提取不充分导致识别准确率偏低的问题,提出了一种基于时域卷积网络,采用三维时空卷积的中文句子级唇语识别算法——3DT-CHLipNet(Chinese LipNet based on 3DCNN,TCN)。首先,针对特征提取不充分的问题,所提算法采用了比长短期记忆网络(LSTM)感受野更大的时域卷积网络(temporal convolutional network, TCN)来提取长时依赖信息;其次,针对中文唇语识别中存在的“同型异义”视觉歧义问题,将自注意力机制应用于中文句子级唇语识别,以更好地捕获上下文信息,提升了句子预测准确率;最后,在数据预处理方面引入了时间掩蔽数据增强策略,进一步降低了算法模型的错误率。在最大的开源汉语普通话句子级数据集CMLR上的实验测试表明,与现有中文句子级唇语识别代表性算法相比,所提算法的识别准确率提高了2.17%至23.99%。     

嵌入双尺度分离式卷积块注意力模块的口罩人脸姿态分类

目的 针对口罩遮挡的人脸姿态分类新需求,为了提高基于卷积神经网络的人脸姿态分类效率和准确率,提出了一个轻量级卷积神经网络用于口罩人脸姿态分类。方法 本文设计的轻量级卷积神经网络的核心为双尺度可分离注意力卷积单元。该卷积单元由3×3和5×5两个尺度的深度可分离卷积并联而成,并且将卷积块注意力模块(convolutional block attention module,CBAM)的空间注意力模块(spatial attention module,SAM)和通道注意力模块(channel attention module,CAM)分别嵌入深度(depthwise,DW)卷积和点(pointwise,PW)卷积中,针对性地对DW卷积及PW卷积的特征图进行调整。同时对SAM模块补充1×1的点卷积挤压结果增强其对空间信息的利用,形成更加有效的注意力图。在保证模型性能的前提下,控制构建网络的卷积单元通道数和单元数,并丢弃全连接层,采用卷积层替代,进一步轻量化网络模型。结果 实验结果表明,本文模型的准确率较未改进SAM模块分离嵌入CBAM的模型、标准方式嵌入CBAM的模型和未嵌入注意力模块的模型分别提升了2.86%、6.41% 和12.16%。采用双尺度卷积核丰富特征,在有限的卷积单元内增强特征提取能力。与经典卷积神经网络对比,本文设计的模型仅有1.02 MB的参数量和24.18 MB的每秒浮点运算次数(floating-point operations per second,FLOPs),大幅轻量化了模型并能达到98.57%的准确率。结论 本文设计了一个轻量高效的卷积单元构建网络模型,该模型具有较高的准确率和较低的参数量及计算复杂度,提高了口罩人脸姿态分类模型的效率和准确率。