一种改进的基于幂线性单元的激活函数

针对修正线性单元（ReLU）完全丢弃网络中包含有用信息的负激活值问题,基于参数化修正线性单元（PReLU）和指数线性单元（ELU）的研究,提出一种新颖的参数化激活函数幂线性单元（PoLU）。PoLU对输入的负激活部分实施有符号的幂非线性变化,幂函数的参数是可以在CNNs训练过程中自适应学习的;同时像ReLU那样保持正激活部分不变。PoLU可以高效地实现并且灵活地运用到不同的卷积神经网络架构中。在广泛使用的CIFAR-10/100数据库上的实验结果表明,PoLU要优于ReLU和它相对应的激活函数。     

一种新型激活函数:提高深层神经网络建模能力

修正线性单元做为深层神经网络的激活函数,常被用来处理复杂的函数来提高深层神经网络的建模能力。针对传统修正线性单元提出一种新的激活函数——Tanh ReLU,Tanh ReLU在修正线性单元的基础上为其添加一个负值和边界值,同时保证Tanh ReLU函数在原点处相切,以此克服由于修正线性单元激活函数非零均值激活、极大输出值和原点处不连续的缺点而损害网络的生成。将此新的激活函数应用于MNIST手写数据分类实验以验证其建立的深层神经网络的性能;同时针对网络中不同的超参数的选择,来进一步验证Tanh ReLU对于提高深层神经网络模型性能的影响。实验结果表明：与修正线性单元相比,Tanh ReLU建立的深层神经网络得到了更好的分类结果,实现了提高深层神经网络分类性能的目的。     

改进残差网络的海水养殖鱼类识别与分类研究

为了满足海水养殖行业不断提高的智能化需求，对海洋鱼类的识别和分类算法进行研究。采用多重残差网络进行鱼类识别及分类，不仅降低计算复杂度，同时加快了残差网络的学习速度；引入指数线性单元（ELU）改进网络的标准残差模块，对输入的负激活值部分进行非线性变化，其参数可通过卷积训练进行自适应学习，同时保持正激活值部分不变，解决了传统残差模块中ReLU层将包含有用信息的负激活值完全丢弃的问题，以降低梯度消失的概率。在海洋鱼类识别与分类的多次实验中，改进的残差网络准确率均不低于95.48%，表明改进算法拥有较高的识别准确率和良好的稳定性。     

线性特征系统的充分必要条件

时不变线性系统加了输出反馈之后,闭环特征方程的系数h_i是反馈增益阵的元素k_(ij)的函数。本文给出h_i是k_(ij)的线性函数的充分必要条件。     

有限元网格划分和收敛性(一)

本文讨论了有限元网格的重要概念,包括单元的分类、有限元误差的分类与影响因素;并讨论分析结果的收敛性控制方法,并由实例说明了网格质量及收敛性对取得准确分析结果的重要性。同时讨论了一些重要网格控制的建议及其他网格设定的说明。     

神经网络自适应噪声对消的研究

基于神经网络中自适应线性单元（ＡＤＡＬＩＮＥ）,结合传统自适应噪声对消原理,提出了一种基于ＡＤＡＬＩＮＥ的改进型自适应噪声对消器。经仿真和实例证明,具有很强的噪声小主能力和鲁棒性。     

线性阈值单元神经元网络的图灵等价性

关于神经元网络计算能力，其奠基人即认为神经元网络与图灵机等价，１９９１年，孙等给出出了其与图灵机等价的一个构造性证明，只是他们的网络是完全联结的、二阶权的回归式网络，与一般讲的神经元网络不同，本文则给出了用线阈值单元构成的神经元网络去计算部分递归函数的构造性证明，由于部分递归函数与图灵机等价，从而这样的神经元网络与图灵机等价。     

A delay-dependent passivity criterion of linear neutral delay systems

The problem of delay-dependent stability and passivity for linear neutral systems is discussed. By constructing a novel type Lyapunov-krasovskii functional, a new delay-dependent passivity criterion is presented in terms of linear matrix inequalities （LMIs）. Model transformation, bounding for cross terms and selecting free weighting matrices [12-14] are not required in the arguments. Numerical examples show that the proposed criteria are available and less conservative than existing results .     

一种新的时变双线性离散系统的分析及参数估计方法

本文首先讨论了离散正交脉冲的数及其性质,利用增广离散正交脉冲函数矩阵的换位公式和乘法公式,提出了一种新的时变双线性离散系统的分析和参数估计方法。这种方法,可将差分方程化为代数方程,从而使计算得到简化。实例说明了这种方法的有效性。     

分段线性函数应用于延时系统的最优控制

本文把分段线性函数引入到求解延时系统的最优控制中，推得延时线性系统二次型最优控制问题的分段控制解答及其状态轨线估计，算例结果表明，该算法比方块脉冲函数算法具有更高的计算精度。     

计算描述函数的一个通用算法

给出一个计算分段线性的非线性描述函数的通用算法。     

基于线性函数的QoS路由预计算算法

多度量的服务质量路由(QoSR)作为下一代互联网的一个重要难题，具有NPC的复杂度．作者设计了启发式算法(LFP)使用线性函数将两个度量转化成单一函数值，进而通过多个不同线性函数实现了与服务质量请求无关的QoSR预计算方式．文章分析了线性函数对算法性能的影响，给出了服务质量约束的可行区域和不可行区域的线性函数判定方法．实验结果表明，算法使用少量均匀分布的线性函数，即可产生具有较高路由性能的QoSR路由表，在可扩展性和路由性能等方面均明显优于现有算法。     

基于频谱增强和卷积宽度学习的音乐流派分类

针对频谱图对于音乐特征挖掘较弱、深度学习分类模型复杂且训练时间长的问题,设计了一种基于频谱增强和卷积宽度学习(CNNBLS)的音乐流派分类模型.该模型首先通过SpecAugment中随机屏蔽部分频率信道的方法增强梅尔频谱图,再将切割后的梅尔频谱图作为CNNBLS的输入,同时将指数线性单元函数(ELU)融合进CNNBLS的卷积层,以增强其分类精度.相较于其他机器学习网络框架, CNNBLS能用少量的训练时间获得较高的分类精度.此外, CNNBLS可以对增量数据进行快速学习.实验结果表明:无增量模型CNNBLS在训练400首音乐数据可获得90.06%的分类准确率,增量模型Incremental-CNNBLS在增加400首训练数据后可达91.53%的分类准确率.     

具有线性结构的弹性函数非线性度的新上界

讨论了具有线性结构的弹性函数的两个指标:沃什谱和非线性度,得到了具有线性结构的布尔函数的一些性质.利用沃尔什变换和汉明重量的方法,发现了:如果V是n元布尔函数,f(x)的线性结构,那么得到f(x)的沃尔什变换在为零这一事实,同时得到了一个布尔函数没有k(k≥0)维线性结构的充分条件.最后,利用以上结果推出了具有线性结构的弹性函数的非线性度的上界表达式.     

一类具有低相关特性和较大线性复杂度的序列集

对于p=3和偶数n=2k,构造了一类周期为3ⁿ-1大容量序列集S^(r),这里r与3^k-1互素。这类序列集的相关函数取-1±3^k,-1,-1+2•3^k四值,并完全确定了相关值的分布。通过选取适当的参数r,证明了这类序列集具有较大的线性复杂度下界。     

一个应用线性判别分析的关键词识别方法

关键词识别是一种特殊的语音识别技术,它旨在连续语音中通过对特征矢量的判别检测出感兴趣的词。论文给出一种新的检测方法,应用线性判别分析(LDA)对语音特征参数进行降维,使得分类更加清晰。通过实验表明了该方法提高了系统的性能。     

一种基于路径的测试数据自动生成算法

提出了一种新的基于路径测试数据自动生成的算法,该算法将路径中的线性谓词函数直接作为线性算术表示来构造谓词函数关于输入变量的线性约束,仅当谓词函数是输入变量的非线性函数时,才计算其线性算术表示,因而不必计算所有谓词函数的线性算术表示,也不必计算谓词片和确定输入依赖集,以及构造谓词函数关于输入变量的增量的线性约束,理论分析和实例证明,该算法具有简单、容易、有效且计算量小等特点。     

基于侧链连接卷积神经网络的手掌静脉图像识别

针对手掌静脉图像数量少且质量参差不齐,进而导致掌脉识别系统的性能降低的现象,提出一种基于侧链连接卷积神经网络的手掌静脉图像识别方法。首先,在ResNet模型的基础上,用卷积层和池化层提取掌脉特征。然后,采用指数线性单元（ELU）激活函数、批归一化（BN）和Dropout技术来改进和优化模型,以缓解梯度消失、防止过拟合、加快收敛及增强模型泛化能力。最后,引入稠密连接网络（DenseNet）,使提取到的手掌静脉特征更具丰富性和有效性。在两个公开库和一个自建库上分别进行实验,结果表明所提方法在三个数据库上的识别率分别为99.98%、97.95%、97.96%。可见该方法能有效提高掌脉识别系统的性能,且更适用于掌脉识别的实际应用。