非光滑凸问题投影型对偶平均优化方法的个体收敛性

对于一般凸问题,对偶平均方法的收敛性分析需要在对偶空间进行转换,难以得到个体收敛性结果.对此,文中首先给出对偶平均方法的简单收敛性分析,证明对偶平均方法具有与梯度下降法相同的最优个体收敛速率Ο(lnt/t).不同于梯度下降法,讨论2种典型的步长策略,验证对偶平均方法在个体收敛分析中具有步长策略灵活的特性.进一步,将个体收敛结果推广至随机形式,确保对偶平均方法可有效处理大规模机器学习问题.最后,在L1范数约束的hinge损失问题上验证理论分析的正确性.     

基于堆叠稀疏去噪自动编码网络与多隐层反向传播神经网络的铣刀磨损预测模型

刀具磨损状态是机械加工过程中需考虑的重要因素之一.针对铣刀磨损的在线预测问题,建立了一种基于深度学习的铣刀磨损预测模型.首先,将采集到的铣刀切削时的振动信号进行小波去噪后,利用快速傅里叶变换和小波包分解等技术提取时域、频域及时频域上的特征参数,并根据相关性分析从中筛选出合格的特征参数合并为特征向量,以此作为堆叠稀疏去噪自动编码网络(SSDAE)的含噪样本.其次,利用特征后处理的方式对已经筛选出的特征参数进行单调不递减及平滑处理,并将其作为SSDAE的无噪样本来训练该网络.然后,将经过SSDAE降维后的特征向量作为多隐层反向传播神经网络(BPNN)的输入,以这些特征对应的实际铣刀的磨损量作为标签对该网络进行拟合训练.最后,对训练好的模型进行实验验证,通过测试数据集和人为加入噪声的测试数据集的对比,结果显示所提模型不仅具有较高的预测精度,还具有较高的鲁棒性.     

自适应图像组的稀疏正则化图像复原

基于图像组的稀疏正则化图像复原方法采用自适应的结构组字典来代替传统的基于整幅图像块的学习字典,既能够更好的学习局部特征又显著降低字典学习的时间复杂度;然而,因算法中的一些参数还未优化,使得算法复杂度还比较高。因此,本文提出了基于粗糙度的自适应图像组的稀疏正则化图像复原方法。首先,计算图像的全局粗糙度和局部粗糙度;然后,根据全局的粗糙度计算自适应调整正则化的迭代次数,根据局部的粗糙度调整学习字典所需的样本数;最后,将自适应调整出的参数应用于基于图像组的稀疏正则化的图像复原中。将本文所提出的方法应用到不同平滑度图像的去文字图像复原案例中,实验结果表明,在保证相近的复原效果下,能够大幅度提升效率,尤其在较为平滑的图像中能够达到接近30倍的加速比。     

基于稀疏表示和决策融合的图像分类方法

利用多个稀疏表示分类器融合的决策信息对图像进行分类,可避免单个特征对图像分类的影响。提出一种自适应调节权重的多稀疏分类器融合图像分类方法。对原始图像分别提取3组不同特征,并训练出各自稀疏表示分类器;根据各个子分类器的准确率,通过迭代计算自适应确定各分类器最终权重;融合各子分类器的输出结果进行最终类别判断。基于Cifar-10图像数据集进行多组实验,结果表明,相对仅提取单特征的图像分类方法,该方法有效提高了图像分类准确率。     

基于分段加权的反向稀疏跟踪算法研究

为提高稀疏表示跟踪模型性能，提出一种分段加权的反向稀疏跟踪算法，将跟踪问题转化为在贝叶斯框架下寻找概率最高的候选对象问题，构造不同的分段权重函数来分别度量候选目标与正负模板的判别特征系数。通过池化来降低跟踪结果的不确定性干扰，选择正负模板加权系数差值最大的候选表示作为跟踪结果。实验表明，在光照变化、遮挡、快速运动、运动模糊情况下，所提出的算法可以确保跟踪结果的准确性和鲁棒性。     

一种基于小字典不对等语料的跨语言词嵌入方法

双语词嵌入通常采用从源语言空间到目标语言空间映射,通过源语言映射嵌入到目标语言空间的最小距离线性变换实现跨语言词嵌入。然而大型的平行语料难以获得,词嵌入的准确率难以提高。针对语料数量不对等、双语语料稀缺情况下的跨语言词嵌入问题,该文提出一种基于小字典不对等语料的跨语言词嵌入方法,首先对单语词向量进行归一化,对小字典词对正交最优线性变换求得梯度下降初始值,然后通过对大型源语言(英语)语料进行聚类,借助小字典找到与每一聚类簇相对应的源语言词,取聚类得到的每一簇词向量均值和源语言与目标语言对应的词向量均值,建立新的双语词向量对应关系,将新建立的双语词向量扩展到小字典中,使得小字典得以泛化和扩展。最后,利用泛化扩展后的字典对跨语言词嵌入映射模型进行梯度下降求得最优值。在英语—意大利语、德语和芬兰语上进行了实验验证,实验结果证明该文方法可以在跨语言词嵌入中减少梯度下降迭代次数,减少训练时间,同时在跨语言词嵌入上表现出较好的正确率。