小波子带最优方向性选择和压缩感知的图像编解码

传统贝叶斯压缩感知方法所存在的局部优化问题导致了重构图像存在着较大的误差。本文提出一种基于小波自适应最优方向选择和压缩感知的图像编码方法,该方法依据图像小波变换的低频子带与高频子带所存在的相关性差异,对低频系数进行基于小波最优方向选择的编解码,以保证图像主要信息的重构质量;而针对高频子带的稀疏特性进行基于压缩感知的随机测量,以保证图像的编码效率。实验结果表明,与传统的压缩感知算法相比,本文所提出算法的解码图像具有更好的主观质量,同时在相同码率下解码图像的PSNR平均提高1~2dB。     

基于压缩感知的DOA估计方法研究

压缩感知是近年来应用数学界提出的一套关于稀疏信号采集和重构的新理论,它突破了传统奈奎斯特采样定理的限制,以远少于传统奈奎斯特采样定理所需的测量数据就能够精确恢复原信号或估计信号的相关参数。将压缩感知理论应用到DOA估计,可以解决传统DOA估计中高采样率、以及较多辐射源信号条件下难以定位的限制。研究了基于压缩感知理论的DOA估计方法,并利用MATLAB进行仿真,通过与传统MUSIC算法比较可知,基于压缩感知的DOA估计方法具有显著的优势。     

基于小波树模型的CoSaMP压缩感知算法

无线传感网络存在网络带宽限制和传感器节点的能耗问题,实际应用中通常希望可以通过重构算法从采集的少量数据中还原出原始信息,压缩感知理论为上述问题提供了一个解决思路。利用压缩感知理论,对无线传感器网络中温度传感器的监测信号进行了压缩感知的应用研究。针对传统压缩采样匹配追踪(CoSaMP)算法中测量次数多、重构精度低等问题,利用信号的小波系数所形成的连通树的结构特性,提出了基于小波树模型的压缩采样匹配追踪算法。将该算法应用到无线传感器网络监测信号的压缩感知仿真实验中,与传统压缩采样匹配追踪算法的重构性能进行比较,结果表明该算法较传统压缩采样匹配追踪算法在一定范围内对无线传感器网络中的温度信号具有更好的压缩感知性能。     

递归pi-sigma神经网络的带惩罚项的梯度算法分析

传统的梯度算法存在收敛速度过慢的问题,针对这个问题,提出一种将惩罚项加到传统误差函数的梯度算法以训练递归pi-sigma神经网络,算法不仅提高了神经网络的泛化能力,而且克服了因网络初始权值选取过小而导致的收敛速度过慢的问题,相比不带惩罚项的梯度算法提高了收敛速度。从理论上分析了带惩罚项的梯度算法的收敛性,并通过实验验证了算法的有效性。     

基于原子范数最小化的二维稀疏阵列波达角估计算法

基于二维稀疏平面阵列的波达角(Direction-of-arrival,DOA)估计问题在第五代移动通信大规模多输入多输出阵列的应用中日益重要。无网格稀疏重构技术促进了DOA估计问题的发展,原子范数理论则使得DOA估计的超分辨率得到进一步的提高。文中研究了多个方向的频谱稀疏信号入射到二维稀疏阵列时的DOA估计问题。为了准确、成对地识别出所有入射信号的仰角和方向角,提出了一种基于多个测量矢量(Multiple Measurement Vectors,MMV)的二维原子范数算法,并用半正定规划进行求解。所提算法将二维DOA估计问题中的压缩感知理论从单个测量矢量拓展到多个测量矢量,从而有效利用MMV的联合稀疏性。数值仿真结果表明,随着MMV矢量的增长,可识别的信源个数增加,稀疏阵列中物理传感器所占比例降低到30%,DOA估计误差也显著降低,并且在信噪比增大时,所提算法能够取得很好的收敛效果。     

滤波器组自适应语音增强方法

双麦克风噪声抵消应用中,由于交叉串的存在,传统自适应算法降噪性能受到很大的影响。为了提高双麦克风算法降噪性能,使用两级自适应滤波系统消除交叉串扰问题。为提高自适应滤波器收敛性能,采用主从结构LMS算法自适应调节步长因子。同时为了适合窄带处理算法,将输入信号进行子带分析预处理,对每个子带独立进行抗交叉串绕自适应处理,将各子带增强信号合并得到增强语音信号。实验结果表明,该方消噪量大,语音损伤小,语音增强效果显著。     

WMSNs中基于改进QGA的覆盖增强算法

针对无线多媒体传感器网络(WMSNs)中存在的覆盖盲区与覆盖重叠区域等问题,提出一种改进的量子遗传算法(QGA)来调整WMSNs中节点的位置和感知方向。相对于传统QGA,该算法采用从多条最优染色体构成的集合中随机选取优化目标来引导算法迭代,在保留算法收敛速度的同时改善其易收敛于局部最优的情况;同时,采用自适应旋转角和新的量子变异策略,加快算法的收敛速度。仿真实验表明:该算法具有良好的全局收敛能力和速度,可以更好地提高网络的覆盖率。     

基于自适应飞蛾扑火优化算法的三维路径规划

三维路径规划问题是在干扰环境下寻找出发点到目的地之间最优路径的组合优化问题。针对传统群智能算法在求解该问题时存在收敛精度低、易陷入局部最优等缺陷,提出了一种自适应飞蛾扑火优化算法对该问题进行优化求解。改进算法通过引入飞行方向动态调整策略和位置交叉策略,在动态调整飞蛾飞行方向的同时不断产生新个体,有效避免了算法陷入局部最优;通过自适应调整火焰的数量,在算法全局探索阶段增强了种群多样性,避免了早熟收敛。将自适应飞蛾扑火优化算法与其他群智能算法用于三维路径规划问题求解,实验结果表明,改进的自适应飞蛾扑火优化算法在所有算法中代价值最小,收敛速度最快,说明该算法在三维路径规划问题中具有更好的求解能力。     

基于子空间跟踪的ESPRIT空间谱估计算法

在实际中接收天线与辐射源之间通常存在相对运动,此时传统的高分辨算法性能将严重下降,针对上述问题提出一种自适应信号波达方向即DOA估计算法。新算法以快速稳定的信号子空间跟踪算法为基础,结合ESPRIT算法实现DOA估计,不需要特征值分解,计算复杂度小。仿真实验显示新算法比基于幂迭代的动目标DOA估计算法具有更好的估计性能。     

自适应压缩感知的语音压缩重构算法研究

根据传统语音信号的处理过程和语音信号的特征,提出了利用自适应冗余字典KSVD算法、自适应观测矩阵和SAMP重构算法的压缩重构方法,通过仿真分析,并与普通压缩感知对比平均帧重构信噪比、相对误差,验证了压缩感知自适应算法的优越性。     

基于交替方向乘子法的非光滑损失坐标优化算法

交替方向乘子法(ADMM)在机器学习问题中已有一些实际应用。针对大规模数据的处理和非光滑损失凸优化问题,将镜面下降方法引入原ADMM批处理算法,得到了一种新的改进算法,并在此基础上提出了一种求解非光滑损失凸优化问题的坐标优化算法。该算法具有操作简单、计算高效的特点。通过详尽的理论分析,证明了新算法的收敛性,在一般凸条件下其具有目前最优的收敛速度。最后与相关算法进行了对比,实验结果表明该算法在保证解稀疏性的同时拥有更快的收敛速度。     

An Alternating Augmented Lagrangian method for constrained nonconvex optimization

ABSTRACT

We consider the problem of minimizing a smooth nonconvex function over a structured convex feasible set, that is, defined by two sets of constraints that are easy to treat when considered separately. In order to exploit the structure of the problem, we define an equivalent formulation by duplicating the variables and we consider the augmented Lagrangian of this latter formulation. Following the idea of the Alternating Direction Method of Multipliers (ADMM), we propose an algorithm where a two-blocks decomposition method is embedded within an augmented Lagrangian framework. The peculiarities of the proposed algorithm are the following: (1) the computation of the exact solution of a possibly nonconvex subproblem is not required; (2) the penalty parameter is iteratively updated once an approximated stationary point of the augmented Lagrangian is determined. Global convergence results are stated under mild assumptions and without requiring convexity of the objective function. Although the primary aim of the paper is theoretical, we perform numerical experiments on a nonconvex problem arising in machine learning, and the obtained results show the practical advantages of the proposed approach with respect to classical ADMM.     

一种基于ADMM的非光滑损失在线优化算法

交替方向乘子法（ADMM）在机器学习问题研究中已有一些高效的实际应用,但为了适应大规模数据的处理和求解非光滑损失凸优化问题,文中提出对原ADMM进行改进,得到了损失函数线性化的ADMM的在线优化算法。该在线算法相较原算法具有操作简单、计算高效等特点。通过详尽的理论分析,文中证明了新在线算法的收敛性,并得到其在一般凸条件下具有目前最优的Regret界以及随机收敛速度。最后在与当今流行在线算法的对比实验中验证了新在线算法的高效可行性。     

压缩感知优化问题的等价表示及其目标罚函数方法

首先定义了压缩感知优化问题的一个等价表示问题,证明了这个等价表示问题的最优解也是压缩感知优化问题的最优解。然后定义了它的一个具有2阶以上的光滑性的目标罚函数,给出了一个迭代求解算法,证明了所提算法的收敛性定理。定理表明,可以通过求解目标罚函数来获得压缩感知优化问题的近似最优解,该方法为研究和解决实际的压缩感知问题提供了一个新的工具。     

Global Convergence of Unmodified 3-Block ADMM for a Class of Convex Minimization Problems

The alternating direction method of multipliers (ADMM) has been successfully applied to solve structured convex optimization problems due to its superior practical performance. The convergence properties of the 2-block ADMM have been studied extensively in the literature. Specifically, it has been proven that the 2-block ADMM globally converges for any penalty parameter \(\gamma >0\). In this sense, the 2-block ADMM allows the parameter to be free, i.e., there is no need to restrict the value for the parameter when implementing this algorithm in order to ensure convergence. However, for the 3-block ADMM, Chen et al. (Math Program 155:57–79, 2016) recently constructed a counter-example showing that it can diverge if no further condition is imposed. The existing results on studying further sufficient conditions on guaranteeing the convergence of the 3-block ADMM usually require \(\gamma \) to be smaller than a certain bound, which is usually either difficult to compute or too small to make it a practical algorithm. In this paper, we show that the 3-block ADMM still globally converges with any penalty parameter \(\gamma >0\) if the third function \(f_3\) in the objective is smooth and strongly convex, and its condition number is in [1, 1.0798), besides some other mild conditions. This requirement covers an important class of problems to be called regularized least squares decomposition (RLSD) in this paper.     

一种优化WSNs节点部署的变步长虚拟力算法

针对传统虚拟力算法的后期稳定性较差,容易导致覆盖率降低的问题,提出了一种基于sigmoid函数的变步长虚拟力算法,通过每次迭代减小误差的方法,调整节点每次移动的步长,即节点移动的速度,提高收敛速度和后期稳定性.采用0—1圆盘节点感知模型,在800 m×700 m的矩形监测区域内,对提出的算法进行了仿真研究.仿真结果表明:与传统虚拟力算法相比,所提算法在保证收敛速度的同时,覆盖率均值提高了4.23%,覆盖率最优值提高了1.52%,稳定性提高了95.05%.     

Distributed policy evaluation via inexact ADMM in multi-agent reinforcement learning

This paper studies a distributed policy evaluation in multi-agent reinforcement learning. Under cooperative settings, each agent only obtains a local reward, while all agents share a common environmental state. To optimize the global return as the sum of local return, the agents exchange information with their neighbors through a communication network. The mean squared projected Bellman error minimization problem is reformulated as a constrained convex optimization problem with a consensus constraint; then, a distributed alternating directions method of multipliers (ADMM) algorithm is proposed to solve it. Furthermore, an inexact step for ADMM is used to achieve efficient computation at each iteration. The convergence of the proposed algorithm is established.     

基于压缩感知的多特征加权目标跟踪算法

针对被跟踪目标运动、纹理或环境变化时, 采用基于压缩感知目标跟踪算法目标易漂移、丢失的问题, 提出了改进的压缩感知目标跟踪算法。通过压缩感知算法提取灰度和纹理特征, 计算特征对样本分类结果并更新特征的权值, 使用加权过的特征寻找目标在下一帧的位置。对不同视频的测试结果表明, 提出的算法在目标运动、纹理或环境变化的情况下跟踪准确, 在目标大小80×120像素时平均帧速为25 fps。与传统的压缩感知跟踪算法和其他跟踪算法相比, 所提出的算法在目标运动、纹理或环境变化时能快速准确地获取跟踪目标, 并具有更强的鲁棒性。     

Precoder design in downlink CoMP-JT MIMO network via WMMSE and asynchronous ADMM

Precoder design of coordinated multi-point joint transmission (CoMP-JT) multiple-input and multiple-output (MIMO) network aimied at throughput maximization is a challenging problem. In this paper, we propose an asynchronous distributed iterative method to solve this problem. We transform the original throughput maximizing problem to the weighted minimum mean square error (WMMSE) problem, then decompose the problem into a series of subproblems. Based on alternation direction method of multipliers (ADMM), the proposed algorithm can solve the optimal precoder in a distributed manner. With asynchronous information exchange mechanism considered, the convergence rate of our algorithm can be accelerated further. Numerical results demonstrate the increase of throughput and the optimality of the precoding scheme provided by our algorithm.     

Pi-sigma神经网络的乘子法随机单点在线梯度算法*

在利用梯度算法训练Pi-sigma神经网络时,存在因权值选取过小导致收敛速度过慢的问题,而采用一般罚函数法虽然可以克服这个缺点,但要求罚因子必须趋近于∞且惩罚项绝对值不可微,从而导致数值求解困难。为克服以上缺点,提出了一种基于乘子法的随机单点在线梯度算法。利用最优化理论方法,将有约束问题转换为无约束问题,利用乘子法来求解网络误差函数。从理论上分析了算法的收敛速度和稳定性,仿真实验结果验证了算法的有效性。