有向网络分布式优化的Barzilai-Borwein梯度跟踪方法

本文研究有向网络上的分布式优化问题, 其全局目标函数是网络上所有光滑强凸局部目标函数的平均值.受Barzilai-Borwein步长改善梯度方法表现的启发, 本文提出了一种分布式Barzilai-Borwein梯度跟踪方法. 与文献中使用固定步长的分布式梯度算法不同, 所提出的方法中每个智能体利用其局部梯度信息自动地计算其步长. 通过同时使用行随机和列随机权重矩阵, 该方法避免了由特征向量估计引起的计算和通信. 当目标函数是光滑和强凸函数时, 本文证明了该算法产生的迭代序列可以线性地收敛到最优解. 对分布式逻辑回归问题的仿真结果验证了所提出的算法比使用固定步长的分布式梯度算法表现更好     

基于预设时间收敛的分布式优化算法

考虑一类分布式优化问题,其目标是通过局部信息交互,使得局部成本函数之和构成的全局成本函数最小.针对该类问题,通过引入时基发生器(TBG),提出两种基于预设时间收敛的分布式比例积分(PI)优化算法.与现有的基于有限/固定时间收敛的分布式优化算法相比,所提出算法的收敛时间不依赖于系统的初值和参数,且可以任意预先设计.此外,在全局成本函数关于最优值点有限强凸,局部成本函数为可微的凸函数,且具有局部Lipschitz梯度的条件下,通过Lyapunov理论证明了所提算法都能实现预设时间收敛.最后,通过数值仿真验证了所提出算法的有效性.     

多个体网络分布式随机投影无梯度优化算法

研究了有向多个体网络的无梯度优化问题,提出了一种分布式随机投影无梯度优化算法。假定网络的优化目标函数可分解成所有个体的目标函数之和,每个个体仅知其自身的目标函数及其自身的状态约束集。运用无梯度方法解决了因个体目标函数可能非凸而引起的次梯度无法计算问题,并结合随机投影算法解决了约束集未知或约束集投影运算受限的问题。在该算法作用下,所有个体状态几乎必然收敛到优化集内,并且网络目标函数得到最优。     

基于改进Snake模型的目标轮廓提取

轮廓是运动目标检测及识别的重要依据.针对视频序列,采用一种基于改进Snake模型的方法对运动目标进行轮廓提取.首先通过部分MPP算法与外接矩形结合的方法,实现模型初始轮廓线控制点的自动设置;进而改进梯度能量函数,引入梯度矢量流算子,使得Snake轮廓能较好收敛于目标凹陷部位;并根据实际情况调整其他能量函数项的权重,最后通过8邻域贪心算法求得总能量最小化时的目标轮廓线.实验证明,该算法能对视频序列中的目标轮廓实现较可靠的提取.     

梯度收缩法在局部放电定位中的应用

使用梯度收缩法开展了变压器局部放电源的超声定位工作。梯度收缩法结合了牛顿法和共轭梯度法的优点,应用目标函数的二阶导数,收敛速度快,具有牛顿法的“二次收敛”特性,并具有较高的精确度。实验结果表明,梯度收缩法能有效解决变压器局部放电点定位问题。     

基于梯度优化的多维尺度节点定位算法

研究了分布式多维尺度分析技术在无线传感器网络节点定位中的应用,重点分析了其定位精度和收敛性能.根据传统的梯度优化算法,引入了最速下降算法作为目标函数的无约束优化方法.该算法采用最速下降法对节点的局部目标函数进行迭代优化.实验结果表明该优化算法比基于SMACOF算法的高斯核加权的dwMDS(G)算法在定位精度上有明显的提高, 并且算法简单,容易实现,是一种实用有效的无线传感器网络节点定位方法.     

一种新型高效的计算机寻优算法

提出一种全新的寻找无约束最优解的计算机算法。该算法能使得目标函数梯度的模逐渐收缩到零,以达到目标函数极小化,因此命名“梯度收缩法”。它同时利用了牛顿法和共轭梯度法的优点,应用目标函数的二阶导数,收敛很快,且具有牛顿法的“二次终止”特性。但Hessian矩阵奇异时,牛顿法将无法进行下去,该文算法可以克服这个缺点且能快速确定是否收敛到一个鞍点。     

具有非协同步长的噪声鲁棒分布式资源分配算法

针对通信噪声干扰下的资源分配问题,本文提出了基于对偶梯度追踪的分布式算法以实现资源的最优配置.通过设计新的噪声追踪策略与引入抑制系数,本文算法对噪声干扰具有更好的鲁棒性,并且支持各节点使用非协同步长进行迭代更新.理论分析证明了对于非Lipschitz光滑甚至不可微的强凸目标函数,算法在噪声干扰下仍能收敛到最优解邻域并且具有O(1/k)收敛速率.最后,在IEEE14母线和IEEE 118母线系统上验证了本文所提出分布式算法的有效性和可拓展性.     

分布式在线交替方向乘子法

针对如何对分布式网络采集的数据进行在线学习的问题,提出了一种基于交替方向乘子法(ADMM)的分布式在线学习优化算法--分布式在线交替方向乘子法(DOM)。首先,针对分布式在线学习需要各节点根据新采集的数据来更新本地估计,同时保持网络中所有节点的估计趋于一致这一问题,建立了数学模型并设计DOM算法对其进行求解。其次,针对分布式在线学习问题定义了Regret 界,用以表征在线估计的性能;证明了当本地即时损失函数是凸函数时,DOM算法是收敛的,并给出了其收敛速度。最后,通过数值仿真实验结果表明,相比现有的分布式在线梯度下降法(DOGD)和分布式在线自主学习算法(DAOL),所提出的DOM算法具有更快的收敛性能。     

基于分布式梯度算法的WSN隐私保护技术研究

数据隐私保护技术是WSN领域的研究热点之一,针对数据隐私保护问题提出了一种基于分布式梯度算法的密钥管理策略.把网络拓扑结构抽象为有向图,每个节点都有各自的目标函数,密钥采用异步更新方式.更新过程中,每个节点的梯度值由目标函数给出,通过分布式优化算法求得全局目标函数的最优解,以此来计算通信密钥.随机因子依据数据与梯度的差值自适应调整作动态变化,攻击者无法获取随机因子及相关参数,从而达到隐私保护的目的.论文从隐密性、收敛性、有效性3个方面验证分析了该算法的优越性.     

非平衡有向网络下带约束的连续时间分布式优化算法设计EI北大核心CSCD

本文基于权重不平衡有向网络,对一类分布式约束优化问题进行研究,其中全局目标函数等于具有李普希兹梯度的强凸目标函数之和,并且每个智能体的状态都有一个局部约束集.每个智能体仅知道自身的局部目标函数和非空约束集.本文的目标是用分布式方法求解该问题的最优解.针对优化问题,提出了一种新的分布式投影梯度连续时间协调算法,利用拉普拉斯矩阵的零特征值对应的左特征向量消除了图的不平衡性.在某些假设下,结合凸分析理论和李雅普诺夫稳定性理论,证明了算法能够获得问题的最优解.最后,通过仿真验证了算法的有效性.     

Finite‐Time Average Consensus Based Approach for Distributed Convex Optimization

In this paper, we consider a distributed convex optimization problem where the objective function is an average combination of individual objective function in multi‐agent systems. We propose a novel Newton Consensus method as a distributed algorithm to address the problem. This method utilises the efficient finite‐time average consensus method as an information fusion tool to construct the exact Newtonian global gradient direction. Under suitable assumptions, this strategy can be regarded as a distributed implementation of the classical standard Newton method and eventually has a quadratic convergence rate. The numerical simulation and comparison experiment show the superiority of the algorithm in convergence speed and performance.     

Cooperative distributed target tracking algorithm in mobile wireless sensor networks

The paper proposes a cooperative distributed target tracking algorithm in mobile wireless sensor networks.There are two main components in the algorithm:distributed sensor-target assignment and sensor motion control.In the key idea of the sensor-target assignment,sensors are considered as autonomous agents and the defined objective function of each sensor concentrates on two fundamental factors:the tracking accuracy and the tracking cost.Compared with the centralized algorithm and the noncooperative distrib...     

神经网络增强学习的梯度算法研究

针对具有连续状态和离散行为空间的Markov决策问题，提出了一种新的采用多层前馈神经网络进行值函数逼近的梯度下降增强学习算法，该算法采用了近似贪心且连续可微的Boltzmann分布行为选择策略，通过极小化具有非平稳行为策略的Bellman残差平方和性能指标，以实现对Markov决策过程最优值函数的逼近，对算法的收敛性和近似最优策略的性能进行了理论分析，通过Mountain-Car学习控制问题的仿真研究进一步验证了算法的学习效率和泛化性能。     

Privacy-preserving distributed projected one-point bandit online optimization over directed graphs

The distributed online optimization (DOO) problem with privacy-preserving properties over multiple agents is considered in this paper, where the network model is built by a strongly connected directed graph. To solve this problem, a stochastic bandit DOO algorithm based on differential privacy is proposed. This algorithm uses row- and column-stochastic matrix as the weighting matrices, the requirement of the double random weighting matrix is released. To handle the unknown objective function, the one-point bandit is used to estimate the true gradient information, and the estimated gradient information is used to update of decision variables. Different from the existing DOO algorithms that ignore privacy issues, this algorithm successfully protects the privacy of nodes through a differential privacy policy. Theoretical results show that the algorithm can not only achieve sublinear regret bounds but also protect the privacy of nodes. Finally, simulation results verify the effectiveness of the algorithm.     

On computing mobile agent routes for data fusion in distributed sensor networks

The problem of computing a route for a mobile agent that incrementally fuses the data as it visits the nodes in a distributed sensor network is considered. The order of nodes visited along the route has a significant impact on the quality and cost of fused data, which, in turn, impacts the main objective of the sensor network, such as target classification or tracking. We present a simplified analytical model for a distributed sensor network and formulate the route computation problem in terms of maximizing an objective function, which is directly proportional to the received signal strength and inversely proportional to the path loss and energy consumption. We show this problem to be NP-complete and propose a genetic algorithm to compute an approximate solution by suitably employing a two-level encoding scheme and genetic operators tailored to the objective function. We present simulation results for networks with different node sizes and sensor distributions, which demonstrate the superior performance of our algorithm over two existing heuristics, namely, local closest first and global closest first methods.     

Ad Hoc 网络节能型功率控制与拥塞控制的跨层优化

有限的节点能量和通信带宽,是Ad Hoc网络的两个重要的特点.节点能量是影响网络容量的关键因素,也是制约网络寿命的决定因素;而有限的通信带宽使得网络更容易产生拥塞.因此,节能型的功率控制与拥塞控制联合优化在Ad Hoc网络中显得尤为重要.首先,设计了节能型的网络效用最大化问题,即在目标函数中引入能量消耗成本函数,从网络效用和网络寿命两个方面来综合优化网络性能.其次,运用对偶分解与梯度投影方法,提出了相应的节能型功率控制与拥塞控制联合优化算法.另外,分析和证明了所提算法的收敛性.最后,详细的仿真结果表明了所提算法的有效性:在保持网络吞吐量基本不变的同时,可以有效地减少节点的能量消耗,从而延长网络寿命.     

基于异步动态事件触发通信策略的综合能源系统分布式协同优化运行方法

研究综合能源系统的协同能源管理问题, 并提出了一种基于异步动态事件触发通信策略的分布式梯度算法来解决该问题. 通过引入外部辅助变量并设计有效的触发机制, 该方法可以使得每个参与者仅在必要时刻以离散且异步的方式与邻居产生通信交互, 实现了连续通信的离散替代化. 同时, 该方法并不要求全局同步时钟, 具有更强的灵活性. 此外, 本文也在理论上证明了算法的全局收敛性. 最后, 仿真结果验证了所提方法的有效性.     

传感器网络节点选择的分布式在线算法

大型传感器网络部署的关键是在能量消耗最小的前提下激活传感器节点以获取有价值信息,这要求在效用函数事先不可知的情况下通过分布式方式选择正确的传感器节点。为此,提出一种分布式在线贪心算法。以效用函数满足子模性的自然报酬递减特性为前提,在模型未知的情况下,通过在线学习方式优化目标函数。实验结果表明,该算法的收敛性近似于传统的集中式方法,且在运行中所需的通信消息量较少,适用于大型网络传感器节点的部署。     

基于拟牛顿方法的异步拥塞控制算法

针对当前网络中的拥塞问题,通过最优化问题引出网络效用最大化框架,在满足链路容量的约束下,最大化关于用户速率的效用函数,从而达到用户的最大满意程度。提出一种基于对偶原理的分布式速率异步控制算法,在链路算法设计过程中,用拟牛顿算法代替梯度算法,并且允许反馈延时时变。仿真结果表明,该算法收敛速度更快且满足公平性。