基于改进贝叶斯优化算法的CNN超参数优化方法

CNN框架中,如何对其模型的超参数进行自动化获取一直是一个重要问题。提出一种基于改进的贝叶斯优化算法的CNN超参数优化方法。该方法使用改进的汤普森采样方法作为采集函数,利用改进的马尔可夫链蒙特卡罗算法加速训练高斯代理模型。该方法可以在超参数空间不同的CNN框架下进行超参数优化。利用CIFAR-10、MRBI和SVHN测试集对算法进行性能测试,实验结果表明,改进后的CNN超参数优化算法比同类超参数优化算法具有更好的性能。     

基于粒子群优化算法的模型超参调优方法应用研究

机器学习模型的效果很大程度上取决于模型的超参数调优,如何实现自动化的超参数优化是机器学习领域的重点研究方向之一。提出一种改进粒子群优化算法的惯性系数动态更新的方法,实现基于粒子群优化算法的模型超参数的调优方法,并以信用卡核心业务场景建模的自动调参过程予以实际验证。实验结果表明,改进后的自动超参数优化方法在通过多轮迭代逐步逼近最优解的参数择优方面更容易达到预期模型的效果目标,能够提升机器学习模型的预测精度和泛化能力。     

基于粒子群算法的RBF网络参数优化算法

针对神经网络的一些缺陷,研究神经网络基于粒子群优化的学习算法,将粒子群优化算法用于RBF神经网络的学习训练。提出了一种基于粒子群优化（PSO）算法的径向基（RBF）网络参数优化算法,首先利用减聚类算法确定网络径向基函数中心的个数,再用PSO算法优化径向基函数的中心及宽度,最后用PSO算法训练隐含层到输出层的网络权值,找到神经网络权值的最优解,以达到优化神经网络学习的目的。最后,通过一个实验与最小二乘法优化的神经网络进行了比较,验证了算法的有效性。     

基于菌群优化的近邻传播聚类算法研究

为了提高近邻传播聚类算法的聚类性能,采用菌群算法进行近邻传播偏向参数优化求解.首先,根据待聚类样本建立相似矩阵,初始化偏向参数;然后采用菌群算法优化偏向参数,将偏向参数作为菌落进行训练,设置轮廓(Silhouette)指标值作为菌群算法的适应度函数;接着通过菌落位置更新优化后的偏向参数,进行近邻传播聚类运算,不断更新近...     

基于消息队列的LightGBM超参数优化

为了提高LightGBM超参数优化效率,同时得到全局最优模型,提出了以消息队列方式并行优化LightGBM超参数方法。根据超参数的预选范围,将每一组超参数发送到队列中,各节点从队列获取到消息后以并行方式进行模型训练并验证准确率,最后选出准确率最高的模型计算待预测的数据集。实验结果表明,与传统的网格搜索、贝叶斯法、随机搜索方法以及消息队列串行优化相比,消息队列并行优化超参数方法时间最短,AUC值最大。     

基于密度的微粒群优化混合聚类算法

在分析了现有的基于密度的聚类算法的基础上,结合微粒群算法,提出了一种基于密度的微粒群混合聚类算法。相对于DENCLUE聚类算法,该算法能够对使用的资源进行有效的控制,有利于实现对数据库数据的增量处理。实验证明了算法的有效性。     

基于超像素及贝叶斯合并的图像分割算法

针对超像素分割算法中普遍存在的过分割问题,结合Mean Shift算法和非参数贝叶斯聚类模型,提出了一种新的图像分割算法MS-BRM（Mean Shift based Bayesian Region Merging）。首先,利用Mean Shift算法对图像进行超像素分割,然后根据非参数贝叶斯聚类模型,融合超像素的空间信息,提出一种区域合并策略对超像素进行合并,得到了最终的分割结果。实验结果表明,MS-BRM算法改善了超像素的过分割问题,对图像进行分割的结果保留了图像的边界信息,更加符合人类视觉的判断结果。     

基于改进粒子群算法的PID参数优化方法研究

针对标准粒子群算法的一些缺点进行了改进，提出了MWPSO优化算法，即Multi-Weight PSO。将MWPSO优化算法用几个标准测试函数进行测试，结果表明该算法优化结果的指标参数比标准PSO算法有所提高。在此基础上，用MWPSO优化算法对PID控制中的参数进行优化并将结果与遗传算法的结果进行比较，优化结果在保证PID控制稳定性基础上提高了PID控制的精度，且编码简单、易于实现。具有较好的应用前景。     

基于聚合距离参数的改进K-means算法

针对传统K均值聚类（K-means）算法随机选择初始中心及K值导致的聚类结果不确定且精度不高问题,提出了一种基于聚合距离的改进K-means算法。首先,基于聚合距离参数筛选出优质的初始聚类中心,并将其作用于K-means算法。然后,引入戴维森堡丁指数（DBI）作为算法的准则函数,循环更新聚类直到准则函数收敛,最后完成聚类。改进算法提供了优质的初始聚类中心及K值,避免了聚类结果的随机性。二维数值型仿真数据的聚类结果表明,改进算法在数据样本数达到10000时仍能保持较好的聚类效果。针对Iris和Seg这两个UCI标准数据集的调整兰德系数,改进算法比传统算法性能分别提高了83.7%和71.0%,最终验证了改进算法比传统算法聚类结果的准确性更高。     

基于蚁群算法的聚类优化

为解决大型网络中的最短路径问题,基于蚁群算法进行聚类优化研究。结合蚁群算法和聚类算法,将网络分割成若干个小网络后进行处理并合成,同时在过程中直接简化网络,透明化无意义的点。实验结果表明,优化后的算法能准确获得所要求的最优解,具有较快的收敛速度。     

一种基于粒子群优化的可能性C均值聚类改进方法

提出了一种基于拉子群优化的可能性c均值(Possibilistic Gmeans, PCM)聚类改进方法。该方法首先通过 改进PCM算法的目标函数来计算数据模式的隶属度矩阵和聚类中心完成粒子编码,从而降低算法对初始中心的敏 感,提高聚类的精度;其次,通过粒子群优化(Particle Swarm Optimization, PSO)算法对编码进行优化,以有效地克服 PCM聚类算法容易导致聚类一致性和陷入局部最优解的缺点,减少算法的迭代次数。通过人造数据集和UCI数据 集上的实验,表明该算法在计算复杂度、聚类精度和全局寻优能力方面表现得较为突出。     

基于EM算法的文本聚类优化研究

针对现有的文本聚类算法难以取得满意结果的问题，以EM算法为基础，提出能分别描述相似、不相似聚类对的相似性分布以及重要、不重要文档的重要性分布的文本聚类优化模型（text clustering optimization model, TCOM）．基于该模型，设计一种通过合并不同的文本聚类结果以获取最优性能的方法．实验结果表明，利用该方法同时改善了聚类精度和召回率，其性能优于单独使用现有的硬、软聚类算法．     

一种基于蚁群算法的能量有效WSN分簇算法

由于无线传感器网络节点的能量限制,如何延长网络和节点的寿命成为其核心问题之一。LEACH协议是WSN中的低功耗白适应分层路由算法,但由于其随机性的特点,难以形成最优拓扑结构,同时分簇时未考虑簇头节点剩余能量,节点能耗分布不平均。本文提出一种考虑能量有效的基于ACO的分簇算法,通过群集作用动态选择簇头节点,延长了网络寿命,仿真结果表明其性能优于LEACH。     

基于聚类的蚂蚁优化算法

尽管蚁群优化算法在优化计算中有大量应用，但在大规模优化问题中蚁群算法仍存在搜索时间过长、易于停滞现象等等应用瓶颈。基于这些原因，根据经济学组织交易成本理论，文中提出一种新的通过聚类来降低优化问题规模的蚁群优化算法：基于聚类的蚂蚁优化算法，并从理论上表明比其他蚁群优化算法提高了收敛速度并延迟停滞现象。     

结合初始中心优化和特征加权的K-Means聚类算法

为了提高传统K-Means聚类算法的聚类准确性,提出一种结合初始中心优化和特征加权的改进K-Means聚类算法。首先,根据样本特征对聚类的贡献程度获得初始特征权重,构建一种加权距离度量。其次,利用提出的初始聚类中心选择方法获得k个初始聚类中心,并结合初始特征权重进行初步聚类。然后,根据聚类精度来调整特征权重并再次执行聚类过程。重复执行上述过程直到聚类精度不再变化,获得最终的聚类结果。在UCI数据库上的实验结果表明,与现有相关K-Means聚类算法相比,该算法具有较高的聚类准确性。     

基于功率控制的成簇优化算法

在无线传感器网络中,高效、节能的自组织成簇算法,有助于拓扑结构控制与优化,有助于提高传感器网络的服务质量,延长整个网络的生命周期.针对成簇算法中没有考虑工作节点的功率控制问题,本文从理论上对节点覆盖、连通与有效通信半径之间的关系进行分析,提出一种节点有效通信半径的计算方法,应用于传统的成簇算法进行优化,并通过仿真计算对优化算法进行了性能分析.仿真结果表明,优化算法的网络覆盖度、网络生存期及节点失效等方面都有明显提高.     

A Fast Clustering Based Evolutionary Algorithm for Super-Large-Scale Sparse Multi-Objective Optimization

During the last three decades,evolutionary algorithms(EAs) have shown superiority in solving complex optimization problems,especially those with multiple objectives and non-differentiable landscapes.However,due to the stochastic search strategies,the performance of most EAs deteriorates drastically when handling a large number of decision variables.To tackle the curse of dimensionality,this work proposes an efficient EA for solving super-large-scale multi-objective optimization problems with spa...     

基于微粒群的K均值聚类算法在图像分类中的应用

提出一种新的图象分类算法椈谖⒘Ｈ旱腒均值聚类图象分类算法.将此算法和K均值聚类算法以及微粒群图像分类算法分别应用于MRI人脑图象的分类,并进行了比较.实验结果表明:基于微粒群的K均值聚类图象分类算法具有较好的全局收敛性,不仅能有效克服K均值算法易陷入局部极小值的缺点,且全局收敛性能优于微粒群图像分类算法.