多重加权改进型指数双向联想记忆网络及其决策性能

C C Wang等作者利用指数双向联想记忆模型(eBAM),构造了由多个eBAM构成的多重eBAM(Multi-eBAM)信念组合模型,使之可模拟多个专家的投票表决决策,并获得了Multi-eBAM在各eBAM具有同等权威度条件下的决策性能.本文在此基础上,通过对各eBAM引入不同的权值来模拟各专家不同的权威度,推广了Multi-eBAM.进一步借助陈所提出的改进型eBAM(IeBAM),构建了相应的多重加权改进型eBAM(Multi-WIeBAM)信念组合模型,获得了此推理模型在同、异步方式下的决策性能及多专家不同权威度下的多数投票因子,使之更符合实际的多数表决决策.理论分析表明Multi-WIeBAM所获得的多数投票因子优于Multi-WeBAM的多数投票因子,即前者较后者具有更紧致的下界.实验结果也表明了Multi-WIeBAM的性能要优于Multi-WeBAM.     

非二值化图序列的Community挖掘

针对现有图序列Community发现方法的缺陷,提出了一种基于最小描述长度原理的非二值化图序列的Community挖掘方法。根据其具有某些NP完全问题的性质,对问题进行预处理得到相对较好的初始输入。基于图序列编码长度的概念,通过重组并结合其中的灰度信息对优化问题进行求解,高效地解决了Community挖掘问题。借鉴遗传算法的随机和择优思想,避免在求解过程中被困于局部最小。此外,所提算法能随着时间演变及时判断出Community结构的变化。最后通过实验验证了该方法的有效性。     

基于凸差规划的不完整数据填充聚类

为了提升聚类性能,文中提出基于凸差规划(DCP)的不完整数据填充聚类算法.采用DCP对核模糊C均值目标进行凸差化改造,实现DCP聚类和数据缺失项填充的交替优化过程,从理论上证明交替优化的收敛性.在UCI数据集上的实验验证文中算法在缺失数据填充和聚类上的优势.     

基于DC规划的鲁棒模糊核聚类算法

对以径向基核函数和欧拉核函数为代表的鲁棒模糊核聚类算法进行非凸优化,以改善聚类算法目标函数非凸导致的局部解问题.采用凸差规划(DCP)将目标函数转化为2个凸函数之差的形式,减缓局部解的不良性,提高聚类性能.采用凸差算法(DCA)优化求解DCP问题,能快速搜索到相对更优的解,并保持聚类的鲁棒性.在UCI数据集上的实验验证基于DCP的鲁棒模糊核聚类算法对大规模数据集表现出相对更优的聚类性能.     

基于物理信息的神经网络:最新进展与展望

基于物理信息的神经网络(Physics-informed Neural Networks,PINN),是一类用于解决有监督学习任务的神经网络,它不仅尽力遵循训练数据样本的分布规律,而且遵守由偏微分方程描述的物理定律.与纯数据驱动的神经网络学习相比,PINN在训练过程中施加了物理信息约束,因此能用更少的数据样本学习得到更...     

采用双重特征扰动的最小平方有序回归

有序回归是一种特殊的机器学习范式，其目标是利用类间内在的有序标号来划分模式。尽管已有众多有序学习方法相继被提出，但其性能常受制于有限的训练样本。借鉴最近提出的边际特征扰动思想，通过对训练样本的输入和输出分别施加已知分布噪声的随机扰动和确定偏差的可控扰动，以弥补样本有限的不足，进而在最小平方有序回归基础上发展出采用双重特征扰动的最小平方有序回归（least squares ordinal regres-sion using doubly corrupted features，LSOR-DCF）。实验结果表明，LSOR-DCF性能优于无扰动或单一输入/输出的扰动，且在小数据集上表现得尤其明显。     

自监督增广的监督分类学习增强

借助预置任务创建的免费监督信号/标记,自监督学习(SSL)能学得无标记数据的有效表示,并已在多种下游任务中获得了验证.现有预置任务通常先对原视图数据作显式的线性或非线性变换,由此形成了多个增广视图数据,然后通过预测上述视图或变换的对应标记或最大化视图间的一致性达成学习表示.发现这种自监督增广(即数据自身与自监督标记的增广)不仅有益无监督预置任务而且也有益监督分类任务的学习,而当前鲜有工作对此关注,它们要么将预置任务作为下游分类任务的学习辅助,采用多任务学习建模;要么采用多标记学习,联合建模下游任务标记与自监督标记.然而,下游任务与预置任务间往往存在固有差异(语义,任务难度等),由此不可避免地造成二者学习间的竞争,给下游任务的学习带来风险.为挑战该问题,提出一种简单但有效的自监督多视图学习框架(SSL-MV),通过在增广数据视图上执行与下游任务相同的学习来避免自监督标记对下游标记学习的干扰.更有意思的是,借助多视图学习,设计的框架自然拥有了集成推断能力,因而显著提升了下游分类任务的学习性能.最后,基于基准数据集的广泛实验验证了SSL-MV的有效性.     

多重加权多值指数双向联想记忆网络及其表决性能

Wang和陈等利用各自提出的二值指数双向联想记忆模型（eBAM)及其改进型eBAM(IeBAM),分别构造了由多个eBAM和IeBAM组成的多重eBAM(Multi-eBAM)和多重IeBAM(Multi-IeBAM)的信念组合模型,使之可模拟多个专家的表决。该文在此基础上,借助陈提出的多值eBAM(MVeBAM),提出了多重多值eBAM (Multi-MVeBAM),对Multi-eBAM和Multi-IeBAM进行了两方面的推广;一是将二值表示推广到多值表示,以此可以处理现实中的多值数据;二是将原有模型中具有同等权威度的各专家推广到各具不同的权威度的专家,以此模拟更实际的表决情形。文中借助能量函数证明了所提模型的渐近稳定性,以保证其实际可用。计算机模拟证实了模型的可行性。     

半配对半监督场景下的低分辨率人脸识别

实际环境(如监控)中常遇到大量低分辨率人脸图像需要识别.对低分辨率人脸的识别相对高分辨率更难,因其含有相对有限的判别信息.为此,通过在人脸识别(系统)构建阶段引入与低分辨率人脸相配对的高分辨率人脸,以提高识别性能成为最近研究的焦点之一.但这些研究仍存在以下不足:1)均要求高、低分辨率人脸样本间的全配对;2)识别系统构建时未利用给出的类信息,导致系统性能受限.事实上常常面对的应用场景是仅能获取部分配对和部分标号的高、低分辨率人脸样本集,即所谓的半配对半监督场景,对此提出一种用于低分辨率人脸识别的半配对半监督算法,以弥补现有相关研究的不足.在Yale和AR人脸数据集上的实验结果验证了该算法的有效性.     

基于l1-正则化的ELM回归集成学习

极速学习机(extreme learning machine,ELM)是近年提出的一种极其快速且具有良好泛化性保证的单隐层神经网络学习算法.然而ELM随机的设置权值带来的不足是其性能的不稳定.稀疏的ELM回归集成学习算法(sparse ensemble regressors of ELM,SERELM)通过稀疏地加权组合多个不稳定ELM学习机弥补该不足.一方面,在典型时间序列上的回归实验不仅验证了SERELM的性能优于单个ELM回归器,而且也优于其他两个最近提出的集成方法.另一方面,集成学习的优劣通常与多样性密切相关,而对回归如何定义和度量多样性仍是一个问题,这导致了目前几乎没有一个普遍认可的合适度量方法.SERELM则利用l1-正则化,绕开了这一问题,且实验结果表明:1)l1-正则化自动地为精度高的学习机赋以大的权值;2)很大程度上,回归中常用个体间的负相关性对多样性度量无效.