特征扩展的随机向量函数链神经网络

基于宽度学习的动态模糊推理系统(broad-learning-based dynamic fuzzy inference system , BL-DFIS)能自动构建出精简的模糊规则并获得良好的分类性能. 然而, 当遇到大型复杂的数据集时, BL-DFIS因会使用较多模糊规则来试图达到令人满意的识别精度, 从而对其可解释性造成了不利影响. 对此, 提出一种兼顾分类性能和可解释性的模糊神经网络, 将其称为特征扩展的随机向量函数链神经网络(FA-RVFLNN). 在该网络中, 一个以原始数据为输入的RVFLNN被作为主体结构, BL-DFIS则用作性能补充, 这意味着FA-RVFLNN包含具有性能增强作用的直接链接. 由于主体结构的增强节点使用Sigmoid激活函数, 因此, 其推理过程可借助一种模糊逻辑算子(I-OR)来解释. 而且, 具有明确含义的原始输入数据也有助于解释主体结构的推理规则. 在直接链接的支撑下, FA-RVFLNN可利用增强节点、特征节点和模糊节点学到更丰富的有用信息. 实验表明: FA-RVFLNN既减缓了主体结构RVFLNN中过多增强节点带来的“规则爆炸”问题, 也提高了性能补充结构BL-DFIS的可解释性(平均模糊规则数降低了50%左右), 在泛化性能和网络规模上仍具有竞争力.     

基于因果关系和特征对齐的图像分类域泛化模型

针对现有域泛化方法性能较差或缺乏理论可解释性的缺点,提出了一种基于因果关系和特征对齐的图像分类域泛化模型,并证明了该模型的可识别性。该模型利用域泛化中的因果关系来学习含有不同信息的特征,将域泛化问题转化为特征相关分布的偏移,再利用特征对齐消除偏移。为提高模型的性能,采用对抗训练进一步优化学到的特征。在公共数据集上的实验结果表明,新提出的模型与目前最优的方法性能相当,表明该模型具有理论可解释性的同时,还有不俗的实际性能表现。     

知识嵌入的贝叶斯MA型模糊系统

模糊系统的独特优势在于其高度的可解释性,然而传统的基于聚类的模糊系统往往需要使用输入空间的全部特征且常出现模糊集交叉的现象,系统的可解释性不高;此外,此类模糊系统对高维数据处理时还会因使用大量的特征而使规则过于复杂.针对此问题,探讨了一种知识嵌入的贝叶斯MA型模糊系统(knowledge embedded Bayesian Mamdan-Assilan type fuzzy system, KE-B-MA).首先,KE-B-MA使用DC(dont care)方法进行知识嵌入的模糊集划分,对模糊隶属度函数中心和输入空间特征的选择进行有效指导,其获得的规则可对应于不同的特征空间.其次,KE-B-MA基于贝叶斯推理使用马尔可夫蒙特卡洛(Markov chain Monte Carlo, MCMC)方法对模糊规则的前后件参数同时学习,所得结果为全局最优解.实验结果表明:与一些经典模糊系统相比,KE-B-MA具有令人满意的分类性能且具有更强的可解释性和清晰性.     

结合模拟退火与规则约简的模糊系统优化方法

从数据中学习模糊系统是其智能建模的重要方法之一,针对目前模糊系统建模及优化方法对于学习后的模糊系统的规则数以及结构优化关注不足而影响了其精度和可解释性的问题,提出了一种结合模拟退火与基于支持度约简规则的模糊系统优化方法。该方法通过支持度约简系统冗余规则进而提高模糊系统的可解释性;同时利用模拟退火算法优化模糊系统的隶属度函数参数进一步提高模糊系统的精度。针对回归任务,与BP（Back Propagation）神经网络、径向基（Radial Basis Function,RBF）神经网络以及经典的模糊算法WM（Wang-Mendel）在不同领域的3个经典数据集上进行实验比较,实验结果表明：该算法在预测方面取得了更高的精度;与WM算法相比,所提算法中规则数明显减少,进一步提高了系统的可解释性。     

一种基于多目标进化算法的模糊关联分类方法

准确率和解释性是模糊关联分类模型的两个相互制约的优化目标.目前已有的研究方法中,有的只考虑了分类模型的准确率,有的把模型两个目标转化为单目标问题求解,在模型解释性目标上的优化策略较简单.为此提出一种基于Apriori和NSGA-II多目标进化算法的模糊关联分类模型(MOEA-FACM),采用基于概率独立性的模糊确认指标筛选生成高质量的模糊关联规则集,以Pittsburgh式的编码方式构建准确率和解释性折中的模糊关联分类模型.标准数据集上的实验表明,该方法所建模型分类准确率比同类模型高,分类模型具有较好的泛化能力,而其所含模糊关联规则的数目和规则前件总的模糊项的个数却较少,模型的解释性较好.     

一类非线性逆系统的加权最小二乘支持向量机辨识方法

文中依据T-S模型的思想,提出了一种加权最小二乘支持向量机辨识算法.它采用模糊c均值(FCM)聚类确定规则数目,通过Gauss型函数将原输入输出空间分成若干子空间,在子空间中使用最小二乘支持向量机(LS-SVM)拟合获得子模型,然后由一个权重机制合成这些子模型,得到系统的模型.文中使用该方法去辨识关键反馈变量难以获得的非线性逆系统.为了得到这类逆系统的有效建模数据,采用了联合逆系统方法.仿真结果表明,加权最小二乘支持向量机辨识方法是有效的,它能够实现这类非线性逆系统的辨识,而且拟合误差平稳,波动幅度小,拟合精度和泛化能力都较好.     

一种改进的RBF网络结构及其参数的设计方法

针对神经网络在学习之后,模糊系统的原始结构被改变,或削弱了规则可解释性这一模糊系统突出特点的问题,给出了一种提取模糊If-then规则的径向基函数(RBF)神经网络结构。该神经网络结构具有能够同时清晰表达模糊控制系统输入空间划分和模糊规则可解释性的特点,克服了以往用神经网络提取模糊规则不能直观体现模糊语言规则可解释性的不足,并详细地讨论了此网络结构参数的设计方法。     

基于聚类和遗传算法的解释性模糊模型设计

提出了一种基于模糊聚类和遗传算法构建解释性模糊模型的设计方法。定义了模糊模型的精确性指标,给出了模糊模型解释性的必要条件。然后利用模糊聚类算法和最小二乘法辨识初始的模糊模型;采用多目标遗传算法优化模糊模型;为提高模型的解释性,在遗传算法中利用基于相似性的模糊集合和模糊规则的简化方法对模型进行约简。采用该方法对Mackey-Glass系统进行建模,仿真结果验证了该方法的有效性。     

区间二型模糊子空间0阶TSK系统

人们倾向于使用少量的有代表性的特征来描述一条规则,而忽略极为次要的冗余的信息。经典的区间二型TSK(Takagi-Sugeno-Kang)模糊系统,在规则前件和后件部分会使用完整的数据特征空间,对于高维数据而言,易导致系统的复杂度增加和可解释性的损失。针对于此,提出了区间二型模糊子空间0阶TSK系统。在规则前件部分,使用模糊子空间聚类和网格划分相结合的方法生成稀疏的规整的规则中心,在规则后件部分,使用简化的0阶形式,从而得到规则语义更为简洁的区间二型模糊系统。在模拟和真实数据上的实验结果表明该方法分类效果良好,可解释性更好。     

基于遗传优化与模糊规则挖掘的异常入侵检测

提出一种基于智能体进化计算框架与遗传模糊规则挖掘的异常入侵检测方法.通过应用模糊集分布策略、解释性的控制策略和模糊规则生成策略,实现了Agent之间的模糊集信息交换,从而有效地从网络数据中抽取正确的、可解释的模糊IF-THEN分类规则,优化了模糊系统的可解释性,并提高了系统的紧凑性.采用KDD-Cup99数据集进行测试,并与现有方法进行了比较,结果表明该方法对R2L的攻击检测性能稍弱,对DoS、Probe和U2R的攻击均具有较高的分类精度与较低的误报率.