用广义选择性神经网络集成预测MHC-Ⅱ分子结合肽

MHC Ⅱ类分子结合肽的预测对于免疫研究和疫苗设计非常重要,然而其结合肽长度的可变性等原因使其预测变得极为困难,提出了一种基于广义选择性神经网络集成的MHC Ⅱ分子结合肽预测算法,该算法是一种双层集成模型.第一层是用微分进化算法去生成初始神经网络集成池,第二层是从初始神经网络集成池中选择部分组成最终的神经网络集成.实验结果表明广义选择性神经网络集成比传统的选择性神经网络有更好的泛化性能.     

用于T细胞表位预测的分类器集成方法*

T细胞表位预测技术对于减少实验合成重叠肽,理解T细胞介导的免疫特异性和研制亚单位多肽及基因疫苗均有重要意义.为弥补已有基于机器学习方法的T细胞表位预测模型的可理解性的不足并进一步提高模型的预测精度,首先通过肽的预处理构建出了存储等长肽段的决策表,而后提出了基于粗糙集的分类器集成算法.该算法不但综合利用了基于信息熵的属性约简完备算法和其他属性约简算法的优势,而且将T细胞表位预测领域中的锚点知识融入到了属性值约简过程中.最后利用该算法来预测MHC Ⅱ类分子HLA-DR4(B1·0401)的结合肽,首次提取出了预测精度高且能帮助专家理解MHC分子与抗原肽的结合机理的产生式规则,为下一步的分子建模工作奠定了基础.     

基于粗集的T细胞表位预测方法

T细胞表位预测技术对于减少实验合成重叠肽、研究病原体与机体作用的免疫机制以及深入理解T细胞介导的免疫特异性均有重要意义。为增强T细胞表位预测模型的可理解性,本文在通过肽的预处理构建出存储等长肽段的决策表之后,设计出了一种基于粗集的T细胞表位预测方法。该方法由基于信息熵的属性约简完备算法和基于锚点知识的属性值顺序约简改进算法共同组成。基于HLA-DR4（B10401）编码的MHCII类分子结合肽的实验数据表明,在预测精度与传统神经网络方法大致相当的基础上,本文方法可以提取出用于帮助专家理解MHC分子与抗原肽结合机理的产生式规则。     

一个应用于MHCⅡ类分子亲和肽预测的集成分类器

分类是数据挖掘和机器学习领域的经典问题,由此产生的分类器目前在许多领域中有着广泛的具体应用。生物信息学作为近几年迅速兴起的交叉学科,自然成为分类器的重点应用方向之一。针对免疫生物信息学中的MHCⅡ类分子亲和肽预测这一重要课题,现阶段已有不少成熟的分类器,但是各分类器表现互有优劣。因而,设计实现一个可以集中各个分类器优势的集成分类器,使其面对尽可能全面的数据集都有稳定表现,就显得十分重要。采用集成学习的方法设计实现一个可以用于预测MHCⅡ类分子绑定情况的分类器,该系统可以将任意数目的预测分类器进行集成,从而达到更好的分类效果。同时,这一分类器集成学习算法可以推广应用到生物信息相关的更广泛领域。     

一种蜂群 神经网络集成方法的应用研究

提出一种蜂群神经网络集成方法,与一般的神经网络集成方法不同的是:(1)集成个体的生成首先利用蜂群算法优化三层BP神经网络的结构和连接权,并以优化后的网络结构和连接权作为新的神经网络结构和初始连接权,再进行新一轮BP神经网络训练后生成;(2)为提高集成个体间的差异度,首先对个体进行分类,其次利用ABC算法对每一类个体进行最优组合搜索,选取相关系数最低的一个组合的均值作为该类的代表,最后对不同类别的代表作平均集成.在西太平洋热带气旋强度的预测试验中,所提出的蜂群神经网络集成方法的泛化能力不仅明显优于单个神经网络,也优于Bagging和AdaBoost这两种集成方法.是一种具有较高应用价值的神经网络集成预测方法.     

Adaboost集成BP神经网络在传感器阵列检测系统中的应用

针对目前常见的多元有害气体检测问题,设计并搭建了一种基于传感器阵列和集成 BP神经网络相结合的传感器阵列检测系统。在该系统中采用集成BP神经网络对传感器阵列的三种混合有害气体的响应信号进行回归分析。为了提高集成BP神经网络的预测准确性,又利用Adaboost算法对集成BP神经网络进行了优化。结果显示：该系统能够准确地检测气体组分,通过Adaboost算法对集成BP神经网络优化后,预测的平均相对误差小于2%,能够有效解决气体传感器的交叉敏感问题,提高传感器的选择性。     

动态选择性集成神经网络软测量建模

集成建模方法能显著提高软测量模型的预测性能,其中选择性集成通过剔除一些性能不佳的子模型,能进一步提高整体软测量模型预测性能。针对目前选择性集成研究中因忽略了数据间的差异性而导致模型预测性能不佳的问题,提出了一种动态选择性集成神经网络软测量建模方法。首先将原始数据集分为训练集和验证集,采用bootstrap算法对训练集进行差异性扰动,建立了多个神经网络子模型;然后对每个待测样本,采用K-最近邻搜索算法从验证集中找到一个最近邻子集,用该子集评估各神经网络子模型的预测性能,为待预测样本筛选合适的神经网络子模型;最后根据各子模型的预测性能合理分配组合权重,从而建立集成模型,并实现待预测样本的预测。将该建模方法应用于聚丙烯熔融指数软测量研究中,研究结果表明:与单一神经网络、常规全集成和静态选择性集成神经网络模型相比,基于动态选择性集成神经网络的熔融指数软测量模型具有更佳的预测精度。     

基于文化算法的选择性神经网络集成方法

提出一种基于文化算法的选择性神经网络集成方法.该方法通过文化算法选择部分网络来组成神经网络集成,并将多层信念空间引入文化算法框架,充分利用了优秀个体所包含的种群信息,使个体间保持较大的差异度,减少"多维共线性"和样本噪声的影响.实验表明,该方法能够提高神经网络集成的性能.     

基于PSO算法的神经网络集成入侵检测系统

在系统结构上提出了一种多检测器并行的智能机群入侵检测系统模型，系统中每一个检测器是一个神经网络集成分类检测器，由多个PC组成，以提高系统响应速度。采用两次粒子群优化算法选择性集成神经网络集，提高了神经网络集成检测器的预测精度。程序设计采用PVM并行方式实现。     

排序学习前向掩蔽模型在T细胞表位预测中的应用

在综述了T细胞表位预测的定义，意义和研究现状的基础上，分析了当前流行的基于误差反向传播前馈神经网络(BPNN)的T细胞表位预测模型的不足，即网络结构较难确定、训练速度慢和难以增量学习等，提出了利用排序学习前向掩蔽（SLAM）模型及其增量学习算法作为T细胞表位预测方法，并给出了构建T细胞表位预测模型的基本步骤。基因HLA-DR4 (B1*0401)编码的MHC II类分子结合肽的应用实例表明，与基于BPNN的T细胞表位预测模型相比，基于SLAM的T细胞表位预测模型不但能在极短时间内完成样本的学习,而且能有效地实现增量学习。     

Degradation process prediction for rotational machinery based on hybrid intelligent model

Bearings are among the most critical and precise components in rotational machinery. The condition and health of bearings play an important role in the functionality and performance of rotational machinery. Since a neural network ensemble approach shows significantly improved generalization performance and outperforms those of a single neural network, one novel selective neural network ensemble model is developed for bearing degradation process prediction. An improved particle swarm optimization with simulated annealing is proposed to select the optimal subset formed by accurate and diverse networks and obtain a better ability to escape from the local optimum. An experimental setup to perform fatigue testing on ball bearings and several simulations are explored in order to validate the developed prediction model. Experimental results show that degradation process prediction based on the explored selective neural network ensemble model provides a means of enhancing the monitoring of ball bearings' condition, and the results of this model are superior in comparison with the results of a single neural network. This selective neural network ensemble model can be used as one excellent predictive maintenance tool in plants.     

一种基于聚类技术的选择性神经网络集成方法

神经网络集成是一种很流行的学习方法,通过组合每个神经网络的输出生成最后的预测、为了提高集成方法的有效性,不仅要求集成中的个体神经网络具有很高的正确率,而且要求这些网络在输入空间产生不相关的错误．然而,在现有的众多集成方法中,大都采用将训练的所有神经网络直接进行组合以形成集成,实际上生成的这些神经网络可能具有一定的相关性．为了进一步提高神经网络间的差异性,一种基于聚类技术的选择性神经网络集成方法CLU_ENN被提出．在获得个体神经网络后,并不直接对这些神经网络集成,而是先应用聚类算法对这些神经网络模型聚类以获得差异较大的部分神经网络;然后由部分神经网络构成集成;最后,通过实验研究了CLU_ENN集成方法,与传统的集成方法Bagging相比,该方法取得了更好的效果。     

基于集成神经网络的CSTR状态预测

针对连续搅拌反应釜(CSTR)具有的多重稳态性质,提出使用多个相同拓扑结构的神经网络模块组成的集成神经网络对CSTR的状态进行预测的方法。对集成神经网络的所有网络模块使用多目标粒子群优化算法进行同步训练,使训练结果收敛于参数空间内最优的Pareto面。避免了单一神经网络训练收敛到某一最优点可能产生的过拟和的问题;解决了使用传统训练方法对集成神经网络的子网络进行独立训练时增加学习算法复杂度的问题。对CSTR浓度预测的测试结果证明集成神经网络比同等规模的单一神经网络更适用于CSTR的状态参数预测。     

基于广义回归网络的动态权重回归型神经网络集成方法研究*

神经网络集成技术能有效地提高神经网络的预测精度和泛化能力,已成为机器学习和神经计算领域的一个研究热点。针对回归分析问题提出了一种动态确定结果合成权重的神经网络集成构造方法,在训练出个体神经网络之后,根据各个体网络在输入空间上对训练样本的预测误差,应用广义回归网络来动态地确定各个体网络在特定输入空间上的权重。实验结果表明,与传统的简单平均和加权平均方法相比,本集成方法能取得更好的预测精度。     

基于广义回归网络的动态权重回归型神经网络集成方法研究

神经网络集成技术能有效地提高神经网络的预测精度和泛化能力,已成为机器学习和神经计算领域的一个研究热点。针对回归分析问题提出了一种动态确定结果合成权重的神经网络集成构造方法,在训练出个体神经网络之后,根据各个体网络在输入空间上对训练样本的预测误差,应用广义回归网络来动态地确定各个体网络在特定输入空间上的权重。实验结果表明,与传统的简单平均和加权平均方法相比,本集成方法能取得更好的预测精度。     

带偏置的选择性神经网络集成构造方法

训练多个神经网络并将其结果进行合成,能显著地提高神经网络系统的泛化能力。本文提出了一种带偏置的选择性神经网络集成构造方法。对个体网络引入偏置项,增加可选网络的数量。选择部分网络集成,改善网络集成的性能。把个体网络的偏置项统一为集成偏置项,在训练出个体神经网络后,使用遗传算法选择部分网络集成,同时确定集成偏置项。理论分析和实验结果表明,该方法能够取得很好的网络集成效果。     

基于数据划分和集成的方法预测信号肽

在信号肽预测问题中,由于信号肽序列长度不等且氨基酸组成具有多样性的特点,以往方法通常采用滑动窗口进行处理,从而导致了信息丢失以及数据不平衡等问题。为改善少数类预测效果,对训练数据进行了预处理,将多数类样本数据划分,生成的各组样本分别与少数类样本合并组成若干个数据子集,在两种蛋白质编码方案下采用概率神经网络建立多个分类器,采用加权投票将多分类器集成的方法预测信号肽。在目前广泛使用的Neilsen数据集上进行实验,表明该方法具有一定的有效性。     

基于个体选择的动态权重神经网络集成方法研究

神经网络集成技术能有效地提高神经网络的预测精度和泛化能力,已成为机器学习和神经计算领域的一个研究热点。该文针对回归分析问题提出了一种结合应用遗传算法进行个体选择和动态确定结果合成权重的神经网络集成构造方法。在训练出个体神经网络之后,应用遗传算法对个体网络进行选择,然后根据被选择的各个体网络在输入空间上对训练样本的预测误差,应用广义回归网络来动态地确定各个体网络在特定输入空间上的合成权重。实验结果表明,与仅应用个体网络选择或动态确定权重的方法相比,该集成方法基本上能取得更好地预测精度和相近的稳定性。     

基于约束规划的选择性神经网络集成方法

提出了一种基于约束规划的选择性神经网络集成方法,在训练出个体网络之后,用约束规划方法选择出相对最佳的个体网络组成神经网络集成。理论分析和实验结果表明,该方法设计过程简单,能够以较小的运算代价提高神经网络集成的泛化能力。     

Selecting informative data for developing peptide-MHC binding predictors using a query by committee approach

Strategies for selecting informative data points for training prediction algorithms are important, particularly when data points are difficult and costly to obtain. A Query by Committee (QBC) training strategy for selecting new data points uses the disagreement between a committee of different algorithms to suggest new data points, which most rationally complement existing data, that is, they are the most informative data points. In order to evaluate this QBC approach on a real-world problem, we compared strategies for selecting new data points. We trained neural network algorithms to obtain methods to predict the binding affinity of peptides binding to the MHC class I molecule, HLA-A2. We show that the QBC strategy leads to a higher performance than a baseline strategy where new data points are selected at random from a pool of available data. Most peptides bind HLA-A2 with a low affinity, and as expected using a strategy of selecting peptides that are predicted to have high binding affinities also lead to more accurate predictors than the base line strategy. The QBC value is shown to correlate with the measured binding affinity. This demonstrates that the different predictors can easily learn if a peptide will fail to bind, but often conflict in predicting if a peptide binds. Using a carefully constructed computational setup, we demonstrate that selecting peptides with a high QBC performs better than low QBC peptides independently from binding affinity. When predictors are trained on a very limited set of data they cannot be expected to disagree in a meaningful way and we find a data limit below which the QBC strategy fails. Finally, it should be noted that data selection strategies similar to those used here might be of use in other settings in which generation of more data is a costly process.