基于贝叶斯神经网络的非参数回归

提高神经网络模型推广能力的关键是控制模型的复杂度.该文探索了贝叶斯神经网络的非参数回归的建模方法,通过融入模型参数的先验知识,在给定数据样本及模型假设下进行后验概率的贝叶斯推理,使用马尔可夫链蒙特卡罗算法来优化模型控制参数,实现了对神经网络模型中不同部分复杂度的控制,获得了模型参数的后验分布及预测分布.在5个含噪二维函数回归问题上的应用显示了模型的复杂度能根据数据的复杂度而自适应调整,并给出了较好的预测结果.     

估测组合导航系统软件缺陷的一种神经网络方法

在早期的软件开发寿命周期里，软件的质量模型包含确定有缺陷的模块和预测错误数，在大规模组合导航软件系统中，质量控制的主要任务就是要精确地估测程序模块中存的的缺陷数，本文给出了用神经网络技术估测程序中的缺陷数的方法，预测缺陷数一般用单隐层网络就可以，因为多隐层网络将相应占用更多的训练时间，本文还介绍了一种新的静态可靠性模型，根据软件复杂度，估测了质量及质量拟合度，并且与传统回归技术进行了比较，仅用单隐层神经网络模型就比传统的统计模型预测质量好，当应用于一批大型组合导航软件系统的数据时，神经网络技术表明，它的确有更好的质量拟合度和估测能力，它给软件工程提供了一个好的管理工具。     

基于简化型LSTM神经网络的时间序列预测方法

针对标准长短期记忆(long short-term memory,LSTM)神经网络用于时间序列预测具有耗时长、复杂度高等问题,提出简化型LSTM神经网络并应用于时间序列预测.首先,通过耦合输入门与遗忘门实现对标准LSTM神经网络的结构简化;其次,从门结构控制方程中消除输入信号与偏差实现进一步精简;然后,采用梯度下降算法更新简化型LSTM神经网络的参数;最后,通过2个时间序列基准数据集及污水处理过程出水生化需氧量(biochemical oxygen demand,BOD)质量浓度预测进行实验验证.结果表明:在不显著降低预测精度的情况下,所设计的模型能够缩短训练时间,减少LSTM神经网络的计算复杂度,实现时间序列的预测.     

神经网络用于组合导航系统软件质量的评估

在大规模组合导航软件系统中，质量控制的主要任务就 精确地估测程序模块中存在的缺陷数．介绍了一种新的神经网络所建立的静态可靠性模型，根据软件复杂度估测了质量及质量拟合度，并且与传统回归技术进行了比较．当大型组合导航软件系统已有一批数据时，神经网络技术有更好的质量拟合度和估测能力．     

卫生陶瓷凝胶注模成型人工神经网络专家系统建模

为了实现对卫生陶瓷凝胶注模成型工艺的计算机控制，采用BP神经网络对获得的实验数据进行训练，建立了卫生陶瓷凝胶注模成型工艺参数和成型后坯体性能的映射网络模型，从而可利用该模型来预测在一定工艺条件下卫生陶瓷的性能。结果表明，其预测精度高，说明将BP神经网络用于卫生陶瓷凝胶注模成型后性能的预测是完全可行的。     

基于BP神经网络的激光加工模拟参数预测

研究了BP人工神经网络在激光加工模拟物理参数预测中的应用方法 ;依其规律将所用参数划分为两大类型 ,并设计了相应的BP神经网络模型和软件 ;通过与实验法、回归分析法和函数插值法的对比检验 ,证明BP神经网络适用于对激光加工模拟用物理参数预测 ,其准确性优于回归分析法和函数插值法 ;可利用已知数据由本软件对所欠缺数据进行较准确的有效地预测补充     

基于检测数据更新的混凝土碳化深度预测

混凝土碳化深度预测模型及模型参数的选择均存在不可忽略的主观不确定性和随机性,应用于实际工程时存在显著的误差,而实际检测数据往往样本数量少、缺乏足够的完备性而不能用于实际工程中混凝土碳化深度的预测。以几个碳化深度预测模型计算结果的加权平均值来预测混凝土碳化深度,用贝叶斯方法结合检测信息和先验预测模型,更新预测模型权重的概率分布和相应模型分布参数的概率分布,采用更新后的模型权重和参数后验分布,可以更加准确地对结构的碳化规律进行评估和预测。以一个10 a期自然碳化试验结果为例,验证了本方法的有效性。     

多元线性回归与BP神经网络预测模型对比与运用研究

对多元线性回归模型及BP神经网络模型的理论及运用方法进行研究,采用SPSS及MATLAB软件分别建立多元性回归和BP神经网络预测模型,通过农村居民纯收入预测的算例,对多元线性回p-3和BP神经网络预测模型的拟合优度、初始数据的仿真与模拟能力和新数据的预测能力进行对比,数据结果表明BP神经网络预测模型优于多元线性回归预测模型．     

组合导航系统软件可靠性的神经网络静态预测

在组合导航系统大规模软件开发中，为了控制软件的质量，必须对软件模块的缺陷数进行预测，根据软件模块测试报告及软件复杂度，用神经网络方法预测了软件模块的缺陷数，结果表明：神经网络预测软件缺陷数化传统的线性回归方法具有更好的质量拟合度和估测能力。     

人工神经网络在热轧宽厚板性能预测中的应用

建立了神经网络预测热轧管线钢力学性能的网络模型，在此基础上，利用神经网络对热轧管线钢力学性能进行了预测，并对预测结果与生产数据进行了比较，此外，还利用神经网络对生产工艺参数进行了优化，结果表明，将神经网络应用于热轧生产进行力学性能预测和工艺参数优化具有一定现实意义。     

函数型Logistic回归模型研究与应用

作为一种新型高维数据,函数型数据重在研究数据的内在本质而不是外在结构,通过非参数方法将数据拟合为函数型数据以捕捉更多信息.针对响应变量为二分类情形,建立贝叶斯框架下的函数型Logistic回归模型,引入适当的先验信息并利用MCMC算法获得参数的条件后验分布.具体解决流程为:选取由数据驱动的主成分基函数对回归系数函数和回归函数型自变量进行展开,对展开项数进行截断,利用主成分基函数的正交性,将高维数据进行低维表示;再利用Polya-Gamma变换,建立易于获得参数后验的Gibbs抽样算法,从而得到回归函数展开项系数的后验分布.蒙特卡洛模拟结果显示,该方法具有较好的分类性能.将该方法应用于Tecator实际数据,发现其分类效果优于别的方法.     

高炉炉温预测控制的变系数回归模型

为更好地预测与控制高炉炉温的发展趋势，从高炉炉温控制的混合动力学方程出发，在将其差分离散的基础上，运用变系数回归的相关理论，建立了高炉炉温预测控制的变系数回归模型.同时运用加权最小二乘法对模型的参数进行估计，得到每一炉下具体的高炉炉温预测控制的回归模型.结合包钢6#高炉的数据进行预测控制模拟，取得了90%命中的预测效果.此外，还给出了每一预测时刻下控制变量、状态变量与铁水硅质量分数w(Si)之间的数量关系，为预测之后的控制奠定了模型基础.     

降雨入渗条件下分层非饱和土质边坡随机反分析

基于时变数据参数随机反分析理论,采用马尔可夫链蒙特卡罗方法(Markov chain Monte Carlo simulation,MCMC法),建立了分层边坡非饱和渗流随机反分析模型.以香港东涌某天然坡地降雨入渗现场试验为案例,建立单层土和双层土非饱和渗流模型,利用DREAM算法对时变降雨条件下非饱和土渗流模型参数进行随机反演,研究了单层土和双层土模型参数后验分布和预测效果.结果表明,参数后验分布变异性较先验分布减小,与单层土模型相比,双层土模型能缩减更多的参数不确定性,校准期内置信区间更窄,验证期内预测与实测值吻合程度较高.     

基于变分贝叶斯推断的半盲信道估计

现有MIMO中继通信系统中,基于张量分解的半盲信道估计不能有效地将信道先验信息引入估计过程中,为此提出一种基于变分贝叶斯推断的信道估计算法.该算法首先利用NP(Nested PARAFAC)张量模型,引入有效精度、噪声精度等隐性超参数,建立信道估计概率图模型;由于所求信道参数后验概率分布较为复杂,传统最大似然和最大后验等点估计方法难以实现,算法采用变分贝叶斯推断,推导出信道矩阵、有效精度及噪声精度的递推公式,使具有因子分解形式的q分布逼近所求信道参数的后验分布;并分析了模型证据的下界、模型的初始化及算法复杂度等.该算法能利用信道先验信息以提高信道估计性能,有效精度和噪声精度等参数可自动调节,且计算复杂度与数据的维度呈线性关系.仿真结果表明:在平稳瑞利衰落信道条件下,与基于交替最小二乘(Alternating Least Square,ALS)的半盲估计算法相比,算法的计算复杂度较低,收敛速度较快;与带监督序列的双线性最小二乘(Bilinear Alternating Least Square,BALS)非盲估计算法,基于ALS及非线性最小二乘(Nolinear Least Square,NLS)的半盲估计算法相比,算法具有较高的估计精度.     

基于粒子群优化的溶解氧质量浓度支持向量回归机

针对污水处理中溶解氧质量浓度无法在线精确测量的问题,提出基于粒子群算法优化支持向量回归机(PSO-SVR)的溶解氧质量浓度软测量模型.为了提高溶解氧的预测精度和效率,采用粒子群算法对支持向量回归机的模型参数进行优化,并以自动获取的最佳参数组合构建溶解氧与其影响因子间的非线性软测量模型,利用该软测量模型对国际基准仿真模型BSM1的溶解氧质量浓度进行预测.仿真结果表明:该模型能得到较好的预测效果,与SVR、RBF神经网络相比,PSO-SVR模型不仅计算复杂度低,而且收敛速度快,预测精度高,泛化能力强.     

瓦斯涌出量的人工神经网络预测的研究

基于反向传播神经网络、径向基函数神经网络和广义回归神经网络对采煤工作面瓦斯涌出量进行预测,比较和分析了瓦斯涌出量的预测值和实测值,并选定精度评价体系对预测结果进行评定。结果表明:反向传播神经网络、广义回归神经网络和径向基函数神经网络都能够较好的预测瓦斯涌出量,其中径向基函数神经网络的预测更精准。径向基函数神经网络的后验差检验比值c=0.07,小误差概率P=1.0,预测误差精度达到1级。     

大坝安全监测量的组合预测模型研究

鉴于传统数学模型和神经网络等预测模型在大坝安全监测领域应用中存在预测精度不高的问题，分析探讨了BP神经网络模型和统计预测模型的各自建立方法，在此基础上提出了一种新的组合预测模型，结合实测数据对此组合预测模型进行了检验。通过实例表明，该组合预测模型不仅很好地克服了BP神经网络模型和线性回归模型的缺陷，亦提高了预测精度，在大坝安全监测量预测中具有较强的实用性。     

基于混沌分析的BP神经网络模型及其在负荷预测中的应用

结合混沌分析理论和BP神经网络，提出在混沌相空间建立BP神经网络模型。运用混沌方法构成训练样本及确定神经网络的网络结构，用神经网络拟合相空间相点演化的非线性关系。并利用该模型对具混沌特性的电力系统日负荷时间序列进行短期预测，对比了标准BP网络模型和混沌线性回归模型的预测结果，结果表明基于混沌分析的BP神经网络模型的预测精度较高。     

Dirichlet过程混合模型的聚类算法

有限混合模型进行高维数据聚类分析时需预先估计聚类个数,因而聚类的准确性和泛化性受到影响.通过建立Dirichlet过程无限混合模型对高维数据开展聚类分析,采用Dirichlet过程的Urn模型分析出模型中各参数的后验分布,利用Gibbs采样MCMC方法估计出模型中各参数及数据中潜在的聚类数.在五维的仿真数据集和IRIS测试数据集上的聚类结果表明:经过200次Gibbs采样MCMC过程,该算法能够正确地估计出数据中潜在的聚类数.单次Gibbs采样MCMC过程的平均占用时间分别为0.185 0s和0.145 5s,其时间复杂度和数据的样本个数N有关,为O(N).     

面向城市固废焚烧过程的缺失数据填充及应用

针对城市固废焚烧(municipal solid waste incineration, MSWI)过程中存在的随机和连续数据缺失问题，提出了一种基于专家经验和约简特征集成模型的填充方法.首先，将过程数据缺失情况识别为随机分布、时间维度和特征维度缺失3种类型.接着，基于专家经验对前2种类型进行缺失填充后，面向第3种类型基于分布相似性和互信息相关性为缺失特征预测模型选择建模数据集和约简特征，建立具有互补特性的随机森林、梯度提升决策树和反向传播神经网络子模型对缺失值进行初步预测，利用贝叶斯线性回归(Bayesian linear regression, BLR)构建集成模型以获得最终填充值.最后，利用填充后的MSWI数据建立基于跨层全连接深度森林回归的二噁英排放浓度软测量模型.实验结果表明所提方法提高了MSWI过程数据的质量.