人体姿势估计中随机森林训练算法的并行化

针对用深度图进行人体姿势估计算法中随机森林训练模块的资源消耗大、训练时间长等问题,提出在小规模的集群服务器上用消息传递接口技术对随机森林算法进行并行化加速,并结合算法进行优化以降低存储消耗和占用带宽等,进一步提高训练速度。实验结果表明,在小型集群服务器上不到一天时间完成一次训练,速度相比原来提升约30倍,分类器的像素识别率超过80%,骨架节点的实际误差也足够小,经加速后可以及时进行多次训练,从而完成对训练参数的调整和测试。     

结合增益率与堆叠自编码器的并行随机森林算法

针对大数据环境下随机森林算法存在冗余与不相关特征过多、特征子空间信息含量不足以及并行化效率低等问题,提出了结合增益率与堆叠自编码器的并行随机森林算法PRFGRSAE(parallel random forest algorithm combining gain ratio and stacked auto encoders)。首先,提出了结合非线性归一化增益率和堆叠自编码器的降维策略DRNGRSAE(dimension reduction combining nonlinear normalization gain ratio and stacked auto encoders),通过过滤特征集中的冗余和不相关特征,并利用堆叠自编码器提取特征,有效减少了冗余以及不相关特征数;其次,提出了结合拉丁超立方抽样与归一化相关度的子空间选择策略SSLF(subspace selection strategy combining Latin hypercube sampling and feature class correlation),通过对特征集进行多层划分抽样,形成空间表达度较高的特征子空...     

基于随机森林的实时头部姿态估计方法

本文设计了一个基于随机森林方法的实时头部姿态估计系统。将头部姿态估计问题转化成一个分类问题,标记正负样本集,采用样本加分类标签的形式进行训练,结合随机森林回归方法估计头部姿态。     

结合信息论和范数的并行随机森林算法

针对MapReduce框架下的随机森林算法在处理大数据问题时存在的冗余与不相关特征过多,训练特征信息量低以及并行化效率低等问题,提出了大数据下基于信息论和范数的并行随机森林算法(PRFITN).首先,该算法基于信息增益和Frobenius范数设计了一种混合降维策略(DRIGFN),获得降维后的数据集,有效减少了冗余及不...     

结合信息论改进的并行深度森林算法

针对并行深度森林算法在处理大数据问题时存在的冗余与不相关特征过多,多粒度扫描不平衡以及并行化效率低等问题,提出了大数据环境下基于信息论改进的并行深度森林算法——IPDFIT(improved parallel deep forest based on information theory).该算法基于信息论设计了一种混...     

基于改进随机森林算法的防火墙日志异常检测并行化方法

随机森林分类算法在产生决策树以及投票流程中各个决策树的分类准确度各不相同,由此带来的问题是少部分决策树会影响随机森林算法的整体分类性能。除此以外,数据集中的不平衡数据也能影响到决策树的分类精度。针对以上缺点,对Bootstrap抽样方法添加约束条件,以降低非平衡数据对生成决策树的影响;以及利用袋外数据（Outof-Bagging）和非平衡系数对生成的决策树进行评估加权。试验结果表明,所提算法改善了随机森林对不平衡数据的分类精度。     

基于随机森林的帕金森疾病诊断模型构建研究

近些年来,根据帕金森疾病(PD)患者的语音数据对该疾病做出诊断成为一种行之有效的疾病诊断方法。首先,针对语音数据集中存在非均衡数据和噪声样本的问题使用SVM SMOTE过采样技术,利用支持向量机分类器寻找支持向量并在此基础上合成新的样本以达到均衡数据集的目的;为了减少数据维度,降低学习难度,运用信息增益特征选择对所有特征属性计算数值并划分数据集以此来获得信息增益,根据信息增益的大小排序选取得到八个特征作为最优特征组合;最后,构建随机森林帕金森疾病诊断模型,并采用网格搜索和交叉验证相结合的方式进行参数调优,进一步优化模型,实现诊断模型准确率的进一步提高。实验结果表明,优化后模型的准确率、灵敏度和特异度均有提升,为别为96.59%、94.81%和95.49%,且准确率均高于支持向量机、最邻近节点算法、朴素贝叶斯和决策树等决策模型。     

改进随机森林算法的图像分类应用

针对随机森林算法中节点分裂方式单一且相似的问题,提出一种改进节点分裂方式的优化算法,将算法中独立的节点分裂方式ID3与CART进行重新组合,通过自适应参数选择得到新的分裂规则,用于最优属性的选择划分并应用于图像分类问题.首先以词袋模型为基础,加入空间金字塔结构来提取图像特征,并将其量化成视觉词汇,最后结合Spark平台用改进节点分裂方式的随机森林算法实现图像分类.实验结果表明,通过选择组合算法的最优系数,该算法有效提高图像分类准确率,并保证算法运行效率.     

小波特征提取和随机森林模型解析色谱重叠峰

针对神经网络算法在当前色谱重叠峰解析领域存在易过拟合、网络结构复杂、学习效率低等问题,引入了随机森林模型。利用gausl小波模拟原始信号导数,选取合适的尺度并提取信号的特征拐点;以特征点作为模型输入、子峰面积比作为输出,使用随机森林模型拟合两者之间的映射关系;采用交叉验证的方式确定随机森林模型的参数,并使用CART算法进行模型的构建和训练;一系列实验与现有方法的对比,证明了本文方法不仅能准确对特征拐点和子峰面积之间进行拟合,在模型训练时间上还具有很高的效率。     

改进随机森林及其在人体姿态识别中的应用

针对随机森林算法静态性、容易陷入局部最优等问题,提出了一种蜜蜂交配优化的随机森林算法,并将该算法应用于基于加速度传感器的人体姿态识别。设计了一套以三轴加速度传感器MMA7260与无线通信模块CC2430相结合的数据采集系统,采集了五种日常行为和一种异常行为;从加速度值中提取了近斜率、前后差、均值、均方根和信号幅值面积5类特征矢量;采用改进的随机森林算法训练行为模型和进行分类识别。实验结果表明：该算法能有效地识别六种行为,具有较高的分类预测准确率和行为识别率,且具有较强的稳定性、鲁棒性、全局寻优和抗噪声能力。     

随机森林中树的数量

随机森林是一种集成分类器,对影响随机森林性能的参数进行了分析,结果表明随机森林中树的数量对随机森林的性能影响至关重要。对树的数量的确定方法以及随机森林性能指标的评价方法进行了研究与总结。以分类精度为评价方法,利用UCI数据集对随机森林中决策树的数量与数据集的关系进行了实验分析,实验结果表明对于多数数据集,当树的数量为100时,就可以使分类精度达到要求。将随机森林和分类性能优越的支持向量机在精度方面进行了对比,实验结果表明随机森林的分类性能可以与支持向量机相媲美。     

An efficient estimator of pattern recognition system error probability

A new estimator of system error probability is proposed. The estimator combines the average conditional error method and the empirical error count method so that all the information available to the designer (test and reference data set samples and their labels) can be utilized most efficiently. It is shown that the proposed estimator is unbiased and has a lower variance than the average conditional error estimator proposed by Kittler and Devijver.⁽⁵⁾     

改进的随机森林及其在遥感图像中的应用

对于遥感图像训练样本获取难的问题,引入适用于小样本分类的随机森林算法。为了随机森林能在小样本情况下有更优的分类效果和更高的稳定性,在决策树基础上提出了一种更加随机的特征组合的方法,降低了决策树之间的相关性,从而降低了森林的泛化误差;引入人工免疫算法来对改进后的随机森林进行压缩优化,很好地权衡了森林规模和分类稳定性、精度的矛盾。通过UCI数据集的实验表明,改进的随机森林的有效性及其优化的模型的可行性,优化后森林的规模降低了,且有更高的分类精度。在遥感图像上与传统的方法进行了对比。     

基于二值随机森林的目标跟踪算法

针对压缩跟踪不能适应目标姿态变化导致跟踪失败的问题,提出了一种基于二值随机森林的目标跟踪算法。该算法对实时压缩跟踪算法的特征提取和分类这两个部分作了改进。首先,在梯度图像上进行多尺度滤波,获得目标的高维特征描述,利用一个稀疏矩阵进行压缩,获得表征目标的低维信息;然后,通过比较图像块对的大小,获得二值描述符,利用随机森林构造目标表示方法;最后,计算汉明匹配、寻找汉明距离最小的候选样本作为当前帧目标的状态估计,并在此基础上提取目标的特征来更新目标特征模板。与原算法相比,该算法对旋转、折叠、遮挡等姿态变化的目标跟踪性能更好。     

基于随机森林的高光谱遥感图像分类

为了充分利用高光谱图像的光谱信息和空间结构信息,提出了一种新的基于随机森林的高光谱遥感图像分类方法,首先,利用主成分分析降低数据的维数,并对主成分进行独立成分分析提取其光谱特征,同时消除像元的空间相关性,再采用形态学分析提取像元的空间结构特征,然后,根据像元的谱域和空域特征分别构造随机森林,并引入空间连续性对像元点的预测结果进行约束修正,最后由投票机制决定最后的分类结果。在AVIRIS和ROSIS高光谱图像上的实验结果表明,所提方法的分类性能要优于传统的高光谱图像分类方法,且分类精度高于基于单一特征的方法。     

基于残差网络和随机森林的音频识别方法

环境声音分类(ESC)是音频处理领域的重要分支之一,在未来多媒体应用中有重要的作用。音频识别是提取音频中特定的声学特性,将音频分类至样本对应的正确场景,有助于感知和理解周围环境。现阶段音频识别主要是通过信号处理技术和机器学习方法达成。随着人工智能飞速发展,传统的音频处理技术以及机器学习方法面临着巨大的挑战,ESC的识别准确性有待进一步提高。结合残差网络和随机森林两种方法,将一维时域信号的音频数据转换为二维数据形式的梅尔声谱图,预训练残差网络获得一个精度较高的网络模型作为特征提取器,利用该网络模型提取音频中的深层特征,再利用随机森林对深层特征进行分类。该方法在ESC任务上识别率提升了近10%,取得了较好的分类结果。     

基于随机森林的带宽预测算法研究与实现

为解决手机移动端带宽波动导致用户视频服务体验降低的问题,提出一种移动手机可用带宽预测算法(mobile available bandwidth prediction,MABP)。采集Android手机的LTE参数,使用随机森林预测手机带宽,当客户端发起视频服务请求时,同时向服务器反馈手机的当前可用带宽,服务器根据移动客户端提供的带宽信息进行自适应流分发(发送最优码率的视频),降低视频画面卡顿、画质模糊、切换时间过长等问题,提升用户体验(quality of experience,QoE)。在实际的网络环境下验证了所述算法的有效性。     

基于随机森林的正例与未标注学习

为使用正例与未标注数据训练分类器(positive and unlabeled learning,PU learning),提出基于随机森林的PU学习算法。对POSC4.5算法进行扩展,在其生成决策树的过程中加入随机特征选择;在训练阶段,使用有放回抽样技术对PU数据集抽样,生成多个不同的PU训练集,并以其训练扩展后的POSC4.5算法,构造多棵决策树;在分类阶段,采用多数投票策略集成各决策树输出。在UCI数据集上的实验结果表明,该算法的分类性能优于偏置支持向量机算法、POS4.5算法和基于装袋技术的POSC4.5算法。