基于k-最近邻的支持向量预选取方法

在所有的训练样本中只有支持向量(SVs)能对支持向量机分界面优化结果产生显著影响.基于七一最近邻规则.提出了一种训练样本的预选取方法.针对一些典型人工数据集、公用基准数据集以及TM遥感数据的实验结果表明.该方法能够有效减少训练样本数目.显著加快学习速度,并保证理想的分类精度.     

面向颗粒状农产品的分选方法

为提高颗粒状农产品分选精度,提出了一种基于现场可编程门阵列(FPGA)的k最近邻(k-NN)方法.该方法分两步:第一步对基于FPGA的彩色线阵CCD成像系统得到的图像在PC上进行保存,并对得到的图像进行特征提取,然后用k-NN方法对提取的特征进行特征筛选得到最优特征集.第二步将训练好的最优特征集放在FPGA的ROM上,FPGA对线阵CCD得到的图像数据实时提取特征与ROM上最优特征集做距离计算实现k-NN分选算法.对花生和开心果两种颗粒状农产品用该方法进行实验,以RGB颜色空间为主要特征,结果表明:在选择合理特征个数和k值情况下对花生和开心果的分选正确率都达到了95％以上.     

使用R树进行k-NN搜索

在地理信息系统中经常要做k-NN搜索，进行这些查询用到的算法与位置和范围查询的算法不同，需要专门进行研究，介绍了一种分支界限遍历R树算法，并将该算法概括为k-NN算法。文中讨论了两种方法。对R树进行结点内MBR的排序以及剪枝过程，以减少搜索空间中需访问结点的数量，有效地进行k-NN搜索。     

A hyperplane based indexing technique for high-dimensional data

In this paper, we propose a novel hyperplane based indexing method to support efficient processing of similarity search queries in high-dimensional spaces. The main idea of the proposed index is to improve data partitioning efficiency in a high-dimensional space by using a hyperplane, which further partitions a subspace and can also take advantage of the twin node concept used in the key dimension based index. Compared with the key dimension concept, the hyperplane is more effective in data filtering. High space utilization is achieved by dynamically performing data reallocation between twin nodes. In addition, a post processing step is used after index building to ensure effective filtration. Extensive experiments based on two types of real data sets are conducted and the results illustrate a significantly improved filtering efficiency. Because of the feature of hyperplane, the proposed indexing method is only suitable to Euclidean spaces.     

Review: Heart Diseases Detection by Machine Learning Classification Algorithms

Most human deaths are caused by heart diseases. Such diseases cannot be efficiently detected for the lack of specialized knowledge and experience. Data science is important in healthcare sector for the role it plays in bulk data processing. Machine learning (ML) also plays a significant part in disease prediction and decision-making in medical care industry. This study reviews and evaluates the ML approaches applied in heart disease detection. The primary goal is to find mathematically effective ML algorithm to predict heart diseases more accurately. Various ML approaches including Logistic Regression, Support Vector Machine (SVM), k-Nearest Neighbor (k-NN), t-Distributed Stochastic Neighbor Embedding (t-SNE), Nave Bayes, and Random Forest were utilized to process heart disease dataset and extract the unknown patterns of heart disease detection. An analysis was conducted on their performance to examine the effecacy and efficiency. The results show that Random Forest out-performed other ML algorithms with an accuracy of 97%.     

基于k近邻变量贡献与重构理论的工业过程故障诊断

针对工业过程中发生故障时异常变量的精确识别以及如何准确建立"故障–征兆"表的问题,本文提出了一种基于k近邻(k–NN)变量贡献分析和数据重构的异常变量精确识别方法.首先,将k–NN算法中各个采样时刻的统计距离指标细化,分解为每个变量的贡献并对其进行详细分析,分别从单变量和多变量异常角度进行方法的可行性验证,确定过程故障时异常变量具有较大的贡献值;其次,建立正常数据中每个变量的贡献模型用于对故障样本中的异常变量进行"一次"识别;随后提出基于k–NN理论的数据重构算法,并从重构原理方面进行分析,验证该方法具有一定的有效性.对于故障样本,根据变量贡献分析方法求取每个变量对距离指标的贡献,"一次"识别出故障发生时所对应的异常变量或征兆;进而通过数据重构理论对故障样本中异常变量值进行重构、检测和"二次"识别,直至辨识出过程中发生异常的所有变量,并得到故障与变量之间的关系,即"故障–征兆"表.     

课程推荐预测模型优化方案及数据离散化算法

本研究基于k-NN算法建立了课程推荐预测模型.由于原始样本数据的局部不均衡和数据叠交性,预测模型在不进行任何参数调整和数据优化的情况下,模型预测评分并不理想.针对上述问题,本研究设计了一套预测模型参数优化方案和样本数据优化方案,包括最优k值选择算法设计、距离公式优化、数据离散化算法设计.本研究提出的“数据离散化算法”驱使kd树的分类空间排序按照我们期望的特征向量的权重排序,该算法对提升模型预测评分起到了积极作用.上述优化方案和算法设计使课程推荐预测模型的评分从0.67提升到0.85,预测结果的准确度提高了27个百分点,学生对课程推荐的满意度得到显著提升.     

一种新的基于半监督的多标记学习算法

多标记学习中通常存在大量未标记示例,本研究结合协同训练(Co-training)方法充分利用数据集中的未标记示例,在数据集上选取局部k NN(k nearest neighbor)和全局k NN进行训练得到两个分类器,分类器分别标记未标记示例并相互更新训练集。协同训练过程不断迭代进行,直至训练完成。试验结果表明,该方法性能均优于其他多标记学习算法。     

一种结合共享最近邻法和粒度支持向量机的混合模型

粒度支持向量机GSVM(Granular Support Vector Machine)在处理大规模数据集时,粒的划分对其模型的训练效能、泛化能力等有很大的影响。然而传统划分方法的随机性,严重影响着其模型的训练效果。针对这个问题提出一种结合共享最近邻法和粒度支持向量机的混合模型(GSVM-SNN)。利用共享最近邻法将样本点自动划分成若干个信息粒,从中提取出关键信息。由于支持向量点大都分布在信息粒的边缘,提出一种KNN连通度,通过计算连通度提取纯粒边缘点并融合关键信息建立最终决策模型。实验结果表明,与传统的GSVM相比,该方法在分类时间、分类准确率上都有一定的优越性。