基于局部与非局部线性判别分析和高斯混合模型动态集成的晶圆表面缺陷探测与识别

在复杂的半导体制造过程中,晶圆生产经过薄膜沉积、蚀刻、抛光等多项复杂的工序,制造过程中的异常波动都可能导致晶圆缺陷产生.晶圆表面的缺陷模式通常反映了半导体制造过程的各种异常问题,生产线上通过探测和识别晶圆表面缺陷,可及时判断制造过程故障源并进行在线调整,降低晶圆成品率损失.本文提出了基于一种流形学习算法与高斯混合模型动态集成的晶圆表面缺陷在线探测与识别模型.首先该模型开发了一种新型流形学习算法——局部与非局部线性判别分析法(Local and nonlocal linear discriminant analysis, LNLDA),通过融合数据局部/非局部信息以及局部/非局部惩罚信息,有效地提取高维晶圆特征数据的内在流形结构信息,以最大化数据不同簇样本的低维映射距离,保持特征数据中相同簇的低维几何结构.针对线上晶圆缺陷产生的随机性和复杂性,该模型对每种晶圆缺陷模式构建相应的高斯混合模型(Gaussian mixture model, GMM),提出了基于高斯混合模型动态集成的晶圆缺陷在线探测与识别方法.本文提出的模型成功地应用到实际半导体制造过程的晶圆表面缺陷在线探测与识别,在WM-811K晶圆数据库的实验结果验证了该模型的有效性与实用性.     

基于核融合的多信息流形学习算法*

流形学习算法可分为全局流形学习与局部流形学习,它们分别保持了流形上的全局特征信息与局部特征信息。但是实验证明仅基于单一特征信息的流形学习算法不能很好的保持真实的流形结构,影响了学习效果。因此,基于流形学习的核的视角,将全局流形学习算法ISOMAP与局部流形学习算法LTSA的核进行融合,提出了可以同时保持流形结构的全局特征信息与局部特征信息的流形学习算法,在人工数据集和人脸图像集上的仿真实验证明了本文算法的有效性。     

一种基于全局信息保持的局部线性嵌入算法及应用

局部线性嵌入（LLE）作为一种经典的流形学习算法，能够得到高维空间的低维流形，但对近邻样本数选择敏感，缺乏全局结构保持能力.为解决此问题，提出了一种改进的LLE算法.在综合考虑样本间差异和数据全局代表性的基础上，通过引入离散度保持项和全局权重指标，提高了算法在降维重构过程中的信息挖掘能力，并降低了对噪声的敏感度，克服了传统LLE算法只关注局部流形特征而忽略全局结构的缺陷.数值仿真和小麦籽粒蛋白质含量软测量的应用仿真验证了该算法的有效性和优越性.     

基于双权重多邻域保持嵌入的间歇过程故障检测

针对间歇过程数据的动态特性带来的故障检测问题,提出一种双权重多邻域保持嵌入(double weight multiple neighborhoods preserving embedding,DWMNPE)算法.首先,为每个样本点寻找时间近邻来描述样本点之间的时序相关关系;其次,定义角度近邻,并为样本点寻找角度近邻和距离近邻,以表征样本点在空间上的相似性,通过提取这3种不同的流形特征,充分表征数据的局部结构特征;再次,构造一种新的目标函数,在考虑误差最小的同时兼顾3种近邻的顺序信息,可防止NPE算法在计算重构权值时丢失近邻顺序信息,在解决数据动态性的同时充分提取原始数据的本质局部结构;最后,对降维数据构造局部离群因子(local outlier factor,LOF)统计量进行监控,消除数据非高斯特性对监控效果的不利影响.数值例子和青霉素发酵过程仿真结果验证了DWMNPE方法对动态性间歇过程故障检测的有效性.     

基于TTGNPE算法的间歇过程监控

针对间歇过程中三维数据展开为二维造成的部分信息丢失以及数据的全局和局部结构可能发生的变化,提出一种基于张量分解的时序扩展全局局部邻域保持嵌入(TTGNPE)算法.首先利用TTGNPE算法直接处理间歇过程中的三维数据,以避免因展开为二维而造成的信息丢失;然后,将近邻流形嵌入并引入数据空间的全局和局部结构保持中,充分提取数据的局部和全局特征信息;最后,结合移动数据窗技术来处理过程的动态时变性,检测到故障后用贡献图法诊断出故障变量.通过青霉素发酵过程验证了所提出的算法对间歇过程故障检测与诊断的优越性.     

一种基于局部保持的隐变量模型

隐变量模型是一类有效的降维方法,但是由非线性核映射建立的隐变量模型不能保持数据空间的局部结构。为了克服这个缺点,文中提出一种保持数据局部结构的隐变量模型。该算法充分利用局部保持映射的保局性质,将局部保持映射的目标函数作为低维空间中数据的先验信息,对高斯过程隐变量中的低维数据进行约束,建立局部保持的隐变量。实验结果表明,相比原有的高斯过程隐变量,文中算法较好地保持数据局部结构的效果。     

基于GMM的间歇过程故障检测

对间歇过程的多操作阶段进行划分时,往往会被离群点和噪声干扰,影响建模的精确性,针对此问题提出一种新的方法:主元分析--多方向高斯混合模型(Principal component analysis-multiple Gaussian mixture model, PCA-MGMM)建模方法.首先用最短长度法对数据进行等长处理,融合不同展开方法相结合的处理方式消除数据预估问题;利用主元分析方法将数据转换到对故障较为敏感的低维子空间中,得到主元的同时消除了离群点和噪声的干扰;通过改进的高斯混合模型(Gaussian mixture model, GMM)算法对各阶段主元进行聚类,减少了运算量的同时自动得到最佳高斯成分和对应的统计分布参数;最后将局部指标融合为全局概率监控指标,实现了连续的在线监控.通过一个实际的半导体制造过程的仿真研究验证了所提方法的有效性.     

基于实例与目标相关性的多目标稀疏回归算法

针对传统多目标回归算法无法处理输入与多输出间的非线性关系,且忽视了数据点在输入与输出之间的结构信息,导致算法泛化性能受限、缺乏稳健性等问题,提出一种基于实例与目标相关性的多目标稀疏回归(multi-target sparse regression with instances and targets correlations,MTR-ITC)算法.首先,通过嵌入潜变量空间来对复杂的输入与输出以及输出间的关联结构解耦,并利用核技巧和稀疏回归学习输入输出间的非线性关系和输出间的相关结构;然后,引入流形正则化项探索不同实例在输入与输出变量间的相关性,确保模型输出与真实结果在局部和全局结构的一致性,以提升模型泛化性能;最后,提出一种交替优化算法来对目标函数进行求解,使其能快速收敛至全局最优.在基准测试数据集上的实验表明,所提算法在不同MTR数据集上均具有较好的测试性能.     

基于改进混合蜂群算法的非线性电路谐波平衡分析

针对射频电路非线性分析中谐波平衡方程求解问题,提出一种基于高斯扰动、锦标赛选择策略以及拟牛顿局部寻优算子的改进混合蜂群算法,该算法在搜索方程中引入基于当前全局最优解的高斯扰动,能有效防止算法陷入局部最优并加快算法收敛;跟随蜂采用锦标赛选择策略在一定程度上避免了算法的早熟现象;采用拟牛顿算子进行局部寻优,可使算法快速收敛。实验结果表明,改进混合蜂群算法成功应用于谐波平衡方程求解,与其他求解算法对比,收敛时间较短,性能较优。     

基于流形学习的局部保持PCA算法在故障检测中的应用

提出一种新的基于流形学习的数据降维及特征提取方法:局部保持 PCA 算法(LPPCA).通过在 PCA 的优化目标中融入流形学习的思想,不仅使投影得到的低维空间和原始样本空间具有相似的全局结构,并且保持了相似的局部近邻结构,克服了传统 PCA 方法只关注全局结构特征而忽略局部流形特征的缺陷,同时给出了 LPPCA 在故障检测中的应用方法. S-Curve 和 Swiss-roll 曲面数值仿真和 TE 过程仿真验证了算法的有效性和优越性.     

Process monitoring through manifold regularization-based GMM with global/local information

The nonlinear and multimodal characteristics in many manufacturing processes have posed some difficulties to regular multivariate statistical process control (MSPC) (e.g., principal component analysis (PCA)-based monitoring method) because a fundamental assumption is that the process data follow unimodal and Gaussian distribution. To explicitly address these important data distribution characteristics in some complicated processes, a novel manifold learning algorithm, joint local intrinsic and global/local variance preserving projection (JLGLPP) is proposed for information extraction from process data. Based on the features extracted by JLGLPP, local/nonlocal manifold regularization-based Gaussian mixture model (LNGMM) is proposed to estimate process data distributions with nonlinear and multimodal characteristics. A probabilistic indicator for quantifying process states is further developed, which effectively combines local and global information extracted from a baseline GMM. Thus, the JLGLPP and LNGMM-based monitoring model can be used effectively for online process monitoring under complicated working conditions. The experimental results illustrate that the proposed method effectively captures meaningful information hidden in the process signals and shows superior process monitoring performance compared to regular monitoring methods.     

基于交叉熵的改进NPE间歇过程故障检测算法

针对具有复杂动态特性的间歇过程进行故障检测,邻域保持嵌入(neighborhood preserving embedding,NPE)算法在保持数据局部几何结构时因忽略全局信息而造成检测率较低的问题,提出一种基于交叉熵(cross entropy,CE)的邻域保持嵌入(CEGLNPE)算法.首先,将交叉熵保持全局结构的...     

Nonlinear process monitoring and fault isolation using extended maximum variance unfolding

Kernel principal component analysis (KPCA) has become a popular technique for process monitoring, owing to its capability of handling nonlinearity. Nevertheless, KPCA suffers from two major disadvantages. First, the underlying manifold structure of data is not considered in process modeling. Second, the selection of kernel parameters is problematic. To avoid such deficiencies, a manifold learning technique named maximum variance unfolding (MVU) is considered as an alternative. However, such method is merely able to deal with the training data, but has no means to handle new samples. Therefore, MVU cannot be applied to process monitoring directly. In this paper, an extended MVU (EMVU) method is proposed, extending the utilization of MVU to new samples by approximating the nonlinear mapping between the input space and the output space with a Gaussian process model. Consequently, EMVU is suitable to nonlinear process monitoring. A cross-validation algorithm is designed to determine the dimensionality of the EMVU output space. For online monitoring, three different types of monitoring indices are developed, including squared prediction error (SPE), Hotelling-T², and the prediction variance of the outputs. In addition, a fault isolation algorithm based on missing data analysis is designed for EMVU to identify the variables contributing most to the faults. The effectiveness of the proposed methods is verified by the case studies on a numerical simulation and the benchmark Tennessee Eastman (TE) process.     

基于差分的动态加权SVDD在多模态过程故障检测中的应用

传统SVDD作为一种单模态静态故障检测算法,对多模态动态过程故障的检测难以保证其检测的准确性和实时性。为了解决这一问题,提出一种基于近邻差分加权动态SVDD检测方法（NND-DWSVDD）。首先利用NND剔除数据多模态结构,保证过程数据服从单峰分布;对差分处理后的数据引入动态方法并加入权值将有用的信息凸显出来;最后利用SVDD方法建立监测模型实现在线监测。NND-DWSVDD提高了多模态动态过程故障检测率,对于多模态动态过程故障检测,NND-DWSVDD不要求多模型建模,只需单独的一个模型,符合单模态故障检测要求。通过多模态数值例子和半导体生产过程数据对该方法的有效性进行了验证。     

一种基于局部模型的非线性多工况过程监测方法

针对复杂工业过程中的非线性、非高斯特性以及多工况问题, 提出了一种基于局部模型的在线统计监测新方法. 首先利用局部最小二乘支持向量机回归 (Least square support vector regression, LSSVR) 模型对过程输出进行预测, 与真实的输出相比较构成残差序列. 然后利用 ICA-PCA 两步特征提取策略, 完整地提取残差的高斯和非高斯信息, 最后用三个统计量 (I2、T2 和 SPE) 对过程进行监测, 建立了一种具有非线性、非高斯特性的多工况过程在线监测算法. 通过对 TE (Tennessee Eastman) 过程的仿真研究, 验证提出的方法是可行、有效的, 并显示出了一定的故障检测能力.     

核岭回归的邻域保持最大间隔分析的人脸识别

邻域保持嵌入是局部线性嵌入的线性近似,强调保持数据流形的局部结构.改进的最大间隔准则重视数据流形的判别和几何结构,提高了对数据的分类性能.文中提出的核岭回归的邻域保持最大间隔分析既保持流形的局部结构,又使不同类别的数据保持最大间隔,以此构建算法的目标函数.为了解决数据流形高度非线性化的问题,算法采用核岭回归计算特征空间的变换矩阵.先求解数据样本在核子空间中降维映射的结果,再解得核子空间.在标准人脸数据库上的实验表明该算法正确有效,并且识别性能优于普通的流形学习算法.     

基于判别正则化的局部保留投影

局部保留投影（Locality preserving projections,LPP）是一种常用的线性化流形学习方法,其通过线性嵌入来保留基于图所描述的流形数据本质结构特征,因此LPP对图的依赖性强,且在嵌入过程中缺少对图描述的进一步分析和挖掘。当图对数据本质结构特征描述不恰当时,LPP在嵌入过程中不易实现流形数据本质结构的有效提取。为了解决这个问题,本文在给定流形数据图描述的条件下,通过引入局部相似度阈值进行局部判别分析,并据此建立判别正则化局部保留投影（简称DRLPP）。该方法能够在现有图描述的条件下,有效突出不同流形结构在线性嵌入空间中的可分性。在人造合成数据集和实际标准数据集上对DRLPP以及相关算法进行对比实验,实验结果证明了DRLPP的有效性。     

Nonnegative matrix factorization with Hessian regularizer

Because of the underlying data structure preserved by the manifold regularization term, the Nonnegative matrix factorization (NMF) with manifold regularizer demonstrates an advantage over the variants of NMF for many data analysis tasks. Currently, the Laplacian regularizer is commonly used as the smooth operator to preserve the locality of data space. However, with the Laplacian regularizer, coding vectors are biased to a constant, which leads to a lack of extrapolating power. Thus, the locality of data space cannot be preserved, as would be expected. To address this drawback, a novel variant of NMF, namely HsNMF, is proposed, where the Hessian regularization term is incorporated into the traditional NMF framework. Because Hessian Energy favors the functions whose values vary linearly with respect to the geodesics of the data manifold, the local structure of data space is more effectively preserved. Clustering and classification experimental results on real-world image datasets demonstrate that our proposed NMF is superior to the variants of NMF based on Laplacian Embedding.     

基于局部结构学习的非线性属性选择算法

针对大多数高维数据之间不仅有相似性,而且还有非线性关系等特点,提出一种基于局部结构学习的非线性属性选择算法。该算法首先通过核函数把数据映射到高维空间,在高维空间中表示出数据属性之间的非线性关系;然后在低维空间中通过局部结构学习来充分挖掘属性之间的相似性,同时通过低秩约束来排除噪声的干扰;最后通过稀疏正则化因子来进行属性选择。其通过核函数映射来找出数据属性之间的非线性关系,运用局部结构学习来找出数据属性之间的相似性,是一种嵌入了局部结构学习的非线性属性选择算法。实验结果表明,该算法相比其他的对比算法,有更好的效果。