基于数据增强的运动想象脑电分类

针对运动想象脑电（MI?EEG）多分类问题,在已有研究的基础上进行改进,构建了基于深度可分离卷积的轻量级卷积神经网络（L?Net）和轻量级混合网络（LH?Net）,并在BCI竞赛Ⅳ-2a四分类数据集上进行了实验和分析,结果表明：L?Net比LH?Net可以更快地拟合数据,训练时间更短;但LH?Net的稳定性比L?Net更好,在测试集上的分类性能具有更好的稳健性,平均准确率和平均Kappa系数比L?Net分别提高了3.6个百分点和4.8个百分点。为了进一步提升模型分类性能,采用了基于时频域的高斯噪声添加新方法对训练样本进行数据增强（DA）,并针对噪声的强度进行了仿真验证,推测出了两种模型的最优噪声强度的取值范围。仿真结果表明使用了该数据增强方法后,两种模型的平均准确率最少提高了4个百分点,四分类效果均得到了明显提升。     

KPCA-模糊加权LSSVM预测方法及其应用

针对工业系统参数缓慢变化和工业现场数据存在噪声和变量间存在多重相关性,提出了一种KPCA-模糊加权LSSVM预测方法;采用KPCA去除数据的噪声和降低样本数据各参数间的多重相关性,减少样本数据维数;针对不同时期样本数据重要程度不一样,提出了模糊加权的思想;利用改进微粒群算法(PSO)优化LSSVM模型的惩罚因子和核函数参数;以净化除钴过程生产数据进行验证分析,仿真结果表明,KPCA一模糊加权LSSVM预测模型精度高于主成分回归(PCR)和LSSVM,能满足工业现场钴离子浓度预测的要求.     

结合L1和L2正则化约束的隐语义预测模型研究

在大数据领域中预测高维稀疏矩阵中的缺失数据，通常采用随机梯度下降算法构造隐语义模型来对缺失数据进行预测。在随机梯度下降算法来求解模型的过程中经常加入正则化项来提高模型的性能，由于[L1]正则化项不可导，目前在隐语义模型中主要通过加入[L2]正则化项来构建隐语义模型（SGD_LF）。但因为[L1]正则化项能提高模型的稀疏性增强模型求解能力，因此提出一种基于[L1]和[L2]正则化约束的隐语义（SPGD_LF）模型。在通过构建目标函数时，同时引入[L1]和[L2]正则化项。由于目标函数满足利普希茨条件，并通过二阶的泰勒展开对目标函数进行逼近，构造出随机梯度下降的求解器，在随机梯度下降求解隐语义模型的过程中通过软阈值来处理[L1]正则化项所对应的边界优化问题。通过此优化方案，可以更好地表达目标矩阵中的已知数据在隐语义空间中的特征和对应的所属社区关系，提高了模型的泛化能力。通过在大型工业数据集上的实验表明，SPGD_LF模型的预测精度、稀疏性和收敛速度等性能都有显著提高。     

基于特征交互作用的量化选股策略

针对传统的分类方法没有考虑特征之间的交互作用而导致分类效果不明显的问题,提出一种信息熵-逻辑回归弹性网模型(IE-LR-ElasticNet).通过加入信息熵的惩罚项来衡量特征之间的交互作用,并利用交替方向乘子法(ADMM)进行求解.仿真实验结果表明,IE-LR-ElasticNet模型在相关性数据越高的数据集中,其估计系数更加接近真实值,且分类效果较好.因此,构建IE-LR-ElasticNet策略,并应用于沪深300指数成分股数据,最终取得24.51％的超额收益.     

基于高斯近似l0范数典型相关分析的特征选择

特征选择的稀疏优化方法是通过求解优化问题稀疏解实现高维数据特征选择的方法,其稀疏惩罚项是实现特征选择的关键。针对l0范数惩罚项的稀疏性能好但求解复杂度高的问题,提出高斯近似l0范数典型相关分析的特征选择模型。以连续、分段光滑和稀疏性能接近l0范数的高斯近似l0范数作为稀疏惩罚项,以数据间的相关性作为优化目标,引入二次逼近函数解决高斯近似l0范数的非凸惩罚求解难问题,用块坐标下降法求解模型实现特征选择。实验结果表明,模型是可实现的,且与现有的同类模型相比,所提模型实现了更优的特征选择。     

一种基于L1范数正则化的回声状态网络

针对回声状态网络存在的病态解以及模型规模控制问题,本文提出一种基于L1范数正则化的改进回声状态网络.该方法通过在目标函数中添加L1范数惩罚项,提高模型求解的数值稳定性,同时借助于L1范数正则化的特征选择能力,控制网络的复杂程度,防止出现过拟合.对于L1范数正则化的求解,采用最小角回归算法计算正则化路径,通过贝叶斯信息准则进行模型选择,避免估计正则化参数.将模型应用于人造数据和实际数据的时间序列预测中,仿真结果证明了本文方法的有效性和实用性.     

情感增强的对话文本情绪识别模型

针对现有的许多研究忽略了说话人的情绪和情感的相关性的问题，提出一种情感增强的图网络对话文本情绪识别模型——SBGN。首先，将主题和对话意图融入文本，并微调预训练语言模型RoBERTa以提取重构的文本特征；其次，给出情绪分析的对称学习结构，将重构特征分别输入图神经网络（GNN）情绪分析模型和双向长短时记忆（Bi-LSTM）情感分类模型；最后，融合情绪分析和情感分类模型，将情感分类的损失函数作为惩罚以构建新的损失函数，并通过学习调节得到最优的惩罚因子。在公开数据集DailyDialog上的实验结果表明，相较于DialogueGCN模型与目前最先进的DAG-ERC模型，SBGN模型的微平均F1分别提高16.62与14.81个百分点。可见，SBGN模型能有效提高对话系统情绪分析的性能。     

PLS-LSSVM模型在锌净化中的应用

在锌净化除钴过程中,生产数据存在噪声且变量间具有多重相关性,从而难以准确预测钴离子浓度。为此,采用偏最小二乘方法去除数据中的噪声,降低各参数间的多重相关性。通过为不同时期的样本数据赋予不同的权值,提高了最小二乘支持向量机(LSSVM)模型预测的准确性。利用改进的粒子群优化算法优化选择LSSVM模型的惩罚因子和核函数参数,以避免人为选择参数的盲目性。仿真结果表明,PLS- LSSVM模型的预测精度高于偏最小二乘回归和LSSVM。     

基于稀疏表示的相关滤波目标跟踪算法

针对相关滤波跟踪算法在目标形变、背景干扰等复杂场景下，易受干扰特征影响导致跟踪失败的问题，提出了基于稀疏表示的相关滤波目标跟踪算法。该算法将稀疏表示与相关滤波相结合，在目标函数中引入L1范数惩罚项，使训练出的相关滤波器只含有目标的关键特征，同时根据相关滤波系数的空间位置为其分配不同的惩罚参数，并采用交替方向乘子法（alternating direction method of multipliers,ADMM）求解相关滤波器。实验结果表明：该算法在三个常用数据集上，与五种相关滤波跟踪算法相比，具有最高的精确度和成功率，且对复杂场景中的干扰特征具有良好的鲁棒性，同时能够满足目标跟踪实时性的要求。     

Multi-level inventory matching and order planning under the hybrid Make-To-Order/Make-To-Stock production environment for steel plants via Particle Swarm Optimization

This paper proposes a nonlinear integer programming model which co-optimizes the multi-level inventory matching and order planning for steel plants while combining Make-To-Order and Make-To-Stock policies. The model considers order planning and inventory matching of both finished and unfinished products. It combines multiple objectives, i.e., cost of earliness/tardiness penalty, tardiness penalty within delivery time window, production cost, inventory matching cost, and order cancelation penalty. This paper also proposes an improved Particle Swarm Optimization (PSO) method, where strategies to repair infeasible solutions and inventory-rematching scheme are introduced. Parameters of PSO and the rematching scheme are also analyzed. Three sets of real data from a steel manufacturing company are used to perform computational experiments for PSO, local search, and improved PSO. Numerical results show the validity of the model and efficacy of the improved PSO method.     

抑制式模糊C均值聚类惩罚因子的改进

针对传统模糊C均值（FCM）算法在聚类过程中存在收敛速度慢、对大数据处理实时性不强等问题,提出了一种基于惩罚因子的样本隶属度改进算法。首先分析抑制式模糊C均值（SFCM）聚类特点,研究惩罚因子对样本隶属度修正的触发条件,进而设计出基于惩罚因子的SFCM聚类隶属度动态修正算法。通过算法实现样本向“两极移动”,达到快速收敛之目的。理论分析与实验结果表明,在相同的初始化条件下,改进算法的执行时间效率比传统FCM算法提高约40%,比基于优化选择的SFCM（OS-SFCM）算法提高10%,其聚类准确度与其他两种算法相比也有一定的提高。     

基于多任务深度学习的HXDSP多簇软流水研究

针对目前编译优化领域的深度学习模型普遍采用单任务学习而难以利用多个任务间的相关性提升模型整体编译加速效果的问题, 提出了一种基于多任务深度学习的编译优化方法. 该方法使用图神经网络 (GNN) 从C程序的抽象语法树 (ASTs) 和数据控制流图 (CDFGs) 中学习得到程序特征, 然后对程序特征同步预测HXDSP软件流水启动间隔和循环展开因子. 在DSPStone数据集上的实验结果表明, 该多任务方法取得了相对于单任务方法12%的性能提升.     

自适应分割的动态网格生成算法

提出一种基于半边数据结构的动态网格自适应分割生成算法．根据曲面尖锐特征对网格模型自适应分割;为满足分割边界的简化要求,提出一种利用半边数据结构的分割边界独立处理算法;并利用边界自适应加权函数,较好地保持了模型边界特征．应用实例表明,该算法高效、可靠,既保持模型细节特征,又减少了模型简化误差．     

Face and palmprint pixel level fusion and Kernel DCV-RBF classifier for small sample biometric recognition

Recently, multi-modal biometric fusion techniques have attracted increasing atove the recognition performance in some difficult biometric problems. The small sample biometric recognition problem is such a research difficulty in real-world applications. So far, most research work on fusion techniques has been done at the highest fusion level, i.e. the decision level. In this paper, we propose a novel fusion approach at the lowest level, i.e. the image pixel level. We first combine two kinds of biometrics: the face feature, which is a representative of contactless biometric, and the palmprint feature, which is a typical contacting biometric. We perform the Gabor transform on face and palmprint images and combine them at the pixel level. The correlation analysis shows that there is very small correlation between their normalized Gabor-transformed images. This paper also presents a novel classifier, KDCV-RBF, to classify the fused biometric images. It extracts the image discriminative features using a Kernel discriminative common vectors (KDCV) approach and classifies the features by using the radial base function (RBF) network. As the test data, we take two largest public face databases (AR and FERET) and a large palmprint database. The experimental results demonstrate that the proposed biometric fusion recognition approach is a rather effective solution for the small sample recognition problem.     

子模式典型相关分析及其在人脸识别中的应用

传统的典型相关分析 (CCA) 是有效的特征提取方法之一, 已广泛应用于包括人脸识别在内的模式识别的许多领域. 但在人脸识别为代表的高维小样本问题上该方法存在如下不足: 1) 人脸识别的小样本特性使 CCA 两组特征矢量构成的总体协方差矩阵奇异, 难以直接应用; 2) 作为一种全局线性投影方法, 不足以很好地描述非线性的人脸识别问题; 3) 缺乏对局部变化的识别鲁棒性. 本文受已提出的子模式主分量分析 (SpPCA) 的启发, 提出了子模式典型相关分析 (SpCCA). 该方法将局部与全局特征矢量之间的相关性特征作为有效的判别信息, 既达到了融合局部与全局信息的目的, 又消除了特征之间的信息冗余. 通过子模式的划分, SpCCA 避免了小样本问题, 更好地描述了非线性的人脸识别问题; 并通过投票方式融合结果, 增强了对局部变化的鲁棒性. 在 AR 与 Yale 两个人脸数据集上的实验证实了该方法比对比方法不仅有更优的识别性能, 而且更加稳定和鲁棒.     

Comparison of Penalty Functions for Sparse Canonical Correlation Analysis

Canonical correlation analysis (CCA) is a widely used multivariate method for assessing the association between two sets of variables. However, when the number of variables far exceeds the number of subjects, such in the case of large-scale genomic studies, the traditional CCA method is not appropriate. In addition, when the variables are highly correlated, the sample covariance matrices become unstable or undefined. To overcome these two issues, sparse canonical correlation analysis (SCCA) for multiple data sets has been proposed using a Lasso type of penalty. However, these methods do not have direct control over the sparsity of the solution. An additional step that uses a Bayesian Information Criterion (BIC) has also been suggested to further filter out unimportant features. In this paper, a comparison of four penalty functions (Lasso, Elastic-net, smoothly clipped absolute deviation (SCAD), and Hard-threshold) for SCCA with and without the BIC filtering step have been carried out using both real and simulated genotypic and mRNA expression data. This study indicates that the SCAD penalty with a BIC filter would be a preferable penalty function for application of SCCA to genomic data.     

基于CNN的改进行人重识别技术

针对行人重识别研究中训练样本的不足,为提高识别精度及泛化能力,提出一种基于卷积神经网络的改进行人重识别方法。首先对训练数据集进行扩充,使用生成对抗网络无监督学习方法生成无标签图像;然后与原数据集联合作半监督卷积神经网络训练,通过构建一个Siamese网络,结合分类模型和验证模型的特点进行训练;最后加入无标签图像类别分布方法,计算交叉熵损失来进行相似度量。实验结果表明,在Market-1501、CUHK03和DukeMTMC-reID数据集上,该方法相比原有的Siamese方法在Rank-1和mAP等性能指标上有近3～5个百分点的提升。当样本较少时,该方法具有一定应用价值。     

基于时空图卷积网络的交通事故风险预测研究

交通事故的预测是通过对过去路段发生的交通事故进行分析,在综合考虑影响交通事故的相关因素后,对未来路段的交通事故发生状态进行预测。以往的大多数研究通常采用传统机器学习方法或单一深度学习模型预测法,利用网格化确定预测空间的单位,忽略了影响交通事故的天气、路况等外部因素,导致模型的预测性能不佳。提出一种基于时空特性的城市交通事故风险预测模型,在模型中使用改进的时空图卷积网络,利用图卷积网络（GCN）提取空间相关特征,并加入批标准化层解决梯度消失爆炸问题。在时间维度上采用门控线性单元（GLU）实现一维卷积操作,提取时间相关特征,并将GCN和GLU组合成时空卷积模块提取时空相关特征,使用均方误差损失函数解决样本数据零膨胀问题。实验结果表明,与GLU、SDCAE和ConvLSTM模型相比,该模型的RMSE指标分别降低了28%、4.87%、4.19%,能有效捕获时空相关性,综合性能得到较大提升。     

具有多层次优化能力的EEG生成模型

基于生成对抗网络(generative adversarial networks, GAN)的脑电信号(electroencephalogram, EEG)生成技术存在生成样本特征单一、幅值差异过大以及拟合速度慢等问题, 其质量难以满足深度学习模型训练和优化的要求. 因此, 本文通过对WGAN-GP的优化, 使其更适应脑电信号生成, 从而解决以上问题. 具体而言: (1)在WGAN-GP网络的框架的基础上, 通过将长短期记忆网络(long short-term memory, LSTM)代替卷积神经网络(convolutional neural networks, CNN), 以保证时间相关特征的完整性, 从而解决脑电生成特征单一的问题; (2)将标准化处理后的真实脑电信号输入至判别器, 以解决幅值差异过大问题; (3)将脑电噪声部分作为先验知识输入至网络生成器, 以提高生成模型的拟合速度. 本文分别通过sliced Wasserstein distance (SWD)、mode score (MS) 以及EEGNet对生成模型做多层次定量评估. 与目前已有生成网络WGAN-GP相比较, 基于本模型的生成数据更为接近真实数据.