融合语音信号和脑电信号的多模态情感识别

为构造有效的情感识别系统,通过声音刺激分别诱发出高兴、悲伤、生气以及中性4种情感,并采集相应的语音信号和脑电信号。首先,利用相空间重构技术提取脑电信号和语音信号的非线性几何特征和非线性属性特征,并结合两者的基本特征分别实现情感识别;然后,通过构建基于限制玻尔兹曼机的特征融合算法,从特征层融合的角度实现多模态情感识别;最后,利用二次决策算法从决策融合的角度构建多模态情感识别系统。实验结果显示,从特征融合的角度构建的多模态情感识别系统相比语音信号和脑电信号情感整体识别率,分别提高1.08%和2.75%;从决策融合的角度构建的多模态情感识别系统相比语音信号和脑电信号情感整体识别率,分别提高6.52%和8.19%;决策融合相比特征融合构建的多模态情感识别系统整体识别效果更优。因此,融合语音信号和脑电信号等不同来源的情感数据可以构造出更有效的情感识别系统。     

情感维度下的深度情感关联模型

鉴于现有的情感模型只是从空间上对情感状态进行划分,忽略了情感之间的相互作用问题,建立了一种将多层限制玻尔兹曼机和情感关联认知网络相结合的深度情感关联模型。该模型将多层限制玻尔兹曼机训练得到的权值作为关联认知网络输入输出之间的权值,以三维情感模型中情感空间距离的倒数作为情感类别之间的关联度,通过训练关联认知网络得到最终的情感分类结果。选用TYUT1.0和CASIA情感语音库中的“高兴”“生气”和“中性”三种基本情感作为数据来源,分别采用深度信念网络和深度情感关联模型进行实验对比。实验结果显示,所构建的深度情感关联模型比深度信念网络的平均识别率最高高出6.06%,该模型得到了较好的识别结果。结果表明, 深度情感关联模型在语音情感识别上有较强的优越性和普适性,可以很好地反映情感之间的相互作用。     

结合非线性全局特征和谱特征的脑电情感识别

针对现有表征情感信息的脑电信号的非线性特征提取不完善的问题,将相空间重构技术引入情感脑电的识别中,提取了在相空间重构下基于轨迹的描述轮廓的三种非线性几何特征作为新的情感脑电特征。结合脑电信号的功率谱熵以及非线性属性特征（近似熵、最大Lyapunov指数、Hurst指数）,提出了基于主成分分析（PCA）的非线性全局特征（非线性几何特征+非线性属性特征）和功率谱熵的融合算法,以支持向量机（SVM）为分类器进行情感识别。结果显示,非线性全局特征能更有效地实现情感识别,二分类情感识别率约90%左右。基于PCA的融合情感特征相比单一特征能达到更佳的情感识别性能,四分类实验中平均识别率可达86.42%。结果表明,非线性全局特征相比非线性属性特征情感识别率有所提高,非线性全局特征以及功率谱熵的结合可以构造出更佳的情感脑电特征参数。