基于深度神经网络的多因素感知终端换机预测模型

针对基于特征工程的传统终端换机预测模型依赖于领域知识且无法充分利用用户通话、流量使用等序列数据的问题,提出基于深度神经网络的多因素融合终端换机预测模型. 该模型使用长短时记忆网络（LSTM）提取用户通话、流量使用行为序列特征,使用全连接网络融合用户自然属性、行为序列特征和历史换机信息,预测用户是否换机. 实验表明,基于深度神经网络的多因素融合终端换机预测模型能够考虑影响用户换机的多种因素,充分挖掘用户通话、流量使用行为序列特征;当召回率为0.135时,相比于传统模型精确率提高了34.3%.     

基于萤火虫算法改进BP神经网络的电力用能行为预测方法

针对BP神经网络由于随机初始化权重和偏置导致对用电情况预测的误差偏大且容易陷入局部最优的问题，提出了一种利用萤火虫算法对BP神经网络的权重和偏置进行优化的电力用能行为预测方法.该方法基于用户不同时间段的用电量数据提取时间序列特征，并采用K-means聚类算法对用电行为类似的用户进行聚合及分析，从而建立电力负荷预测模型对每类用户的负荷加以预测.实验结果表明，基于萤火虫算法改进BP神经网络预测模型的均方根误差以及平均绝对误差百分比均低于BP神经网络模型，能够合理地对电力用能行为进行预测.     

基于超图的多任务注意力交通流预测模型

针对现有的交通流预测模型中的不足,作者提出了基于超图的多任务注意力交通流预测模型HGAT-MTAN,改进了传统的图卷积神经网络。该模型首先利用循环神经网络和超图注意力网络提取多任务的共享特征;接着,为多个交通流预测任务分配私有特征;然后,通过引入多任务注意力机制,在不同任务之间实现正向知识转移;最后,为每个任务设计预测层,得到多个预测结果。将HGAT-MTAN模型与现有的多种交通流预测模型进行对照实验,结果表明,在不同城市的交通流数据集上HGAT-MTAN都取得了优于对照方法的预测性能。消融实验也进一步验证了模型组件的有效性。因此,HGAT-MTAN模型可以为交通流预测提供一种有效的解决方案,并提高交通流数据分析的准确性和可靠性。     

LSTM与随机森林购买行为预测模型研究

为预测用户的购买行为,本文提出了一种基于LSTM与随机森林相结合的预测模型。该模型不仅对用户的行为数据进行量化提取特征和商品的属性提取特征,同时结合LSTM对序列数据处理的优势,将用户的行为数据作为先后关联的序列进行动态特征提取,再结合随机森林对用户的购买行为进行预测,最后采用某商城真实的商品月销售数据进行实验验证。研究结果表明,该基于动态特征的组合模型精确率达到了98%以上,比单一的随机森林模型采用静态特征预测有较大提高,同时召回率和正确率也有所提高。该模型为用户购买行为的预测提供了有效方法。     

基于EEMD-CNN-GRU的短期风向预测

为了提高短期风向的预测精度,提出一种基于集合经验模态分解（Ensemble Empirical Mode Decomposition,EEMD）、卷积神经网络（Convolutional Neural Network,CNN）和门控循环单元网络（Gated Recurrent Unit,GRU）的混合模型：EEMD-CNN-GRU.针对风向序列的随机性和不平稳性等特点,先利用EEMD将数据分解成多个分量;再运用CNN的局部连接和权值共享来提取分量中的潜在特征;最后,使用GRU对CNN所提取的潜在特征进一步构建特征,叠加各分量的预测值,得到最终预测结果.实验结果表明：相对于BP神经网络和长短期记忆网络（Long Short-Term Memory,LSTM）等其他模型,本文所提出的预测方法取得了良好的性能.     

注意力卷积GRU自编码器及其在工业过程监控的应用

针对现有故障检测算法难以深入并准确地提取数据内在信息的问题,提出注意力卷积门控循环单元自编码器（CGRUA-AE）深度神经网络和基于CGRUA-AE的过程故障检测方法. 采用卷积门控循环单元（ConvGRU）有效地提取输入数据的空间和时间特征;建立基于ConvGRU的自编码器,采用无监督学习对时间序列数据进行特征提取,引入注意力机制对相应的特征进行加权计算,实现对关键特征的有效选择;分别在特征空间与残差空间上建立基于T ²、SPE统计量的过程监控模型,实现对多元数据有效的特征提取和故障检测. 数值案例和田纳西?伊士曼过程故障检测结果表明,CGRUA-AE具有良好的特征提取能力和故障检测能力,性能优于常用的过程故障检测方法.     

基于IABC-RBF神经网络的地下水埋深预测模型

为了验证基于改进人工蜂群算法的径向基函数（RBF）神经网络模型在地下水埋深预测中的可行性和优越性,在基本人工蜂群算法中引入高斯变异算子,优化初始蜜源位置,设计建立基于改进人工蜂群算法的RBF神经网络模型（IABC-RBF）. 通过输入泾惠渠灌区的年降雨量、年渠首引水量、年田间灌溉用水量、年地下水开采量和前一年的地下水埋深共5个相关影响因子的数据,对地下水埋深进行预测,与实测的地下水埋深数据进行比较,误差很小. 与RBF神经网络模型和基于基本人工蜂群算法训练的RBF神经网络模型（ABC-RBF）的预测结果进行比较,结果表明,基于改进人工蜂群算法的RBF神经网络模型收敛速度更快,预测结果误差最小,精度最高.     

基于多头注意力卷积网络的电力负荷预测

预测居民用电相当于预测一个多元时间序列.针对多个传感器信号的特定窗口能够利用预测模型提取不同的特征来预测用电量.然而,由于时间序列内部特征存在着不规则的模式,包括电力属性之间隐藏的相关性,使得负荷预测准确率不高.为了提取复杂的不规则电力模式,选择性地学习时空特征以减少电力属性间的平移方差,本文提出了一种基于多头注意力的卷积循环神经网络深度学习模型.相较于单纯的时间序列模型,该模型利用卷积和加权机制对电力属性和有功功率间的局部相关性进行建模.它利用softmax函数和点积运算的注意力分数来模拟电力需求的瞬态和脉冲特性,有效地对瞬时脉冲功耗进行预测.在美国加州大学欧文分校(University of California,Irvine,UCI)家庭用电数据集共2 075 259个时间序列上的实验表明,所提出的模型与现有方法相比,准确率得到了较大提升.     

计及PUE的数据中心短期电力负荷预测方法

为了准确预测数据中心短期电力负荷,提出了基于长短期记忆神经网络的短期负荷预测模型,有效地弥补前馈型神经网络不能处理序列间关联信息与传统循环神经网络无法记忆久远关键信息的缺陷.通过分析得出电源利用效率(power usage effectiveness,PUE)值与负荷具有相关性,因此在预测模型中考虑了PUE的影响,并使用自适应矩估计算法进行深度学习.并通过对广州某电力设计院数据中心机房的实际电力负荷进行预测,表明在模型中引入PUE值可以有效提高数据中心短期负荷预测的精度.     

一种改进的GM(1,1)模型在交通量预测中的应用

建立了GM（1,1）循环残差修正模型,并与经典GM（1,1）进行比较,考察改进模型的预测效果。结合经典GM（1,1）模型,使用预测序列与残差序列绝对值之和来构造新序列,对新序列进行建模。通过Matlab软件编程实现了该模型,并将其应用于常熟市某无检测器交叉口每五分钟测得的交通流量预测。将本模型应用于交通流量预测建模上,其结果明显好于经典GM（1,1）模型,且预测效果更好。本模型基于经典GM（1,1）模型建立了GM（1,1）循环残差修正模型。根据实证分析和比较发现,该预测模型是合格的,并且拟合精度较高。     

考虑用户-发布者关系的个性化微博搜索模型

提出了一种考虑用户与发布者建模的个性化微博搜索模型,该模型一方面运用主题模型与语言模型构建微博主题维度的用户兴趣模型,另一方面,融合用户与微博发布者的关系特征,构建用户-发布者关系维度的用户兴趣模型。并将二者进行有效融合,设计了将单个用户的微博作为一个文本的训练方法,解决微博文本短、语料稀疏的问题。基于真实用户搜索反馈的实验表明,融合用户-发布者关系的微博搜索模型可有效提高微博搜索的个性化效果。     

面向连续位置服务的位置感知隐私保护方案

为了增强在位置服务（LBS）中对用户个人隐私的保护,提出基于本地缓存的位置感知匿名选择算法（LaSA）. 利用历史轨迹信息和缓存信息,以不依赖可信第三方（TTP）服务器的方式构建匿名区域. 在连续位置服务查询中,利用马尔可夫预测模型对未来可能查询的位置进行预判. 根据预测位置、缓存贡献度和数据新鲜度构建匿名区域,以覆盖用户所查真实区域. 结果表明,与已有方案相比,所提出的LaSA隐私保护方案能提供更高的缓存命中率,减少用户服务请求次数,保证用户位置数据的安全.     

基于DBN-Kalman-EC算法的 短期风电功率组合预测

提出一种基于深度置信网络(DBN)和卡尔曼算法(Kalman),结合误差修正算法(EC)的短期风电功率组合预测模型。运用经验模态算法(EMD)将原始风速序列分解,提取其主要特征,降低风速序列突变性;然后利用DBN法,通过构造两种不同的输入输出矩阵,得到pro_1和pro_2两种预测功率、bias_1和bias_2两种预测误差;接着将pro_1作为测量值、bias_1作为测量误差,将pro_2作为观测值、bias_2作为过程误差引入Kalman模型,得到预测结果 pro和预测误差bias;最后利用EC算法对pro和bias进行修正。仿真结果表明,DBN-Kalman-EC模型能有效中和bias_1和bias_2两种误差,降低了预测误差,修正预测值,有效地提高了短期风电功率预测的精度。     

基于串并行卷积门阀循环神经网络的短文本特征提取与分类

针对短文本数据特征少、提供信息有限,以及传统卷积神经网络（convolutional neural network,CNN）和循环神经网络（recurrent neural network,RNN）对短文本特征表示不充分的问题,提出基于串并行卷积门阀循环神经网络的文本分类模型,处理句子特征表示与短文本分类。该网络在卷积层中去除池化操作,保留文本数据的时序结构和位置信息,以串并行的卷积结构提取词语的多元特征组合,并提取局部上下文信息作为RNN的输入;以门阀循环单元（gated recurrent unit,GRU）作为RNN的组成结构,利用文本的时序信息生成句子的向量表示,输入带有附加边缘距离的分类器中,引导网络学习出具有区分性的特征,实现短文本的分类。实验中采用TREC、MR、Subj短文本分类数据集进行测试,对网络超参数选择和卷积层结构对分类准确率的影响进行仿真分析,并与常见的文本分类模型进行了对比实验。实验结果表明：去掉池化操作、采用较小的卷积核进行串并行卷积,能够提升文本数据在多元特征表示下的分类准确率。相较于相同参数规模的GRU模型,所提出模型的分类准确率在3个数据集中分别提升了2.00%、1.23%、1.08%;相较于相同参数规模的CNN模型,所提出模型的分类准确率在3个数据集中分别提升了1.60%、1.57%、0.80%。与Text-CNN、G-Dropout、F-Dropout等常见模型相比,所提出模型的分类准确率也保持最优。因此,实验表明所提出模型可改善分类准确率,可实际应用于短文本分类场景。     

基于意图识别的不确定性行为序列预测方法

针对协同推荐和序列表征方法在预测用户行为任务上面临的行为不确定性和数据稀疏问题,提出基于意图识别的不确定性行为序列预测(G2IE)方法. G2IE方法根据计划行为理论(TPB),对用户行为序列中受控行为模式进行挖掘;基于信息熵计算相邻受控行为之间的不确定性行为列表的行为转移意图强度;融合行为转移意图增强行为关系,弥补行为意图缺失. G2IE方法挖掘行为的不确定性关系,并用模型进行量化,用于解决行为不确定性难点;通过融合转移意图方法能够发现更多的行为关系,也在一定程度上缓解数据稀疏的问题. 较其他使用行为直接关系的方法,G2IE方法有更准确丰富的表示能力. 在3个公开行为数据集上进行对比实验,结果表明,本研究方法在综合指标F1值上均为最优,证明了所提方法的有效性.     

基于卷积神经网络的链接表示及预测方法

针对节点全局表示和链接局部拓扑关系,提出链接序列化表示及卷积神经网络（CNN）提取序列特征的链接预测方法.研究节点间的局部拓扑及共邻关系,基于共邻紧密度构建链接局部拓扑的有序节点序列,并用node2vec节点向量表达生成潜在链接的矩阵表示;基于CNN建立链接预测的分类模型,采用CNN可变滤波器窗口卷积运算提取序列中共邻与节点对的多层隐含关系,分类训练实现链接的有效预测.在4种大规模网络数据集上的实验结果表明,相比已有方法,该方法的AUC值有显著提高,最高达12.4%,稳定性及普适性较强,解决了传统方法对大规模稀疏网络的预测准确率下降问题.     

基于点击图特征的稀疏广告点击率预测方法

为更全面地反映用户个人偏好,提高推荐的准确度,提出了一种融合多源异构数据的混合推荐模型.综合考虑了用户社交关系和用户评论对用户评分的影响,从评论中提取主题信息作为用户和商家的特征,采用社区发现算法为用户划分社区,利用机器学习方法为社区建立模型,预测用户对商家的评分,再根据评分对商家进行排序,取前N个商家推荐给用户.实验结果表明,提出的混合推荐模型与经典推荐算法相比,可提高评分预测的准确度,从而提高推荐的准确度.     

多Agent系统中信任预测的SRL模型

针对多Agent系统(MAS)中信任关系管理的需求,将Sarsa 强化学习(SRL)理论应用于构建MAS中基于Agent行为的信任关系预测模型. 首先根据Agent之间交互的时间顺序,构建了基于时间戳的行为状态空间结构,然后应用SRL理论,建立了基于直接可信度和反馈可信度相融合的总体信任关系预测模型. 新模型充分利用SRL理论较强的动态适应能力,解决了传统预测模型对环境的动态变化适应能力不足的问题. 累计误差方面的实验结果表明,与已有模型相比,新模型能显著提高信任决策的准确性.     

基于C-GRU的微博谣言事件检测方法

提出基于卷积-门控循环单元(convolution-gated recurrent unit, C-GRU)的微博谣言事件检测模型。结合卷积神经网络(convolutional neural networks, CNN)和门控循环单元(gated recurrent unit, GRU)的优点,将微博事件博文句向量化,通过CNN中的卷积层学习微博窗口的特征表示,将微博窗口特征按时间顺序拼接成窗口特征序列,将窗口特征序列输入GRU中学习序列特征表示进行谣言事件检测。在真实数据集上的试验结果表明,相比基于传统机器学习方法、CNN和GRU的谣言检测模型,该模型有更好的谣言识别能力。     

基于动态情境感知的W5模型研究

Twitter、Sina Micro-blog等社交网络应用为基于位置的服务提供了大量的情境信息,如用户ID(who)、签到时间(when)、GPS坐标(where)、微博内容主题词(what)和微博内容诱因词(why)等,简称5W。它们为用户的行为和偏好研究提供了契机。该文提出了基于5W动态情境感知信息的W5概率模型,并采用包含情境信息的联合概率分布分别从时间、空间和活动等方面挖掘用户动态行为,用于用户和位置的预测。该文实验基于两个数据集:Geo-text(GT)和Sina-tweets(ST),在数据集上进行了用户预测(UP)和位置预测(LP)实验。实验结果表明,W5模型在UP和LP两方面准确率均高于W4模型。同时,W5模型在时间误差和空间距离误差两方面也取得了较好的性能。