大数据流式计算框架Heron环境下的流分类任务调度策略

新型大数据流式计算框架Apache Heron默认使用轮询调度算法进行任务调度，忽略了拓扑运行时状态以及任务实例间不同通信方式对系统性能的影响。针对这个问题，提出Heron环境下流分类任务调度策略（DSC-Heron），包括流分类算法、流簇分配算法和流分类调度算法。首先通过建立Heron作业模型明确任务实例间不同通信方式的通信开销差异；其次基于流分类模型，根据任务实例间实时数据流大小对数据流进行分类；最后将相互关联的高频数据流整体作为基本调度单元构建任务分配计划，在满足资源约束条件的同时尽可能多地将节点间通信转化为节点内通信以最小化系统通信开销。在包含9个节点的Heron集群环境下分别运行SentenceWordCount、WordCount和FileWordCount拓扑，结果表明DSC-Heron相对于Heron默认调度策略，在系统完成时延、节点间通信开销和系统吞吐量上分别平均优化了8.35%、7.07%和6.83%；在负载均衡性方面，工作节点的CPU占用率和内存占用率标准差分别平均下降了41.44%和41.23%。实验结果表明，DSC-Heron对测试拓扑的运行性能有一定的优化作用，其中对接近真实应用场景的FileWordCount拓扑优化效果最为显著。     

改进的Ke rbe ros协议在HDFS环境下的研究

由于Kerberos认证模型是中心管理方式,当Kerberos应用于大型的分布式网络中时,会产生服务器的瓶颈问题。为扩大Kerberos的应用范围,使其很好的与分布式系统HADOOP结合,对Kerberos在HDFS环境下的应用进行研究和描述,针对Kerberos密钥分发中心的瓶颈问题和 HADOOP分布式文件系统的特殊需求,提出改进的Kerberos协议模型。该模型结合分布式思想,且对协议的消息传递模型进行改进。仿真结果表明,该协议解决了 HADOOP分布式文件系统集成Kerberos的缺点,提升了 HADOOP分布式文件系统的存储安全以及分布式文件系统的用户认证效率。     

Hadoop平台下改进的LATE调度算法

对Hadoop平台下的MapReduce现有的调度器进行分析研究。针对LATE调度算法在分配节点执行落后任务的备份任务时的不足,结合Hadoop集群的异构性和工作负载的特殊性,在LATE调度算法的基础上提出了一种改进的LATE调度算法。对该算法进行实验和性能分析,表明该算法在完成时间和负载均衡方面有很大改进。     

云计算中一种多DAG工作流可抢占式调度策略

为解决多用户工作流调度过程中的公平性问题,提高资源利用率,满足不同用户DAG工作流的不同QoS需求,提出了抢占式多DAG工作流动态调度模型。该算法将DAG工作流按照QoS需求进行优先级划分,采用高优先级作业优先占有资源的原则调度作业。相同优先级DAG工作流的任务依据带有启发性信息的slowdown进行资源抢占,进一步提高了作业调度的公平性;对于不同优先级的作业调度,提出了基于阈值的回填算法,该算法在保证作业调度公平的同时提高了资源利用率。     

可信网络中基于信誉和风险评估的动态信任模型*

针对可信网络不能有效处理恶意节点攻击的问题,综合考虑信任度评估的动态性和风险性,提出一种新的基于信誉和风险评估的动态信任模型。该模型引入惩罚机制、风险机制和推荐实体信任度更新机制,以评估信任关系的复杂性,通过构建直接信任树以存储节点的交互关系,并采用改进的回溯法寻找最佳推荐路径。仿真结果表明,该模型在有效抑制恶意节点上较已有模型有一定的改进。     

基于知识图谱的双重感知网络推荐算法

近年来,通过聚合知识图谱中附加的项目信息进行推荐取得了优异的成果,但用户信息来源相对较少,同时多重聚合会使项目自身特征表达不全,甚至发生噪音.针对以上两点,提出基于知识图谱的双重感知网络推荐算法KGDP.首先,从用户交互记录中随机选取部分项目作为用户相关项目,以及选取项目的邻居实体作为项目的相关实体;然后,将选取的用户相关项目经过深度神经网络融合为用户特征,丰富了用户特征,同时单独聚合项目的相关实体;其次,经过两个深度神经网络使用户分别感知项目特征和邻居特征,即非线性交互;最后,通过一个单层感知机调节交互特征的输出权重进行评分预测.在推荐算法常用的两个真实数据集上进行实验,较基线模型AUC指标分别提升了9.2%、2.4%;ACC指标提升了6.6%、1.9%,F1指标分别提升了7.0%、1.1%;Precision@N指标分别提升了28.8%、6.5%;Recall@N分别提升了4.0%、23.7%;F1@N指标分别提升了43.3%、8.4%.     

一种基于邻域系统密度差异度量的离群点检测算法

针对离群点检测算法LOF在高维离散分布数据集中检测精度较低及参数敏感性较高的问题,提出了基于邻域系统密度差异度量的离群点检测NSD（neighborhood system density difference）算法。相较于传统基于密度的离群点检测方法,NSD算法引入了截取距离的概念。首先计算数据集中对象在截取距离内的邻居点个数;其次计算对象的邻域系统密度;然后将对象的密度与它邻居的密度进行比较,判定目标对象与其邻居趋向于同一簇的程度;最后输出最可能是离群点的对象。将NSD算法与LOF、LDOF、CBOF算法在真实数据集与合成数据集中对比实验发现,NSD算法具有较高的检测准确率和执行效率以及较低的参数敏感性,证明了NSD算法是有效可行的。     

用户QOS及系统指标指导的计算网格任务调度

针对网格环境中的动态性特点,特别是用户服务质量（QoS）需求的动态变化性,通过定义任务的效益函数来评估任务的多维QoS需求。同时为了兼顾任务完成时间、负载平衡等系统指标,引入系统效益的概念,给出负载平衡度的定义用来指导调度及评价调度性能。针对一组具有QoS需求的相互独立的计算任务提出一种用户QoS及系统指标指导的计算网格任务调度算法——UQSI。模拟实验结果显示,该算法能较好地满足用户的多维QoS需求,更加适合开放复杂的网格环境。     

基于网格资源预测的任务优先级调度算法

根据网格工作流中任务的依赖关系和截止时间,以及资源的有效度和MIPS（每秒百万条指令）,提出基于网格资源预测的任务优先级调度算法。把网格任务工作流抽象为有向无环图,找到该工作流的关键路径,计算每个任务的最迟开始执行时间,作为任务的优先级。在算法中考虑用户的要求和资源的类型,以及任务调度失败后重新分配的问题。实验验证了该算法的有效性。     

基于状态预测的网格工作流资源选择策略

考虑到网格中存在着大量功能相同但可靠性各不相同的资源,针对执行时间限制严格类型的网格工作流提出了一种新的基于状态预"311的资源选择策略.该策略以工作流DAG图中的关键路径上的前驱任务资源收到输入转移数据而被触发执行的时刻作为预测时刻,利用Markov过程计算出后继任务的各候选资源在前驱任务结束时刻处于"闲状态"的概率大小,然后选择这一概率较大的资源作为此后继任务的执行资源,从而了保证了工作流关键路径任务执行时问的要求.最后通过实验验证了该策略的有效性.