共查询到16条相似文献,搜索用时 119 毫秒
1.
针对当前Hadoop集群固有的任务级调度分配方法在运行中存在的负载分布不均的现象,着重对集群节点的执行能力进行了分析与研究.提出了一种基于节点能力的任务自适应调度分配方法.该方法根据节点历史和当前的负载状态,以节点性能、任务特征、节点失效率等作为节点任务量调度分配的依据,并使各节点能自适应地对运行的任务量进行调整.实验结果表明集群的总任务完成时间明显地缩减,各节点的负载更加均衡,节点资源的利用更为合理. 相似文献
2.
为了解决当前Hadoop集群在异构资源环境下固有的调度分配方法的不足,提出了一种基于节点能力的自适应调度算法NCAS(node capacity adaptive scheduling)。首先,NCAS算法根据节点性能、任务特征计算得到调度因子;然后,由调度因子确定各节点应分得的数据量与任务槽数;最后,将数据和任务多分给快节点同时少分给慢节点。实验结果表明,与传统的调度算法相比,NCAS算法大幅度减少了备份任务的启动数量,明显减少了作业完成时间,提升了任务执行效率。 相似文献
3.
4.
5.
研究对比Hadoop平台下默认的推测任务调度算法和异构环境下LATE调度算法的优势和不足,提出了一种基于Hadoop集群的改进的推测任务调度算法.该算法以节点历史信息对Reduce任务各阶段比例进行动态调整和更新,并对任务实时处理速率进行局部平滑处理来提高预估任务剩余完成时间的准确性,最后采用MCP模型对备份任务有效性进行验证.通过实验结果分析可知:该算法能够有效提升备份任务成功率,减少作业完成时间. 相似文献
6.
一种改进的自适应多媒体任务调度算法 总被引:1,自引:0,他引:1
支持多媒体任务调度以满足其性能需求,是一项重要而富有挑战性的工作,一直备受关注,并出现了一些实时任务模型。它们都需要任务提供最坏执行时间(Worst Case Execution Time,WCET),以方便准入控制机制的实现,但这正是多媒体任务难以提供的。那么在WCET未知的前提下,如何实现多媒体任务的调度,而且必须支持准入控制和动态QoS控制机制,支持尽可能多任务的执行,使CPU资源的利用最大化?本文首先提出了一种改进的基于速率的自适应(Adaptive Rate-Based,ARB)任务模型。然后通过理论分析和实验证明了:在WCET未知的情况下,基于ARB任务模型的多媒体任务调度算法、准入控制和自适应QoS控制机制是可行的、有效的,而且可以支持尽可能多任务的执行,达到了预期的目标。 相似文献
7.
8.
9.
针对蚁群算法求解云计算任务调度问题存在收敛速度慢和容易陷入局部最优解的缺陷,提出一种动态自适应蚁群算法的云计算任务调度策略。算法在选择资源节点中引入混沌扰乱,依据节点信息素浓度自适应调整信息素挥发因子,由解的优劣性动态更新信息素。当任务数量超过150时,动态自适应蚁群算法与蚁群算法结果相比较,时间效率最大提高319%,资源负载率为0.51。仿真结果表明,所提算法提高了解的收敛速度和全局搜索能力。 相似文献
10.
一种自适应的动态网格任务调度算法 总被引:1,自引:0,他引:1
GRACE网格资源框架是一个分布式、可计算的经济学体系框架,针对框架中分配网格资源问题,引入近视算法,提出了一种自适应的动态网格任务调度算法。该算法通过在调度过程中动态监测系统的负载平衡度,自适应地选择任务调度策略。经模拟试验证明,该调度算法提高了任务的调度成功率。 相似文献
11.
Hadoop集群单队列作业调度会产生短作业等待、资源利用率低的问题;采用多队列调度可兼顾公平、提高执行效率,但会带来手工配置参数、资源互占、算法复杂等问题。针对上述问题,提出三队列作业调度算法,利用区分作业类型、动态调整作业优先级、配置共享资源池、作业抢占等设计,达到平衡作业需求、简化一般作业调度流程、提升并行执行能力的目的。对短作业占比高,各作业占比均衡以及一般作业为主,偶尔出现长、短作业三种情况与先进先出(FIFO)算法进行了对比实验,结果三队列算法的运行时间均比FIFO算法要少。实验结果表明,在短作业聚集时,三队列算法的执行效率提升并不显著;但当各种作业并存且分布均衡时,效果很明显,这符合了算法设计时短作业优先、一般作业简化流程、兼顾长作业的初衷,提高了作业整体执行效率。 相似文献
12.
13.
对Hadoop平台下的MapReduce现有的调度器进行分析研究。针对LATE调度算法在分配节点执行落后任务的备份任务时的不足,结合Hadoop集群的异构性和工作负载的特殊性,在LATE调度算法的基础上提出了一种改进的LATE调度算法。对该算法进行实验和性能分析,表明该算法在完成时间和负载均衡方面有很大改进。 相似文献
14.
为了满足有截止时间限制的MapReduce作业的需求,提出一种基于截止时间限制的动态调度算法(DCDS)。该算法实时监控作业运行状况,并对作业运行时间进行动态估算,从而确定作业优先级;对于时间紧迫的作业,可通过抢占策略来保证在用户要求的截止时间内完成。实验结果表明,与Hadoop平台现有的调度算法相比,该算法不仅能满足作业截止时间的要求,也提高了系统资源的利用率和吞吐量。 相似文献
15.
16.
在计算能力调度算法中没有全面考虑各资源特征的分配是否满足作业多样的服务要求,提出一种基于优先级的计算能力加权调度算法,根据作业的优先级以及提交时间等因素来计算作业的权重。依据作业的权重对作业队列进行排序并分配空闲的slot给队首的作业,从而避免调度陷入局部最优也能更好地满足作业的多样性服务要求。在搭建的Hadoop平台上进行实验表明,改进后的算法能较均衡地分配系统资源减少一些作业的等待时间,并且运行全部作业的用时有所减少。 相似文献