共查询到20条相似文献,搜索用时 93 毫秒
1.
丛龙水 《计算机工程与应用》2013,49(10):267-267
介绍了作业调度几种基本算法及其优缺点,设计了综合几种作业调度基本算法优点的动态优先级作业调度算法,并给以方案实现,对基于微机集群的各种应用有很大的参考作用。 相似文献
2.
YARN is a resource management system widely used in Hadoop. It supports MapReduce, Spark, Storm and other computing frameworks, and has become the core component of big data ecology. However, in Hadoop YARN’s existing resource scheduler, a resource guarantee mechanism based on resource reservation, will produce resource fragmentations, leading to a waste of resources. In order to improve the resource utilization and throughput of the cluster, this paper proposes a resource allocation mechanism based on reservation and backfill. In this mechanism, based on the priority of the job, it decides whether to make a reservation to the resource and introduce a backfill strategy to backfill the resource without affecting the execution of the reservation job. Experiments show that the resource scheduling mechanism based on reserved backfill can effectively improve the resource utilization and throughput of Hadoop YARN cluster. 相似文献
3.
4.
5.
6.
本文研究并实现了大数据平台 Hadoop YARN 与深度学习框架 TensorFlow 的结合。通过对 DRF 算法的扩展,使得 Hadoop YARN 在原先支持 CPU 和内存的基础上,可以对 GPU 资源进行管理和调度。通过 YARN 的应用接口,把 TensorFlow 封装成了 YARN 的应用程序之一,把原来的分布式程序在多节点手动分发启动改为了在单节点自动分发启动,单机版不变。本文设计了多组实验对 YARN+TensorFlow 进行了多方位的测试,实验结果表明 YARN 和 TensorFlow 相结合相比原生 TensorFlow 程序具有相似的加速比,可以满足单系统多用户对 GPU 资源的使用,有效提高 GPU 资源的使用效率和编程人员的工作效率,增加系统的复用率。 相似文献
7.
8.
提出了一种动态概率优先级算法DPP,针对一类对延时和丢包率要求相对较高的应用,根据AF1队列长度动态调整概率计算参数p,有效地解决了由于突发流量带来的QoS性能下降问题。不同实验环境下的仿真结果表明,DPP算法有效改善了突发性对分组平均排队延时的影响,减少了分组丢包率。 相似文献
9.
在基于网格环境的一些网格应用中,用户需要提交一种作业类型,该作业可以被分解为逻辑上独立的元作业,这些元作业不存在依赖和通讯关系,并且它们的执行需要大量的数据移动。针对这种作业类型,本文提出了一种基于流作业的网格调度模型。在该模型中,这些独立的元作业像"流"一样自主地流向各个计算节点去执行,各计算节点接收的流量取决于其计算能力,并避免"断流"问题。同时,该模型还分离了作业流和数据流,实现了作业逻辑控制和数据控制的分离,提高了调度的灵活性。本文将该调度模型应用于药物虚拟筛选应用中,该模型能够充分利用计算节点的计算能力。 相似文献
10.
11.
12.
YARN是Hadoop的一个分布式的资源管理系统,用来提高分布式集群的内存、I/O、网络、磁盘等资源的利用率.然而, YARN的配置参数众多,要对其人工调优并获得最佳的性能费时费力.本文在现有的YARN资源调度器的基础上,结合了一种闭环反馈控制方法,可在集群运行状态下动态地对MapReduce(MR)作业数进行优化,省去了人工调整参数的过程.实验表明,在YARN的容量调度器和公平调度器的基础上使用该方法,相比于默认配置, MR作业完成时间分别减少53%和14%左右. 相似文献
13.
针对操作系统中进程的调度机制,依次对其调度方式、调度策略、调度时机进行了分析,并结合uClinux中进程调度实现的核心源代码,剖析了uClinux中进程调度器的实现原理,展示了uClinux中独具特色的进程调度机制. 相似文献
14.
宽带网络交换设备常采用交换开关crossar作为内部交换阵列,集中的crossbar调度器是crossbar高效工作的关键,ISP )Input Serial Polling)是一种简单高效的crossbar调度算法,本文详细介绍了ISP调度器的设计和实现。 相似文献
15.
针对处理器的温度管理问题,在操作系统层次上提出一种轮转调度算法,改进基于门限温度的调度算法,并在Linux内核中实现了这两个算法。将SPEC2K进行分类并组合成不同冷热特性的负载,在Intel双核处理器下进行了测试。表明Linux基准调度程序在调度方面缺乏有效的温度管理。基于门限温度的调度算法把热的任务迁移到冷的处理器上,缓解了处理器的温度过高问题。轮转调度算法有规律地让任务在双核上执行相等的时问,更好地平衡了处理器的温度,并且系统的吞吐量不受影响。 相似文献
16.
为了提高课程教学质量和效率,研究采用IIS+ASP网页编程+ACCESS数据库+SQL查询语言实现开发教学网站网上教学平台。教学平台服务包括管理员、教师和学生三个不同身份的用户,通过平台可以方便教师上课和学生之间交流。实现了教学资源管理、资料下载和上传、作业管理、教学评价、课程论坛、在线调查等功能。通过平台提高了学生对本课程的学习积极性和主动性。 相似文献
17.
基于汇编代码的指令调度器的设计与实现 总被引:1,自引:0,他引:1
随着嵌入式处理器在各个领域的广泛应用,嵌入式软件的复杂度越来越高.充分发掘嵌入式处理器的性能,需要高级编译优化技术的支持.指令调度是编译器发掘程序指令级并行性的关键技术之一.设计并实现了一个基于汇编代码的指令调度器.实验结果表明,在TECC嵌入式编译器中集成指令调度器后可显著提高程序的性能. 相似文献
18.
19.
20.
一种基于IPSec的VPN实现 总被引:4,自引:0,他引:4
虚拟专用网(VPN)是解决开放网络中私有信息安全传输的重要技术,而IPSec(IP安全协议)是实现VPN的有效手段。文中介绍了VPN技术的概念及关键技术,详细阐述了IPSec的结构、工作模式及其相关协议,最后具体给出了一个基于IPSec的VPN的实现,分析了它的工作原理。 相似文献