基于Kubernetes的AI调度引擎平台

文中介绍了基于Kubernetes的AI调度引擎平台的设计与实现, 针对当前人工智能调度系统中存在的服务配置复杂, 集群中各节点计算资源利用率不均衡以及系统运维成本高等问题, 本文提出了基于Kubernetes实现容器调度和服务管理的解决方案. 结合AI调度引擎平台的需求, 从功能实现和平台架构等方面设计该平台的各个模块. 同时, 针对Kubernetes无法感知GPU资源的问题, 引入device plugin收集集群中每个节点上的GPU信息并上报给调度器. 此外, 针对Kubernetes调度策略中优选算法只考虑节点本身的资源使用率和均衡度, 未考虑不同类型的应用对节点资源的需求差异, 提出了基于皮尔逊相关系数 (Pearson correlation coefficient, PCC)的优选算法, 通过计算容器资源需求量与节点资源使用率的互补度来决定Pod的调度, 从而保证调度完成后各节点的资源均衡性.     

Kubernetes资源调度算法的改进与实现

Kubernetes是Google主导的容器编排引擎, 其资源调度算法分为预选和优选两个过程. 针对预选过程要遍历所有节点比较耗时的问题, 改进的资源调度算法提出在选出满足条件的节点数量时直接进行优选而无需遍历所有节点, 从而提高资源调度效率; 针对优选过程只考虑了pod自身申请的CPU和内存使用情况, 并且未考虑节点本身的资源利用率的问题, 改进的资源调度算法综合考虑CPU、内存、网络、IO指标, 通过实验验证了改进算法能适应更加复杂的互联网应用环境, 进而提高集群的负载均衡效率.     

基于主机性能度量的异构集群作业调度算法

传统经典作业度算法在集群应用中实现简单、执行效率高,但在异构集群环境下由于缺乏在线节点运行状态动态反馈能力和负载均衡能力,降低了计算资源利用率和系统吞吐率.为解决上述问题,设计了一种在异构集群环境下基于主机性能度量的作业负载均衡调度算法,该算法通过收集集群中在线节点的状态信息和作业响应时间遴选出可信节点集合,计算出各可信节点的HPM值,利用负载均衡运算规则生成候选的作业分配节点集合,最终按照预先设计的优先原则把不同作业分配至各计算节点,并更新各节点运行状态.实验结果表明,在异构集群环境下调度同类型作业时,该算法在总完成时间和负载均衡性能等指标上均优于传统经典算法.     

基于Kubernetes的动态负载均衡机制研究与设计

Kubernetes因其强大的容器编排能力而受到业界的广泛使用,但由于其节点的负载均衡是静态的,随着应用的不断创建和删除,以及节点资源的变化,极易出现集群负载不均衡的现象,从而导致部分节点压力过大,甚至存在宕机的风险。为解决这一问题,论文提出了一套面向Kubernetes的动态负载均衡机制,根据节点的负载信息变化情况,能够动态选择合适的Pod进行重新调度。实验结果表明该机制可以达到集群压力均匀分散的目的,使集群的资源得到更合理的使用。     

基于改进秃鹰搜索算法的Kubernetes资源调度应用

Kubernetes是一个管理容器化应用的开源平台,其默认的调度算法在优选阶段仅把CPU和内存两种资源来作为计算节点的评分指标,同时还忽略了不同类型的Pod对节点资源的占用比例是不同的,容易导致某一资源达到性能瓶颈,从而造成节点对资源使用失衡.针对上述问题,本文在Kubernetes原有的资源指标基础上增加了带宽和磁盘容量,考虑到CPU、内存、带宽和磁盘容量这4类资源在节点上的占用比例对节点的性能的影响,可能造成Pod中应用的非正常运行,甚至杀死Pod,从而影响集群整体的高可靠性.本文将等待创建的Pod区分为可压缩消耗型、不可压缩消耗型以及均衡型,并为每种类型的Pod设置相应的权重,最后通过改进的秃鹰搜索算法(TBESK)来寻找出最优节点进行调度.实验结果表明,随着集群中Pod的数量在不断增加,在集群负载较大的情况下, TBESK算法的综合负载标准差和默认的调度算法相比提升了24%.     

基于Docker Swarm集群的调度策略优化算法

Swarm是一种对集群中Docker镜像和容器进行管理的工具,其在计算节点权值时可能会得到若干个相同权值的节点.现有的Swarm调度策略只是将这些节点随机分配,由于相同权值节点的资源负载情况并不相同,所以将会造成节点负载不均衡.针对上述问题,本文提出一种动态调度算法对Swarm调度策略进行优化.通过实验,证明增加动态调度算法能够使集群中节点负载更加均衡,同时提高集群的整体资源利用率.     

基于Docker swarm集群的动态加权调度策略

针对目前的Docker swarm内置的调度策略无法很好地实现Docker集群的负载均衡并且对集群资源的使用率不高的问题,提出了一种动态加权调度算法。所提算法对资源设置权重系数,引入参数bias针对不同服务对资源权重进行动态调整,根据各个节点的实际资源利用情况,对节点资源按照权重进行加权计算,用权值反映节点负载,并将此作为调度依据。在和Docker原始调度策略以及无参数调整的加权调度策略的对比实验中,该算法使得集群中各个节点上的各项资源利用率更加均衡;同时,在集群负载比较高的情况下,该算法实现了更快的服务运行速度。     

基于遗传算法的云计算资源调度策略研究

对云计算环境中的资源调度问题进行了研究,鉴于当前云计算环境中资源利用率不高,节点负载不均衡的问题,提出了一种新的基于遗传算法的关于虚拟机负载均衡的调度策略;根据历史数据和系统的当前状态以及通过遗传算法,该策略能够达到最佳负载均衡和减少或避免动态迁移,同时还引入了平均负载来衡量该算法的全局负载均衡效果;最后通过在CloudSim平台进行仿真实验,结果表明,该策略具有相当好的全局收敛性和效率,当系统虚拟机被调度之后,算法在很大程度上能够解决负载不均衡和高迁移成本问题,并且极大地提高了资源利用率.     

Kubernetes异构资源细粒度调度策略的设计与实现

在异构资源环境中高效利用计算资源是提升任务效率和集群利用率的关键。Kuberentes作为容器编排领域的首选方案,在异构资源调度场景下调度器缺少GPU细粒度信息无法满足用户自定义需求,并且CPU/GPU节点混合部署下调度器无法感知异构资源从而导致资源竞争。综合考虑异构资源在节点上的分布及其硬件状态,提出一种基于Kubernetes的CPU/GPU异构资源细粒度调度策略。利用设备插件机制收集每个节点上GPU的详细信息,并将GPU资源指标提交给调度算法。在原有CPU和内存过滤算法的基础上,增加自定义GPU信息的过滤,从而筛选出符合用户细粒度需求的节点。针对CPU/GPU节点混合部署的情况,改进调度器的打分算法,动态感知应用类型,对CPU和GPU应用分别采用负载均衡算法和最小最合适算法,保证异构资源调度策略对不同类型应用的正确调度,并且在CPU资源不足的情况下充分利用GPU节点的碎片资源。通过对GPU细粒度调度和CPU/GPU节点混合部署情况下的调度效果进行实验验证,结果表明该策略能够有效进行GPU调度并且避免资源竞争。     

一种基于预测模型的负载均衡算法

结合集群系统中服务节点负载变化的不确定性和随机性的特点,提出WPLS-SVM组合的Linux服务器集群系统负载预测模型。该模型能够依据采样值对集群中节点的负载情况做出预测,根据节点的负载预测结果结合随机区间调度算法可以有效地实现对请求任务的分配与调度。仿真结果表明,较传统的负载均衡算法该算法克服了响应速度慢、预测精度差等缺点,提高了集群系统的利用率。     

基于组合权重TOPSIS的Kubernetes调度算法

Kubernetes是比较流行的开源容器编排引擎,其默认调度算法只考虑了CPU和内存两种性能指标,且采用统一权重计算候选节点得分,无法满足各异的Pod应用需求.本文在此基础上扩展了Kubernetes性能指标,增加了带宽、磁盘、IO速率3种指标,并通过AHP(analytic hierarchy process,层次分...     

基于OpenStack的Swift负载均衡算法

为了解决由于OpenStack的负载分发不均衡而引发的存储性能下降、资源利用率降低、I/O响应时长增加等问题,提出对加权最小连接调度算法进行改进. 通过对对象存储的负载均衡调度算法研究,利用存储节点的CPU、内存、硬盘、I/O资源利用率信息,并结合节点任务请求连接数,计算存储节点负载能力、性能和权值. 负载均衡器根据每个存储节点的权值大小判断任务分发方向. 经实验证明改进的负载均衡调度算法能够解决存储读写性能下降的问题,提升数据吞吐率、存储读写性能和系统稳定性.     

云计算中负载优化模型及算法研究

云计算环境的动态性和异构性,使得云计算很容易出现负载失衡现象,严重影响了云计算的整体性能和用户体验.论文提出了基于改进遗传算法的负载均衡优化模型,兼顾资源需求动态变化和虚拟机的计算能力,建立相应的资源调度模型,运用改进遗传算法实现资源负载均衡.验证表明,该算法能很好满足云环境下数据中心的使用要求,提高资源利用率和负载均衡度.     

面向多目标的云计算资源调度算法

在传统的虚拟机资源调度中,仅仅考虑当前负载,对虚拟机历史数据没有充分考虑,在处理云计算资源调度的时候出现负载失衡的状况,为了解决上述问题,本文提出了基于启发式遗传算法的资源调度算法,满足多目标规划的情况下实现云计算资源的调度.算法在为用户提供服务的同时充分考虑虚拟机的各种开销和因素,使提供云计算资源的服务器达到负载均衡.对目前的负载情况和历史数据进行分析,经过搜索和计算,计算得到同时满足负载变化数据约束和最小动态迁移开销的最好的云计算资源调度方案.最后,通过仿真实验,对算法进行验证,通过引入负载变化率和平均负载距离二个性能参数来比较和衡量虚拟机负载.实验数据证明,所提出的算法具有很好的全局收敛性和资源利用率,有效解决在资源调度中出现负载失衡和较大动态迁移开销的问题,因此,算法是可行和有效的.     

基于模拟退火算法的粒子群优化算法在容器调度中的应用

随着互联网产业的发展,虚拟机创建速度慢、不易扩展、灵活性不足等缺点越来越凸显,容器技术的出现为这些问题提出了一种新的解决思路;而现有的调度算法仅考虑容器云集群中工作节点的内存、CPU等物理资源,没有考虑对容器云调度后的镜像分发过程有明显影响的网络负载率,导致容器调度任务等待时间过长,造成数据中心的资源浪费;鉴于粒子群优化算法在局部开采能力和全局探测方面有较强的优势,提出了一种基于模拟退火算法的粒子群优化算法(SA-PSO,simulated annealing particle swarm optimization algorithm)的容器调度算法,通过使用模拟退火优化粒子群算法使其在算法初期跳出局部最优情况,提升算法性能;在Kubernetes平台实验过程中,SA-PSO调度算法相比Kubernetes的BalancedQosPriority算法,提升了整体节点资源利用率,显著减少任务最少等待时间;同时与标准PSO算法以及动态惯性权重PSO算法进行对比,不仅收敛能力有显著提升,并且相较标准PSO算法全局最优节点命中率提升近60％.     

一种基于QoS的云负载均衡机制的研究

提出一种基于QoS的云负载均衡机制,即:构建QoS模型和云资源模型;建立资源度量与QoS属性之间的映射;对虚拟机实例负载状况和虚拟机集群资源利用状况进行量化评估;感知用户的QoS并对比所监控的云节点的资源度量情况,根据对比结果,通过任务调度算法和弹性伸缩算法分别实现任务的分发和虚拟机集群的弹性伸缩,最终达到优化的负载均衡的目的.通过模拟试验,结果表明本方法与Round robin算法相比,有更好的负载均衡效果.     

基于负载预测的虚拟机动态调度算法研究与实现

在云计算系统中为了实现负载均衡和资源的高效利用,需要在虚拟机粒度上对云计算系统进行调度,通过热迁移技术将虚拟机从高负载物理节点迁移到低负载物理节点。把负载预测技术和虚拟机动态调度技术相结合,提出了LFS算法,通过虚拟机历史负载数据对虚拟机未来的负载变化情况进行预测,然后根据预测结果对虚拟机进行调度,能够有效地避免云计算系统中高负载物理节点出现,实现负载均衡,提高资源使用率。