共查询到20条相似文献,搜索用时 15 毫秒
1.
HBase是Hadoop平台上的一个子项目,可以认为HBase是一个分布式的、面向列的开源数据库,其在Hadoop平台上提供了Bigtable的功能,用户可以像使用普通数据库一样使用它,在本项目中通过创建一个Azure平台的HBase实例,介绍HBase的基本原理和使用方法. 相似文献
2.
隋瑞红 《电脑编程技巧与维护》2016,(13):49-51
阐述在微软云平台Azure HDinsight中使用Spark集群,并结合一个事例使用Jupyter notebook来运行Spark查询SQL. 相似文献
3.
近年来各个院校都在搭建自己的教学资源平台,在搭建过程中出现了不少问题,其中最主要的莫过于硬件占用投资比例过大,造成平台搭建完成后继续运行的经费不足、资源收集不力、人员培训不到位等.本文提出了一种基于Windows Azure的教学资源平台的搭建方法,使用该方法可以节省大量硬件投入,将有限的经费使用到资源收集、制作及平台维护上,对于广大院校建设自己的教学资源平台有较好的参考意义. 相似文献
4.
5.
6.
7.
针对传统的大数据信息监控云平台模式单一、虚拟化程度不高,容易导致信息泄露的问题,为了提高对大数据的信息安全溯源能力,提出基于Hadoop的大数据信息安全监控云平台设计方法。在信息资源云体系下构建大数据信息安全融合模型,通过信息挖掘与匹配方法把云平台中的数据资源、物理资源进行关联性整合,方便数据安全溯源,在Hadoop平台下构建多源信息资源云,建立用户接口注册机制,采用虚拟化技术进行信息保护,实现在云平台下进行信息安全溯源。实验结果表明,采用该方法进行大数据信息安全溯源,大数据信息分类存储性能较好,对异常数据挖掘精度较高。具有较好的信息安全保护能力,确保了信息安全。 相似文献
8.
在传统的关系型数据库模式的使用中,存在大量的农业数据存储容量小和管理不够完善的问题。基于对Hadoop的分析,提出运用Hadoop框架构建海量农业数据处理云平台,并给出了平台架构和部分实验结果。通过实验数据表明,该方法可以为搭建农业海量数据云平台提供方法论基础,并实现了农业大数据有效的存储和管理。 相似文献
9.
10.
大数据、云计算技术的迅猛发展为挖掘气象数据丰富的科研和经济价值提供了技术支撑,促进了Hadoop及其包含的文件存储系统(HDFS,Hadoop Distributed File System)和分布式计算模型在气象数据处理领域广泛应用。由于气象数据具有大数据的4V特征,还需要引入新的数据处理算法来提高气象数据处理效率。通过对决策树算法原理的研究,基于Hadoop云平台,创建随机森林模型,为数据挖掘算法在云平台上的应用提供一种新的可能性。基于决策树(CART,Classification And Regression Trees)挖掘算法的气象大数据云平台设计,采用Hadoop系统架构和MapReduce工作流程,对气象大数据云平台采用集群部署。平台总体架构分为基础设施层、数据管理与处理层、应用层,减少了决策树建立的时间,实现了气象数据高效加工和挖掘分析等平台功能。 相似文献
11.
风电场数据中心包含状态监测、数据采集等实时类作业和非实时类作业,采用C/S结构存在资源利用率不平衡、管理与维护成本高等缺点。设计了一种基于Hadoop云平台的数据中心架构;针对开源Hadoop平台现有FIFO调度器不能满足实时监测系统要求,在原有FIFO调度器的基础上,设计了一种双队列的作业调度器,综合考虑作业的截止时间和优先级来进行作业调度决策,实验结果表明,与FIFO调度器相比,双队列的作业调度器在集群负载较大时能够表现出较好的性能,保证实时类作业能够优先执行,为风电机组的安全运行提供保障。 相似文献
12.
13.
主要介绍.NET框架的ADO.NET连接池技术的基本原理,结合流程图阐述了其相应的管理策略,给出了.NET应用程序访问SQL senver数据库连接池的有效设计方法. 相似文献
14.
大数据分析技术可切实汇总教育资源,为教育行业提供虚拟化服务,以助于教师与学生简洁化智慧平台研发流程,设计出与教育、科研需求相符的智慧平台,从而为平台用户提供文件存储、课程管理与发布等一系列优质服务。而且智慧云平台不仅可在很大程度上为学生打造健康且轻松的学习环境,还可为教师、学生、管理人员提供一体化线上服务。所以本文基于大数据分析技术设计了智慧平台,以期能够为智慧教育目标的顺利实现,教育教学效率与质量的有效提升提供有力帮助。 相似文献
15.
陈春娇 《计算机光盘软件与应用》2013,(21):277-278
随着我国高职教育资源飞速增长,大量数据的存储已成为高职研究的一个新的内容。传统存储架构存在资源利用率低、信息和资源无法有效共享等问题。本文提出将云存储应用到高职教学资源,实现教学资源共享。将提高高职院校现有的教学资源的利用率,避免相同资源的重复建设,满足大量数据存储和管理,从而降低高职教学资源建设和维护的成本。 相似文献
16.
针对传统多媒体会议规模小、媒体可靠性差和系统鲁棒性弱等缺点,提出一种面向服务基于云计算的多媒体会议-云会议.该系统利用面向服务的思想,采用松耦合结构,将信令、媒体服务相分离;利用云计算的规模大、扩展性和计算能力强的特点,扩大会议规模、高效处理媒体;改进云计算开发平台Hadoop,使其满足多媒体会议需求.实验表明,云会议在规模、可靠性、鲁棒性各方面比现有多媒体会议表现更佳. 相似文献
17.
18.
19.
20.
针对异构Hadoop云计算平台的任务调度问题,对Hadoop 推测执行调度和LATE调度方案进行研究,提出一种基于任务进度感知的自适应任务调度方案。首先,根据当前计算节点上的任务进度情况,估计任务近似完成时间(ATE),以此确定掉队者(Straggler)任务。然后,以平均节点任务进度的25%为阈值,将节点分为慢节点和快节点。当Straggler后备任务达到一定阈值时,将其优先分配到快节点中执行。实验结果表明,提出的方案能够为异构Hadoop平台合理分配任务,有效降低了任务完成时间和响应延迟,同时提高了平台吞吐量。 相似文献