共查询到18条相似文献,搜索用时 140 毫秒
1.
2.
针对传统并行处理技术在海量数据处理中存在的实际应用问题,利用云计算技术强大的计算能力、高效的海量数据处理方式,结合关系数据库实时访问的优点,在Hadoop分布式计算框架基础上,采用Map-Reduce架构,设计并实现了基于云计算的海量数据处理平台.实践证明,该系统在计算能力、稳定性、可扩展性等方面都优于传统并行处理的技术,能有效解决海量数据大并发访问. 相似文献
3.
《信息技术》2017,(6):166-169
针对云储存中充斥的各种各样异构数据带来的数据搜索复杂的问题,采用多核网络处理器技术构建平台内部硬件加速,结合MapReduce模型设计了API应用程序接口。在数据的搜索过程中,利用Sheduler为媒介对chunk Num个数据子模块划拨给操作模块,并在CPU-GPU并行条件下进行MapReduce流程操作,异构数据搜索平台又将工作chunk进行细化以提升数据的搜索能力。利用WC、SM、MM和KM四种负载测试信息对系统平台进行性能测试,结果显示四种信息的不平衡性均随着数据粒度不断上升,其中,MM数组相乘轨迹的非平衡性自4000开始向上攀升,而SM字符串配、WC字数统计和KM迭代聚类的非平衡性分别对应8000、12000和12000粒度级。 相似文献
4.
5.
提出了一种开放分布式海量数据处理平台的设计方案。该平台以HDFS、Hive和HBase等作为底层数据存储方式,以Map Reduce、Spark和Storm等作为底层数据处理方式,向用户提供了统一的接口,同时使用Kerberous进行权限控制,保证了数据安全性。这种开放式的服务可使用户可在不同平台不同环境下简单方便地完成海量数据处理任务。 相似文献
6.
全网搜索系统是政务大数据平台的重要基础性应用。该系统通过对海量数据的采集、治理、挖掘和分析,建设规范的核心基础库、通用指标库和领域基础数据库,并应用数据标注、元数据梳理、主数据服务、指标构建、模型分析、自然语义等核心技术,将数据与业务关联起来。其还通过语义识别和语义对齐来智能判别用户的搜索意图,提供标准、个性、精准的数据搜索,并结合数据实际对搜索结果进行可视化分析与呈现,实现跨层级、跨区域、跨系统、跨部门、跨业务的数据关联查询与共享,实现政务数据的全网搜索。 相似文献
7.
文章在分析了OLAP大规模海量多维数据特点的基础上,针对当前一般规模关系数据库处理海量多维数据能力的不足,通过使用数据库分区技术和并行磁盘组技术,设计并实现了一种高效的、面向OLAP应用的数据存储管理结构。并针对传统查询优化器对于大规模海量数据统计信息更新不及时的问题,设计了一种基于分区技术的统计方法。实验证明,该设计可以对百TB级的多维海量文本数据进行有效的管理。 相似文献
8.
9.
10.
《现代电子技术》2019,(8):151-154
为了提高不同场景的绘制效率,对网络中海量数据信息进行可视化管理,设计一种基于三维虚拟的海量数据信息管理系统。系统分为三维图像处理模块、信息感知模块、数据交互模块、三维模型重构渲染模块和输出程序控制模块。采用视景仿真渲染工具Vega Prime进行海量数据信息管理系统的三维立体建模和视景分析,采用3ds MAX软件进行海量数据信息管理建模,结合自适应图形跟踪渲染方法实现网络中海量数据可视化三维图形绘制,提高对海量数据信息的跟踪能力,构建视景分析模型数据库,实现对海量数据信息进行实时管理。仿真结果表明,设计的系统具有很好的三维虚拟重构能力,提高了海量数据显示与交互操作的绘制效率。 相似文献
11.
12.
13.
针对传统有线数据采集技术存在的可移动性差,电线铺设受环境影响大等问题,运用短距离无线通信技术,采用挪威Nordic公司的单片射频发射器nRF905设计出了一个自动气象站系统,采集湿度、压强、温度、光照等气象站数据。通过nRF905芯片,将采集而来的数据经无线通信信道传输至接收端并用LCD12864液晶显示器显示出来。nRF905芯片工作电压为1.93.6 V,工作于433 MHz/868 MHz/915 MHz三个ISM频道(全球免费波段),芯片功耗非常低。此系统可广泛应用于无线数据采集、环境监测等场合,有很好的灵活性和良好的实时性。 相似文献
14.
The authors consider the design of multirate filterbanks for applications such as subband coding with IIR QMF (quadrature mirror filter) pairs. These offer reduced complexity and low latency at the expense of the loss of exact linear phase. In particular, consideration is given to the use of all-pass sections where linear phase is approximately achieved by being part of the objective in numerical optimisation experiments. This approach compares favourably with previous IIR based approaches. Finite wordlength design using simulated annealing shows that low coefficient wordlength may be used. This leads to efficient realisations with three-port adaptors. Using pipelining implementation, a flexible VLSI architecture is designed that can be used for a variety of subband decompositions. Layout and simulation of the design have been performed. 相似文献
15.
16.
17.
探讨了电磁场数据可视化的表现形式,相应系统显示的数据内容、流程、总体设计与各模块功能设计,研究了随机分形地形生成,等值线算法,结合计算机图形学,实现等值线图,彩色云图,传播路径图显示。 相似文献
18.
《现代电子技术》2017,(2)
当前的网络数据存储系统在处理大规模数据时需要较长时间,增加了网络数据存储周期,存储性能较差。因此设计并实现一种大规模网络数据存储系统,该系统主要包括A/D高速采集模块、FLASH存储模块和FPGA数据接收模块。A/D高速采集模块采集大规模网络数据,采用FPGA数据接收模块对采集到的网络数据进行接收和处理,过滤其中的噪声因素,再将处理好的网络数据保存在FLASH存储模块中。依据三层架构模式设计大规模网络数据存储系统软件架构,并给出了业务逻辑层完成数据传递的关键代码。实验结果表明,所设计的大规模网络数据存储系统具有较高的数据存储和读取速度,能够实现网络数据的负载均衡存储。 相似文献