做有温度的教育!
全国统一咨询热线:400-803-9399
北京
校区
新闻资讯> 行业新闻> Spark点燃近实时大数据之火

Spark点燃近实时大数据之火

时间:2018-12-04
浏览:24668
发布:甲骨文华育兴业
赞:5967

在用户体验达不到所宣传效果之后,IT领域中必然会随之出现“新的热门事件”。目前的新热门事件涉及大数据和对海量分布式数据的快速精准分析。

  在目前的大数据领域中,Hadoop被作为存储和分配海量数据的软件,而MapReduce则被作为处理这些海量数据的引擎。两者整合在一起可以批处理一些对时效性没有过高要求的数据。  

甲骨文华育兴业

  那么对于近实时大数据分析应当怎么办呢?作为最先进的下一代开源技术Apache Spark已经为视频、传感器、交易等流数据的分析、机器学习、预测建模创造了条件。它们可以用于基因组研究、封包检测、恶意软件探测和物联网。


  Spark不仅可像MapReduce那样用于批处理,对于需要与数据集进行大量交互的算法,Spark还可以将这些运算的中间结果存储在缓存中。 相比之下,在带入系统进行下一步处理前,MapReduce必须要将每步运算的结果写入磁盘。这种在内存中对弹性分布式数据集(RDD)的快速处理可以说 是Apache Spark的核心能力。


  Salient Federal Solutions公司一直致力于使用Spark为政府机构开发分析产品。该公司预测分析主任Dave Vennergrund称:“一旦执行对数据集的操作,它们能够进行相互连接,从而使得转换能够被迅速完成。加之它们能够同时跨多台机器做这一工作,这使 得我们能够迅速做出反应。”


  Spark的支持者认为,与竞争对手相比,Spark在扩展性和速度方面都具有优势。突出表现为在小数据集升级为拍字节后,它们仍然能够出色地工 作。在2014年11月份的基准竞赛中,Apache Spark整理100太字节数据的速度比Hadoop MapReduce快了三倍,并且其机器集群的规模是MapReduce的十分之一。


  据软件开发公司Typesafe近期观察显示,对Spark感兴趣的机构在数量上正在不断增长。数据显示,目前13%的受访者正在使用Spark, 约30%的受访者正在对Spark进行评估,20%的受访者计划在今年某一时候开始使用Spark。另有6%的受访者希望在2016年或更晚时候使用 Spark。此外,28%的受访者还对Spark不了解,认为它们还不成熟。


  Salient 的数据分析中心副总裁Cindy Walker称:“对于政府来说,他们正在进行测试与评估。早期部署者都是那些有沙盒和研发预算的部门。我们的许多客户现在对大数据部署、内存分析、流解 决方案都还没有划定能力底线。因此,我们目前正在使用Spark帮助他们设定合理的目标。”

  虽然Spark还无法取代MapReduce,但是它们最终将成为大数据分析领域的一部分,推动数据被以更快的速度处理。


  Apache Spark生态环境有以下几个组成部分:

  Spark Core:平台的底层执行引擎,支持大量应用以及Java、Scala和Python等应用程序接口(API)。

  Spark SQL(结构化查询语言) :用户可通过其探究数据。

  Spark Streaming:可对来自推特的流数据进行分析,并且让Spark具备批处理能力。

  机器学习库 (MLlib):一种分布式机器学习架构,交付高质量算法的速度比MapReduce快100倍。

  Graph X:帮助用户以图形的形式表现文本和列表数据,找出数据中的不同关系。

  SparkR:针对R统计语言的程序包。R用户可通过其在R壳中使用Spark功能。

  BlinkDB:大型并行引擎。允许用户对海量数据执行类SQL查询,在速度重要性高于精确性的情况下非常有用。


从业之路的第一步,由甲骨文华育兴业开始,

付出的辛苦与努力只有自己知道,这只是职业生涯的开始。

勤恳努力的人终会得到好的回报,而有些努力需要时间来回答

你吃的苦终会成就你所走的路!

甲骨文华育兴业,为你的IT之路开启梦想之门!


【版权与免责声明】如发现内容存在版权问题,烦请提供相关信息联系我们,我们将及时沟通与处理。本站内容除非来源注明甲骨文华育兴业,否则均为网友转载,涉及言论、版权与本站无关。


相关推荐

甲骨文华育兴业

重要的不是出发的年龄,而是出发!

很多人面对选择时总会给自己找各种不同的借口,我年纪大了学什么都不赶趟了,学完了找不到工作不是白学了吗还浪费了时间,他们都有底子我是刚刚接触肯定学不好......   事实上在做某件事情时,阻挠你的并不是别人而是你自己。

java开发

新高考将再添一个新科目!这个省最先试行,很快将推到全国!

  国务院发布的《新一代人工智能发展规划》,预示着编程很快就会进入到我们的生活中来,也就是说新高考又要添一个新科目啦,大家都知道了吗?   这个新添的科目叫做——编程,而且这个方案也是浙江为首。从今年的高考开始,不是普通的“6选3”,而是改成了“6+1选3”,而这里所指的“+1”就是信息技术(含编程),编程正式成为高中必学科目!

web全栈开发

开发者推荐的10个优秀的PHP框架

前端开发是现在许多公司主要业务展示的一个重要环节,那么现在应用面最广的应该是PHP他开发快框架复用性强,受到了很多公司的青睐,那么对于作为WEB全栈开发的你哪些框架是简单上手的呢?小编整理了一些,大家可以着重的学习,在工作中或许用得上!

大数据开发

大数据带你看史上大型DG凉凉秀

“DG辱华事件”是怎么回事想来小编已经不用多说,随着DG设计师与网友对骂的截图被曝光,“设计师”成为了这场舆论风暴的导火索,舆论对此的关注度逐渐升高,一些其他知名自媒体也纷纷加入话题的讨论,其中包括娱乐博主@会火 、@Rabbit每日爆料 、军事博主@菌说菌事 、设计美学博主 @熊小默 等。#dg设计师#在微博上的话题阅读量高达6.7亿次,讨论量也近10万次。

大数据中hadoop是什么? ps使用 大数据 冲刺Java架构师年薪50W

友情链接: 甲骨文华育兴业太原校区 甲骨文华育兴业济南校区 甲骨文华育兴业哈尔滨校区 甲骨文华育兴业长春校区 魔据教育 音乐培训 青海律师

Copyright ©2016-2019. All Rights Reserved. 京ICP备17018991号-4

网站地图