大数据时代可能影响你的7个商业趋势

标签:大数据安全存储技术

访客:18937  发表于:2013-08-29 16:42:07

 
来源:缔元信

      我们已经看到了许多这样的案例出现企业愿意分享他们在大数据使用上取得的成就。在IT行业任何的范式转变(paradigmshift),一个特定的主题吸引新闻媒体、投资者和创新人才的大量关注,这个转变需求很强的商业价格的支持。这个典型的案例是:客户服务、分布式计算和以服务为导向的架构与语言,例如:JAVA.

      我们也看到了一个有益的生态系统的出现,迅速的赞美或扩展能力的核心支持技术,在大数据案例中,大数据生态系统已经迅速集中一批技术提供者,例如:Hadoop,Cassandra,Accumulo,Oracle,IBM.

      那么在大数据的生态系统中我可以看到哪些趋势会出现?

在hadoop上对于sql扩展性和一致性

      有一大批的技术公司努力构建一种no-sql技术,从而为大数据提供解决方案例如:hadoop。但是对于sql语言支持的深度与广度各不相同,然而使用sql专业分析人员可以使用这些优点从而很好的通过sql语言来操作大数据。目前案例包括:Hadapt,Impala,TeradataAsterandEMCGreenplumsPivotalHD.

(译者注:由于目前的大数据存储都不是基于关系型数据库的,所以传统通过sql语言来操作数据的方式无法直接使用,例如:对于hadoop存储的数据是无法直接通过sql来查询的。因而需要把传统的sql语言进行中间转换从而进行操作,例如:hadoop中hive,就是相当于将sql转换成MapReduce,从而去读取、操作hadoop上的数据。)

对于结构化、非结构化与半结构化数据的统一支持

      随时非结构化数据的增长,IDC公司预测了数据的数量,大多数据的将以非结构化的形式存储,每天将增长40%-50%.到2020年,总体的数据量将达到40ZB.非结构化的数据主要来源于:邮件、论坛、博客、社交网络、POS系统和机器生成的数据。为了获取和分析这些大数据量的数据,创新人员必须扩展他们的大数据解决方案,而不能仅仅适用于其中一个。

优化检索

      从海量的数据中发现之前用户的真正搜索需要,在之前就像大海捞针基本上不可能的。但是随时时间发展,越来越多把大数据的解决方案融入到检索支持中。在这方面中领先者有:LucidWorks,IBM,Oracle(其通过收购Endeca)AutonomyandMarkLogic。其中LucidWorks结合了一个开源的堆Lucene和Solr,Hadoop,Mahout和NLP。

ETL的扩展与支持

      许多人都认为hadoop最开始的使用安全是用于ETL因为其批处理的功能。然而,如果你看到基于etl解决方案进行与维护的复杂hadoop平台的所有的基础设施,你可以会使用其它的纯情etl工具(Informatica,Talend,Syncsort,CloverETL)来解决。多年来这些公司这些公司努力在建立最值组合的ETL解决方案,现在更多我们把其称作为:数据整合解决方案。

      纯粹的ETL提供商正努力为大数据提供解决方案。这些支持不难包括:ETL,而且包括ELT那些从hadoop内部转化为hadoop。这会使公司使用构建这样的环境,使用纯ETL的解决方案及hadoop本身强大的功能。随着时间的发展,这些纯ELT的公司起的支持的大数据的解决方案范围包括从:NewSQL与NoSQL。

      另外,我期望许多的大数据解决方案公司可以嵌入对于ETL与ELT的支持,就像许多传统的数据库供应商已经通过嵌入或收购ETL解决方案。

大数据运动趋稳

      在我之前的文章写到,以Apache为开源框架的hadoop已被使用使用在以批处理为导向海量的分布式环境中,特别是以分析为背景的情况下。随时企业开始关注如何支配和利用海量的数据资源用于实时决策,我们预计会对于’大数据运动’影响和增长有重要帮忙。这个“落地”代表的实时的信息流用于处理大数据流,在各个行业:包括资本市场、医疗7、能源和社会化媒体。

增加数据挖掘和分析技术

      在大数据领域的行业领域者知道需要在他们平台上扩展在数据分析与统计功能的需求。除了一般的分析功能还增加非常的数据挖掘功能。TeradataAste包括很多的分析功能,具体包括支持统计、文本挖掘、图像、情感分析等。其它的公司例如IBMNetezza已经加入了对于R语言的支持,可以支持R的各类包,例如:并行运算算法包、矩阵相关包。未来我们可以看到大数据解决方案将会不断的大量增加这种功能。

从R语言中获利

      毫无疑问R语言将会是越来流行的开源统计语言。RevolutionAnalytics公司在开发用于“工业”使用的R版本上,性能上有显著的增强和满足其它企业的特征。更进一下,他们已经开发出了可以适用于hadoop、PureData的R扩展包。大学里也大量开设的R语言方面的课程,让更多的学生拥有使用R语言的能力,也让他们具备在处理复杂的统计分析方面的能力。可以预见R会被包括在许多大数据的解决方案中,而且会显著改进该语言从而让其有更好的性能。

      随着大数据生态系统的发展,相关的产业必然伴随其发展。在今天的市场竞争环境中,那些实施以数据驱动战略的公司将在竞争中取得优势。

评论(0)

您可以在评论框内@您的好友一起参与讨论!

<--script type="text/javascript">BAIDU_CLB_fillSlot("927898");