如何构建下一代大数据架构——数据湖

标签:大数据存储技术产品

访客:13111  发表于:2017-03-09 09:09:55

如何创建一个适用于多样数据类型,并可扩展的敏捷数据平台?答案就在数据湖中!

技术和软件的进步使我们能够处理和分析大量数据。虽然很明显,大数据是一个企业投入了大量资金的热门话题,但要注意,除了考虑数据规模,我们还需要考虑到被分析数据类型的多样性。数据种类不同意味着数据集可以存储在许多格式和存储系统中,每个类型都有自己的特征。

考虑数据多样性是一项艰巨的任务,但有一种方法可以使你360度全面了解你的客户,提供商和运营商。为了实现这种方法,我们需要实现下一代大数据架构。接下来,我们来看一下如何构建下一代大数据架构。

如今,较具前瞻性的企业都越来越依赖数据湖。数据湖是管理事务数据库,同时,数据湖也可以看做是一个大数据分析平台。数据湖支持不同来源的数据,如文件,点击流,IoT传感器数据,社交网络数据和SaaS应用程序数据。

数据湖的核心原则是存储原始的,未经改变的数据。这让数据分析和探索更具有灵活性,并且还允许查询和算法基于历史和当前数据,而不是基于单个时间点的快照来演变。数据湖可将数据集中到一个公共存储库中,以此避免信息孤岛。该存储库很可能分布在许多物理机上,但最终将为用户提供透明访问和基础分布式存储的统一视图。此外,数据不仅是分布式的而且是复制的,因此可以确保数据的易访问和可用性。

数据湖存储所有类型的数据,包括结构化和非结构化数据,并通过整个企业的统一视图提供民主化访问。通过这种方法,用户可以在单个平台支持许多不同的数据源和数据类型。数据库加强了企业现有的IT基础架构,与传统应用程序集成,增强(甚至替换)企业数据仓库(EDW)环境,并可利用日益增长的数据种类和数据量为新应用程序提供支持。

能够存储不同类型的数据是数据湖的一个重要特征,这保证了用户不会丢弃任何有价值的元数据或原属性,不同的数据分析技术也可用于数据的各阶段,避免了仅在其被聚合或变换之后才处理数据而产生的限制。创建可以使用不同算法查询的统一存储库,包括传统EDW环境范围之外的SQL备选方案,是数据湖的标志和大数据战略的基本部分。

为了实现数据湖的最大价值,必须保证数据的质量和可靠性——即确保数据湖可以恰当地反映公司业务。可以轻松访问,让用户能够更快识别他们想要使用的数据。为了管理数据湖,关键是具有清理,保护和操作数据的流程。

构建数据湖不是一个简单的过程,必须决定采集哪些数据,以及如何组织和编目数据。虽然它不是一个自动化的过程,但有相应的工具和产品来简化企业级现代数据湖架构的创建和管理。这些工具允许提取不同类型的数据包括流,结构化和非结构化,所有这些都为敏捷数据湖平台的创建打下了基础。

来源;51cto

评论(0)

您可以在评论框内@您的好友一起参与讨论!

--> --> -->
<--script type="text/javascript">BAIDU_CLB_fillSlot("927898");