云计算将在大数据领域扮演什么角色?

标签:云计算

访客:10727  发表于:2016-05-26 17:54:48

大数据处理和所有权导致存储行业现状发生转变。本文介绍了存储实践方面最重大的变化。


云计算将在大数据领域扮演什么角色?

企业存储环境主要是围绕记录系统构建起来的,侧重于这些问题:为数据记录长度固定的文件购买哪些类型的存储介质和管理系统,所存储数据的性质是实时数据、准实时数据,还是只是偶尔需要访问或完全可以用数据归档保存起来的批量填充的数据等。

自从大数据进入企业数据中心和业务部门,一切改变了――单个的大数据文件可以用数TB、甚至数PB来衡量。Hadoop等分析平台上的大数据并行处理与事务数据的按顺序处理有着明显区别。不出所料,存储方面要考虑的因素随之变化。

这种变化在数据分析和高性能计算领域体现得最为明显。这个领域以Hadoop应用程序为主,它们借助算法分析方法并行处理数PB级数据,用于数据科学及其他复杂查询。就高性能应用程序而言,很难考虑像虚拟化存储或基于云的存储这些概念,因为你只有通过数据中心的物理处理器和存储平台,才能直接处理并存储数据和查询结果。

因此,这种工作具有的计算密集性和存储密集性使数据中心管理人员(包括存储专业人员)不再像过去十年那样,迫切寻求的虚拟化或云计算。作为大数据对象存储特点的单一数据集的庞大性也是如此,它们使用元数据标签来描述非传统数据图像,比如照片、视频、音频记录和文档图像等。

此外,大数据项目的所有权也改变了存储计算。如果公司里面的业务部门在运行大数据项目,其目标就会转向零散的分布式物理存储架构,这些分布式物理存储是网络附加存储(NAS),可以在工作负载需要时,向外扩展到多个存储设备。分布式向外扩展型NAS是基于云的存储或虚拟存储之外的一种选择,它与这些流行的IT趋势形成了鲜明对照。

鉴于这些发展动向,云计算在大数据领域可以扮演什么角色呢?

答案是冷存储(cold storage),这个领域仍没有得到企业界的充分利用。冷存储是极其便宜、速度很慢、驻留在磁盘的数据,存储起来放到归档上,妥善保存起来。在日常的IT中,这些数据很少有机会需要用到,所以如果你把它转移到异地数据存储库很方便,不必让它在你的数据中心或运营系统中占用空间。如果该数据存储库在云端,你就能够从数据中心远程访问它,没必要大老远跑到异地拿起磁盘或磁带。

云计算和虚拟存储在数据集市也存在发展前景。现在许多公司使用数据集市为不同的部门运行批量查询。数据集市中所用的数据大多是批量创建,基本是过去用来查询的传统数据。不同之处在于,用户现在拥有比过去更多的分析报告创建工具和选项用于查询,而且数据管理员更能够生成从不同来源聚合的数据。在这种批量环境下,磁盘存储解决方案用起来就跟过去一样有效。

存储管理员需要应对大数据带来的变化,尤其是如何应对众多极其庞大的大数据文件。这就需要专门的磁盘和处理,在大多数情况下,还需要与云计算和虚拟化项目背道而驰的本地存储。在另一方面,商用冷存储解决方案可能会最终消除这个困境:很少使用的数据驻留在机房的过时磁盘和磁带驱动器上,无人照管。

评论(0)

您可以在评论框内@您的好友一起参与讨论!

<--script type="text/javascript">BAIDU_CLB_fillSlot("927898");