事实上,大数据无需白手起家

标签:大数据HadoopBI数据架构

访客:25458  发表于:2014-04-03 14:14:01

(本文来自大数据圈,查看更多精彩内容,请您加入! http://www.cio.com.cn/group/home/23)

是时候从更高的视角来看待大数据了。大数据以及数据科学还在持续升温,如何更好地利用大数据隐含的价值成为焦点话题。然而在不知不觉中,我们所关注的范围变得越来越窄,比如如何存储海量数据,如何用新的方式来分析数据,我们只关注技术而忽视了大数据以及数据科学在业务语境中所起到的作用。

事实上,大数据无需白手起家

如果想让大数据和数据科学为我们更好地服务,我们就需要更广阔的视角,比如:

大数据就只是数据而已,要处理好所有的数据,什么样的技术是最佳的技术?

大数据只是拼图游戏的一部分,要最终得到完美的图画,需要我们思考如何将大数据与现有分析系统紧密集成,从而得到最大产出。

大数据需要融入业务才能改善业务,我们如何才能利用大数据创造更好的产品与服务?

真假大数据

对大数据的狭隘思维主要来自于错误的判断。在技术方面,由于出现了包括Hadoop、NoSQL在内的许多新一代大数据技术,于是人们开始认为,只要有了这些技术就可以让数据管理变得简单许多。还有一部分人认为,要利用这些新技术就必须把原有的技术抛开,重新打造一个系统。

人们总是喜欢这样孤立地思考大数据问题,就比如说数据科学家。前两年有这样一种说法,即数据科学家是21世纪最性感的职业,就好像企业需要这么一个神奇的炼金术师,把纷繁复杂的信息提炼成价值连城的金块。事实上,无论是数据科学家还是数据科学团队都不可以独立于其他部门而自立门户,因为要充分理解业务,他们就必须与企业其他部门的员工形成良性互动。

大数据以及数据科学需要渐进式的发展,无论新的技术还是新的流程,都要先融入到已有的系统当中。也就是说,推倒重来的做法是绝对错误的,我们需要通过新的技术与方法来不断改进现有的分析模型,随着数据的持续增长来丰富这些模型。

对于大数据,你需要认识到以下几点事实,真假大数据就蕴含其中:


●与传统数据不同,新类型的数据有着多种多样的结构,同时它的数据量是前所未有的

●大数据中所包含的“信号”是非常少的,更多的是“噪声”。可以想象,销售数据中所包含的价值是很大的,然而即使是上PB级的点击流数据也不一定能够提炼出这么大的价值。

●新一代的技术需要更好的算法才能提供消费者行为模式的洞察

●像Hadoop这样的新系统有着强大的存储和处理能力,它为我们应对大规模数据打开了新的思路

●更快的数据发现技术能让分析团队在大数据中找到所要的信号

●数据科学家和首席数据官需要具备数据分析,软件开发,统计学以及交互设计等多种能力



大数据无需白手起家

新的能力并不意味着我们要按下重启键然后重新来过,我们仍然需要从企业应用系统中获取数据然后为业务构建一个完整的结构化模型。我们需要将信息作为资产妥善管理起来。我们需要控制数据的访问来保护隐私并确保合规。我们也需要让人们能够尽可能多地对想要的数据进行探索。

换句话说,大数据和数据科学家并不意味着我们要抛弃已经建立起来的商业智能系统和规范。我们已经知道如何把工作做得更好,现在只是在这一基础上添加一些新的能力而已。

然而只有少数公司能满足自身使用数据的状况,只有三分之一不到的员工会用到BI工具。这其实还有很大的提升空间,启动一个大数据项目也不会立马清除用户利用数据的障碍。为了能够取得进展,我们需要试着回答两个问题:


●我们如何利用新能力,把它们添加到已有系统中,然后创建新一代的数据架构?

●我们如何引导围绕在大数据周围的能量,然后实现真正的企业文化转型?



对于大数据狭隘的思维总会忽略上面的两个问题。我们需谨记,大数据并不是一门技术那么简单,它有自己的概念(3个V),有独特的用例,有自身的架构,也有专门的人(数据科学家)来处理数据。大数据并不是一项运动,也不是企业内部根深蒂固的思维,它代表的东西更多,我们需要站在更高的角度来看待大数据。

评论(0)

您可以在评论框内@您的好友一起参与讨论!

<--script type="text/javascript">BAIDU_CLB_fillSlot("927898");