大数据可能是大忽悠

标签:大数据

访客:18299  发表于:2014-08-26 15:12:16

大数据也可能是“大忽悠”。最近对Google Flu Trends(流感趋势)的一些研究正好佐证了这一点。

说到Google Flu Trends,首先必须先提一提Google Trends和Google Correlate。Google Trends利用对用户搜索的大数据分析来获得人类某些活动的趋势,只要在Google Trends上输入某些查询关键字即可返回相关活动的数据序列。而Google Correlate则是输入数据序列可返回一组结果呈类似模式(相关性)的查询,有点类似于Google Trends的反函数。

Google Flu Trends是Google Trends最早也是最知名的应用之一。鉴于很多人患流感是往往会上Google查询了解疾病情况和用药,因此Google发现这种查询与流感爆发存在着某种相关关系。Google Trends曾经有过多次对流感的成功预测,包括2011/12年的美国流感、2007/08年瑞士流感、2005/06年德国流感、2007/08比利时流感等,其及时性甚至要比美国疾病预防控制中心还要高。

这显示出了搜索“流感”与流感爆发的相关性。

另一个例子是“宿醉”。比方说在Google Trends输入“hangover(宿醉)”,你会发现这种情况在周六开始冒头,然后周日到达巅峰,而到了周一则急剧下降。这种模式与输入“伏特加”的查询结果类似(滞后一天)。

但是数据越大未必就能带来更高的预测率。甚至还会带来“假规律”和“伪相关”。比方说,搜索2004至2012年间的美国汽车销售与“印度餐馆”,结果发现二者之间竟然存在相关关系。这个东西显然是无法解释的。

伪相关的原因是什么呢?

首先,相关性并不意味着因果关系。比方说,Google Flu Trends对趋势的预测并非屡试不爽。有几次Google Trends就严重高估了流感病例的数量,包括2011/12的美国流感,2008/09瑞士流感,2008/09德国流感、2008/09比利时流感等。

英国伦敦大学学院的研究人员对此进行了研究。结果发现,到Google搜索“流感”的人可以分成两类,一类是感冒患者,一类是跟风搜索者(可能是因为媒体报道而对感冒话题感兴趣者)。

显然第一类人的数据才是有用的。其搜索是内部产生的,独立于外界的。因此这些人的搜索模式应该与受到外界影响而进行搜索的人的模式不同。而正是第二类人的社会化搜索使得Google Flu Trends的预测失真。这正是因为Google Flu Trends把搜索“流感”与得流感的相关性当成了因果关系所致。

而稍早前美国东北大学与哈佛大学的研究人员对Google Flu Trends的失真案例进行的另一组研究则认为,这反映出了热炒大数据的氛围下诞生的一股大数据自大思潮。这股思潮认为,大数据完全可以取代传统的数据收集方法。其最大问题在于,绝大多数大数据与经过严谨科学试验和采样设计得到的数据之间存在很大的不同。首先,大未必全;其次,大则可能鱼龙混杂。

此外,Google搜索算法本身的变化也有可能影响到Google Flu Trends的结果。这个原因不难理解。要知道,Google搜索的调整非常频繁,单去年就进行了890项改进。其中就有不少属于算法的调整。媒体对于流感流行的报道会增加与流感相关的词汇的搜索次数,也会令Google增加相关搜索的推荐。从而令一些本身并不感冒的人也对流感产生了兴趣,进而把数据弄脏。

如何清洗数据呢?归根到底还是需要对数据进行模式分析。在流感趋势这个例子,研究人员认为,执行独立搜索的患流感人群的模式会随着时间推移而异于社会化搜索。其表现应该是在流感爆发时搜索急剧攀升,然后随着流感消失而缓慢下降。相反,社会化搜索则会表现得更为匀称。数据表明,在Google流感趋势出现高估的时候,趋势曲线的对称性的确更高。

这说明在分析大数据时必须要注意此类陷阱。充斥的大数据集以及统计学家对分析结果的传播会令真实的数据被放大或弄脏。

正如《The Parable of Google Flu: Traps in Big Data Analysis》的作者所认为那样,数据的价值并不仅仅体现在其“大小”上。利用创新性数据分析方法去分析数据才是本质。

当然,在未来数据能够逐步成为真正的大数据,并且数字世界与实体世界的映射趋于一致时,大数据也许就能发挥其完全的威力,乃至于改变我们解决问题的方式。

[来源:36Kr]

评论(0)

您可以在评论框内@您的好友一起参与讨论!

<--script type="text/javascript">BAIDU_CLB_fillSlot("927898");