文档章节

为什么飓风一来,人们都要买蛋挞?大数据时代要转变思维

 数据分析师
发布于 2015/04/20 10:18
字数 1937
阅读 15
收藏 0

1. 分析所有数据,而非少量数据

至今为止,人们搜集数据的能力有限,因此采用的是“随机采样分析”。

例如,要想知道中国顾客都联想笔记本的满意度,不可能对所有买了联想笔记本的人做问卷调查。通常的做法是随机找1000个人,用这1000个人的满意度来代表所有人的。

为了使结果尽可能准确,我们会设计尽可能精确的问卷,并使样本足够随机。

这就是“小数据时代”的做法,在不可能搜集全部数据的情况下,随机采样分析在各领域取得了巨大的成功。

但是,随机采样有三个问题:

依赖随机性,而随机性很难做到。例如,使用固定电话随机打给1000户人家,这样也是缺乏随机性的,因为没有考虑到年轻人都使用手机的情况。远看不错,一旦聚焦到某一点,就模糊了。例如,我们用1000个人来代表全国,这1000个人是随机从全国选取的。但是,如果用此结果来判断西藏的满意度,却是缺乏精确的。也就是说,分析结果不能适用于局部。采样的结果只能回答你事先设计好的问题,不能回答你突然意识到的问题。

在”大数据时代“,样本=总体

如今,我们已经有能力搜集到全面而完整的数据。大数据是建立在掌握所有数据、至少是尽可能多的数据的基础上的。

    2. 追求混杂性,而非精确性

在 “小数据”时代,最重要的就是减少测量的错误,因为收集的信息较少,所以必须保证记录尽可能精确,否则细微的错误会被放大。为了精确,科学家必须优化测量 的工具。现代科学就是这么发展过来的,物理学家开尔文(温度的国际单位)说:“测量就是认知”。很多优秀的科学工作者必须要能准确收集和管理数据。

在“大数据”时代,使用所有数据变为可能,且通常是上万亿个数据,要保证每一个数据的精确性是不可想象的,混杂性不可避免。但是,当数据量足够大时,混乱不一定会带来不好的结果。并且,由于放松了容错的标准,所能搜集的数据多了起来,还可以利用这些数据来做更多的事。举一个例子:

要测一个葡萄园的温度,如果只有一个温度计,那必须保证这个测量仪精确且能一直工作。但是如果每100棵葡萄树就有一个测量仪,则虽然有些测量数据是错误的,但是所有数据合起来却能得到一个更准确的结果。

因此,“大数据"通常用概率说话,而不是板着”确凿无疑“的面孔。”大数据“时代要求我们重新审视精确性的优劣。由于数据量太大,我们不再期待精确经,也无法实现精确性。

在 图书馆我们可以看到,所有的书都被分类,例如,要找一本C语言的书籍,必须先找到”工科“分类,然后再找到”计算机“分类,再根据编号(类似于 803.53x)找到需要的书籍,这是传统的方法。如果图书馆的书少,可以这么检索,如果有1亿本呢?10亿本呢?网络上的数据可远非图书馆的藏书量可 比,动则数十亿,如果使用清晰的分类,那么不仅分类的人会疯,查询的人也会疯。因此,现在互联网上广泛使用”标签“,通过标签来检索图片、视频、音乐等。 当然,有时人们会错标标签,这让习惯精确性的人很痛苦,但是,接受”混乱“给我们带来了两个好处:

由于拥有了远比”分类"数量多得多的标签,我们能够获得更多的内容。可以通过标签组合来过滤内容。

例 如,如果我们要检索“徐长卿”。“徐长卿”至少有三种身份:是一种中草药,是命名草药的人的名字,是仙剑3的主人公之一。如果按照传统分类法,可能“徐长 卿”会被分到“中草药”类里,这还取决于分类的人。那么查询的人就不会知道它还有另外两重身份,或者只想查“徐长卿"这个人的人根本就不会到”中草药“类 里查询。但是,如果使用”标签“,那么输入”徐长卿“+”草药“,即可查到草药;输入”徐长卿“+”仙剑3“即可查到游戏的主人公。

因此,使用”标签“代替”分类“,虽然有很多不精确的数据,但是却得到了大量标签,使得检索更方便,得到的结果更好了。

   3. 关注相关关系,而非因果关系

知道”是什么“就够了,没有必要知道”为什么“,要让数据自己”发声“。来看一个例子:

沃尔玛是世界上最大的零售商,掌握了大量的零售数据。通过分析,沃尔玛发现,每当季节性飓风来临之前,不仅手电筒销售量增加了,而且蛋挞的销量也增加了。因此,当季节性暴风来临时,沃尔玛会把库存的蛋挞放在靠近飓风用品的位置,以方便顾客。

看到这里,一个马上有人问”为什么飓风一来,人们都要买蛋挞“?

你问”为什么“,说明你注重的是因果关系。而这个“因”,可能是极难分析、且复杂的,而且即便研究出来,意义真的很大吗?对沃尔玛来说,只要知道“飓风来了,快摆蛋挞,准备大赚一笔”就行了,这就是注重的相关关系。

飓风与蛋挞有关,OK,行了,还能赚钱,太好了。为什么?不管,反正有关。

这也是大数据时代需要转变的思维,即关注相关关系,而非因果关系。

通过探求”是什么“,而非”为什么“,能够帮助我们更好地理解世界。但是,由于因果关系在我们的思维中根深蒂固,而且有时会臆想出一些因果关系,反而带来了错误的认知。例如:

父母经常告诉孩子,天冷时不带帽子和手套就会感冒。然而,研究表明,感冒和穿戴之间没有直接的联系。在某餐馆吃饭后,晚上肚子疼,我们会想到原因是餐馆的食物有问题。实际上很可能是和某人握手,或饭前没有洗手的关系。

相关关系能给我们分析问题提供新的视角,我们不需要事事去探究为什么,并且,它使我们相信,不探究”为什么“也是合理的。

但是,并不是说因果关系就应该完全摒弃,而是要灵活地以相关关系的立场来思考问题。

--------------------------------------------------------------------------------------------------------------------------------

了解更多商业智能行业资讯,商业智能解决方案以及商业智能软件下载请访问FineBI商业智能官网www.finebi.com

或扫一扫,关注“FineBI专业商业智能解决方案”(微信号:fine_bi

关于数据分析的那些事 - IBFINER - 商业智能

© 著作权归作者所有

共有 人打赏支持
粉丝 30
博文 1645
码字总数 2338861
作品 0
邢台
私信 提问
大数据时代政府宏观调控的思维模式

政府作为宏观调控的行为主体,其选择行为在受到动机、偏好、认知和效用期望等内生规定的同时,也会在一定程度上受科技进步及其实施手段的影响。大数据、人工智能和互联网或物联网等的发展,正...

技术小能手
08/09
0
0
支付宝账单刷屏,我们的隐私是否已被大数据出卖?

     书目治疗师:   新年伊始,我的朋友圈被网易云音乐的年度报告和支付宝的年度账单刷屏了。我承认,看到大家都在“秀晒炫”,我也忍不住好奇去查看属于我的年度总结。一方面,我依赖...

大数据头条
01/11
0
0
互联网人必读 | 大数据思维的十大核心原理

大数据思维是客观存在,大数据思维是新的思维观。用大数据思维方式思考问题,解决问题是当下企业潮流。大数据思维开启了一次重大的时代转型。 大数据思维原理是什么?笔者概括为10项原理。 一...

勿忘初心321
2016/08/24
18
0
脸谱中国310互联网+新资本商业模式会议总论

为什么要使用刷脸? 为什么有了微信还要使用刷脸? 为什么有了淘宝还要使用刷脸? 带着这三个问题,脸谱中国董事长郑建武面对台下800家分公司老板展开了一场社群经济的探索之路。这位说话行事...

脸谱中国-Bestface
2016/03/14
0
0
信息爆炸时代,为什么你必须要读书

周末读了这本小书《深阅读:信息爆炸时代我们如何读书》,作者是日本明治大学文学部教授,还著有《学会学习》《提问力》等著作。 作品的特色是浅显易懂、娓娓道来,说出来的都是平常话,同时...

竹说
12/10
0
0

没有更多内容

加载失败,请刷新页面

加载更多

TensorFlow的基础概念02

TensorFlow的计算流图 import osos.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'#TensorFlow的计算模型,数据流图'''TensorFlow = Tensor + FlowTensor 张量 数据结构:多维数组Flo...

怪咖先生forever
16分钟前
1
0
大数据技术的发展趋势

大数据领域已经涌现出了大量新的技术,它们成为大数据采集、存储、处理和呈现的有力武器。这些技术下一步将如何发展?它们之中哪些技术将广为流行?又会诞生哪些新的技术? 技术趋向多样化,...

董黎明
31分钟前
7
0
藏在正则表达式里的陷阱

前几天线上一个项目监控信息突然报告异常,上到机器上后查看相关资源的使用情况,发现 CPU 利用率将近 100%。通过 Java 自带的线程 Dump 工具,我们导出了出问题的堆栈信息。 我们可以看到所...

前端小攻略
33分钟前
3
0
关联更新,关联查询

关联更新 update A,B SET A.c1=B.c1,A.c2=B.c2 where A.id=B.id and ... update A inner join on A.id=B.id set A.c1=B.c1,A.c2=B.c2 where... 关联查询 交叉连接(cross join),内连接(inner ......

关元
37分钟前
3
0
django的环境搭建及启用

Pycharm社区版不像商业版那样可以直接创建django工程,需要通过一下步骤创建: 新建一个用于Django开发的虚拟环境 打开命令窗口 新建虚拟环境: conda create -n env_name python=3.6 查看系...

davidwbnu
37分钟前
4
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部