大数据,统计学
大数据时代下统计学有何意义

大数据时代下统计学有何意义1. 引言1.1 大数据时代的背景在当今数字化时代,大数据已经成为我们生活和工作中不可或缺的一部分。
随着互联网的迅速发展和物联网技术的普及,各行各业都在不断产生海量的数据,这些数据以前所未有的速度增长和积累。
大数据时代的背景可以说是信息爆炸,数据爆炸,让我们面临着巨大的数据量和复杂性。
在大数据时代,统计学与机器学习、人工智能等新兴科技相互融合,共同推动了数据科学的发展。
统计学在数据清洗和预处理中的应用,以及在数据可视化和解释中的重要性,也凸显了其在大数据时代的重要作用。
随着大数据的不断增长和发展,统计学在大数据时代的意义也愈发重要,不可替代。
1.2 统计学在大数据时代的作用统计学在大数据时代扮演着至关重要的角色。
随着数据量不断增加和信息的急剧膨胀,统计学通过其丰富的理论和方法为大数据的解读和分析提供了基础。
统计学的主要任务是利用数据来描述事物的规律和特征,通过概括现实世界中的随机现象,揭示数据背后的规律性。
在大数据时代,统计学可以帮助人们从海量数据中提取有效信息,发现隐藏的规律和关联,进行数据的有效管理和分析。
统计学还在数据的清洗和预处理中发挥着关键作用。
在实际应用中,大数据往往存在着缺失值、异常值和噪声等问题,而统计学可以运用其方法来解决这些问题,保证数据的质量和准确性。
统计学的技术和工具可以帮助对数据进行清洗、处理和转化,使数据更具可信度和应用价值。
统计学在大数据时代的作用不可低估,它为数据的概括、分析和解读提供了基础,帮助人们更好地理解和利用大数据。
统计学的发展将对大数据时代产生深远影响,推动数据科学的发展,为人类社会的发展和进步提供有力支持。
2. 正文2.1 统计学对数据的概括和分析统计学对数据的概括和分析是大数据时代中至关重要的一环。
通过统计学的方法和技术,我们可以对海量的数据进行概括和分析,从中挖掘出有用的信息和规律。
统计学帮助我们理解数据中的趋势和关联,帮助我们更好地理解数据背后的故事。
大数据和统计学的关系

大数据和统计学的关系大数据和统计学是当今科技领域中两个备受瞩目的概念,它们在数据分析和决策支持方面扮演着重要的角色。
本文将探讨大数据和统计学之间的密切关系,并阐述它们互相融合所带来的巨大潜力。
一、大数据的定义与特点大数据是指规模庞大、结构复杂、处理速度快的数据集合。
与传统的数据处理方法相比,大数据具有以下三个特点:1. 体量巨大:大数据集合往往以TB、PB、甚至EB为单位计量,如社交媒体中的用户行为数据、金融行业的交易数据等。
2. 多样性:大数据包含多种类型的数据,如结构化数据、半结构化数据和非结构化数据。
3. 高速度:大数据的生成速度非常快,如物联网设备、传感器和移动设备的数据持续不断地产生。
二、大数据对数据分析的挑战由于大数据的特点,传统的数据分析方法逐渐显露出局限性。
大数据的处理要求更高效的存储和计算能力,传统的数据处理工具往往无法胜任。
此外,大数据的高维度、异构性和时序性带来了数据质量、时间效率和隐私安全等方面的挑战。
三、统计学在大数据中的应用统计学是一门与数据收集、分析、解释和决策等紧密相关的学科,为大数据的分析和挖掘提供了重要的理论基础和方法工具。
1. 数据预处理:在大数据处理过程中,数据质量往往是不可忽视的重要问题。
统计学方法可以帮助我们识别和处理异常值、缺失值、重复值等数据质量问题,提高数据的准确性和完整性。
2. 数据探索和可视化:统计学方法可以通过数据统计分析、描述性统计和可视化技术揭示大数据之中的隐藏模式和关联性。
通过这些分析手段,可以更好地理解和解释大数据背后的趋势和规律。
3. 数据建模与预测:统计学方法可以利用大数据集合进行建模和预测。
根据数据的特点和背后的假设,可以选择合适的统计模型,通过参数估计和假设检验等方法揭示数据之间的内在关系并进行预测。
四、大数据对统计学的挑战与传统的小样本数据相比,大数据的广泛应用也对统计学提出了新的挑战:1. 统计理论:大数据的高维度和复杂性需要发展新的统计理论,以更好地适应大数据的特点。
统计学在大数据时代的新挑战有哪些

统计学在大数据时代的新挑战有哪些在当今数字化、信息化飞速发展的时代,大数据已经成为了我们生活和工作中不可或缺的一部分。
从社交媒体的信息流到电子商务的交易记录,从医疗健康的病历数据到科学研究的观测结果,数据的规模和复杂性呈爆炸式增长。
而统计学作为一门研究数据收集、整理、分析和解释的学科,在这个大数据时代面临着前所未有的新挑战。
首先,数据的规模和多样性是统计学面临的一大挑战。
传统的统计学方法通常适用于相对较小、结构清晰的数据样本。
然而,在大数据环境中,数据的规模可能达到数十亿甚至更多的记录,而且数据的来源和类型极其多样,包括结构化数据(如数据库中的表格)、半结构化数据(如 XML 和 JSON 格式的数据)以及非结构化数据(如文本、图像、音频和视频)。
处理如此大规模和多样化的数据,需要新的算法和技术来有效地存储、管理和分析。
例如,对于海量的文本数据,传统的统计分析方法可能难以直接应用。
需要运用自然语言处理技术将文本转化为可量化的特征,然后再进行统计分析。
而对于图像和视频数据,如何提取有意义的特征并进行统计建模也是一个难题。
此外,不同来源和类型的数据可能存在质量参差不齐、缺失值、异常值等问题,这增加了数据预处理的难度和复杂性。
其次,数据的产生速度也是一个重要的挑战。
在大数据时代,数据的生成速度非常快,实时数据处理成为了常见的需求。
例如,金融交易中的高频数据、社交媒体上的实时信息流、物联网设备产生的连续监测数据等。
传统的统计学方法往往是基于批处理的模式,难以满足实时处理的要求。
为了应对这一挑战,需要开发新的流式计算和实时分析技术。
这些技术能够在数据不断流入的过程中进行快速的处理和分析,及时提供有价值的信息。
同时,还需要考虑如何在有限的计算资源和时间内做出准确的决策,这对算法的效率和精度提出了更高的要求。
再者,数据的相关性和复杂性也是统计学需要应对的难题。
大数据中往往存在着复杂的相关性和依赖关系,不再是简单的线性关系或独立分布。
大数据与统计学课件

02
隐私保护算法
开发和应用隐私保护算法是解决数据安全与隐私保护问题的关键。这些
算法可以在不泄露个体数据的前提下进行数据分析,从而保护个人隐私
。
03
法律法规制定
政府应制定相关法律法规,明确数据安全和隐私保护的标准和要求,对
违反规定的行为进行严厉打击,为大数据和统计学的应用提供法律保证
。
数据质量与误差控制
数据清洗
在大数据应用中,数据清洗是一项重要的任务。通过数据清洗,可以去除重复、错误或不完整的数据,提高数据质量 ,为后续的数据分析提供准确的基础。
误差来源辨认
在数据分析过程中,误差来源的辨认和控制是至关重要的。通过对误差来源的深入分析,可以采取相应的措施来减小 或消除误差,提高数据分析的准确性和可靠性。
数据可视化
利用大数据可视化技术将预测结果以直观的方式呈现出来,例如图 表、外表板等,以帮助用户更好地理解和分析数据。
大数据在决策支持中的应用
决策支持系统
01
利用大数据构建决策支持系统,以帮助决策者进行科学决策和
制定战略计划。
数据驱动决策
02
通过大数据分析提供数据驱动的决策根据,以支持决策者做出
更加科学、公道和有效的决策。
大数据在医疗健康领域的应用
总结词:医疗健康领域通过大数据分析 可以改良医疗服务、提高疾病预防和治 疗效果。
健康管理:通过收集和分析个人健康数 据,大数据可以帮助个人更好地管理自 己的健康状况,提高生活质量。
流行病预测:通过对历史病例数据和流 行病趋势的分析,大数据可以帮助公共 卫生机构预测和预防流行病的爆发。
实时监测与调整
03
利用大数据对决策执行过程进行实时监测和调整,以确保决策
大数据与统计学的关系

大数据与统计学的关系班级:2013212101学号:2013212296姓名:郑梦圆近年来,大数据这一概念越来越多的被提及,与大数据有关的相关内容和学科也逐渐走俏。
大数据作为信息技术发展到成熟阶段的产物,并不是想象中的那么神秘,分析大数据与统计学的关系,首先要从大数据是什么入手。
借用百度百科的定义,大数据(Big Data)是指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合。
这一定义主要是强调了大数据的技术特点,强调大数据的数量特征以及难以用常规方法进行捕捉和衡量。
而在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》一书中,大数据指不用随机分析法(抽样调查)这样的捷径,而采用所有数据进行分析处理。
书中还指出了大数据的4V特点,即Volume(大量)、Velocity(高速)、Variety(多样)、Value(价值)。
这一定义则是从大数据的来源上对其进行了定义,它强调了大数据来自于采用所有数据进行分析处理,这一来源又决定了大数据的4V特性,这一特性可以理解为大量数据,高速处理,结果多样化,从数据中挖掘价值。
研究机构Gartner给出了这样的定义。
“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
另一方面,从统计学的定义来看,统计学是通过搜索、整理、分析、描述数据等手段,以达到推断所测对象的本质,甚至预测对象未来的一门综合性科学。
其中用到了大量的数学及其它学科的专业知识,它的使用范围几乎覆盖了社会科学和自然科学的各个领域。
统计学的基础是数据,传统的数据收集方法主要包括实验数据、调查数据以及各种途径收集到的二手数据。
而在长期的实践过程中,采用传统收集方法得到的数据大多存在误差,样本的客观性难以保证,样本选取也可能对结果产生影响,因此传统的数据收集方法不能再适应统计学发展的需要。
从这种意义上来说,大数据的出现可以说是科学发展的必然。
大数据与统计学的关系

大数据与统计学的关系在现代科技的发展中,大数据和统计学成为了两个重要的领域。
大数据是指利用计算机等技术来处理海量甚至无法被人类手动处理的数据,从而获得有价值的分析结果和业务智能。
而统计学则是利用数理方法对数据进行分析和推理的学科,经常被用于从数据中提取信息和预测未来的趋势。
大数据和统计学有着密不可分的联系,它们相辅相成,彼此促进。
首先,大数据需要统计学的支持和指南。
在大数据处理过程中,需要对海量数据进行分类、过滤和分析,这就需要有统计学的帮助。
统计学提供了很多有效的方法和技术,如概率论、数理统计、假设检验等,能够帮助人们更好地理解和解释数据。
例如,我们可以利用统计学方法找到数据中的规律和异常,挖掘出数据中的规律和趋势,从而更好地实现业务目标。
其次,统计学也需要大数据的支持。
在过去的统计学实践过程中,通常是根据小样本数据构建模型和估计参数,但这种方法很难对真实世界中的复杂数据进行适当的建模。
而现在,有了大数据的支持,我们可以更好地利用海量数据来研究问题,获得更加准确的结果。
例如,我们可以利用大量的数据来研究人口分布、消费趋势、市场需求等问题,从而能够为决策者提供更加有信服力的分析结论。
此外,大数据也为统计学的发展提供了新的机遇和挑战。
传统的统计学往往采用频率论的观点来研究问题,而在大数据环境下,需要更加注重机器学习、模式识别和预测分析等方法。
例如,在互联网营销领域,我们需要利用大量的数据来预测用户行为、推荐产品等,在这个过程中,我们需要通过数据挖掘等技术来获取有价值的信息。
综上所述,大数据和统计学具有密不可分的联系,它们强烈相互依存。
在未来,我们需要更加深入地研究大数据和统计学之间的关系,以便更好地利用这两个领域的优势,带来更加准确和有效的分析结果。
大数据管理与应用和统计学

大数据管理与应用(Big Data Management and Applications)和统计学(Statistics)是两个相关且相互补充的领域。
它们在处理和分析大规模数据集方面发挥着重要作用,但侧重点和方法略有不同。
大数据管理与应用关注如何有效地存储、处理和管理大规模的数据集,以从中获取有价值的信息和洞察。
它涉及数据的收集、存储、清洗、整合和处理等方面。
该领域的技术和工具包括大数据存储系统(如分布式文件系统和数据库)、数据处理框架(如Hadoop和Spark)以及数据挖掘和机器学习算法等。
大数据管理与应用的目标是从大数据中发现模式、趋势和关联,为决策和业务提供支持。
统计学是一门研究收集、整理、分析和解释数据的学科。
统计学提供了一系列的方法和技术,用于描述和总结数据、进行推断和预测,并进行决策和推断的支持。
统计学涉及概率论、抽样方法、假设检验、回归分析等统计方法。
在大数据管理与应用中,统计学的方法可以用来分析和解释大规模数据集中的模式和关系,提供数据驱动的见解和预测。
大数据管理与应用侧重于数据的收集、存储和处理,以及从中提取有用的信息,而统计学则关注数据的分析、解释和推断。
它们共同构成了处理和应用大数据的综合方法,为数据驱动的决策和洞察提供支持。
浅谈大数据时代统计学的挑战与机遇

浅谈大数据时代统计学的挑战与机遇随着互联网技术的迅猛发展,大数据时代已经来临。
大数据不仅仅是指数量庞大的数据集合,更重要的是通过对这些数据的收集、存储和分析,可以帮助人们深入了解客观事物的真实状态、规律和趋势。
在大数据时代,统计学发挥着重要的作用,帮助人们从海量的数据中提取有用的信息,为决策提供依据。
大数据时代也给统计学带来了一些挑战和机遇。
大数据时代给统计学带来的挑战之一是数据的量级和速度增加。
随着互联网和物联网的普及,人们不仅可以通过电脑、手机等设备进行网上购物和生活,各种传感器也可以收集到大量与人类活动相关的数据。
这些数据量大、速度快、多样性强,远远超过了人们传统的数据处理能力。
统计学需要面对这一挑战,提供高效的数据处理和分析方法,以便从大数据中发现有价值的信息。
大数据时代给统计学带来的挑战之二是数据的质量问题。
大数据中常常存在着数据质量低下、数据误差较大的问题。
互联网上的评论和评分往往存在虚假的情况;传感器收集的数据也可能受到环境和技术因素的干扰。
统计学需要解决这些问题,提出有效的数据过滤和纠错方法,确保数据的质量,从而得到准确可靠的分析结果。
大数据时代给统计学带来的挑战之三是隐私保护和数据安全问题。
在大数据时代,人们的个人信息往往被大量收集和使用,个人隐私面临泄露和滥用的风险。
大数据的存储和传输也存在着数据安全的问题,一旦数据遭到恶意攻击,将会造成严重的损失。
统计学需要关注这些问题,提出合理的隐私保护策略和数据安全措施,保障个人隐私和数据的安全性。
大数据时代中也存在着统计学的机遇。
大数据时代给统计学提供了更多的数据资源。
相比过去,统计学家可以更方便地获取到海量的数据,从而有机会挖掘出更多潜在的规律和趋势。
这将为统计学的发展提供更多的材料和基础。
大数据时代给统计学带来了分析方法的革新。
传统的统计学方法往往面临着数据量过大、速度过快、多样性强的问题,难以适应大数据时代的需求。
统计学家们需要创新性地提出新的数据分析方法,以适应大数据时代的需求。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
大数据时代需要重视统计学我们现在要开始重视大数据,要重视统计学,因为在数据足够大了之后,我们突然发现一切社会现象到最后都有统计规律,它不像物理学那样可以准确的去描述因果的关系,它从本质上来说就是一个统计的规律。
统计学学好了,你再去学别的都战无不胜,因为一切社会现象到最后都是一个统计规律。
为什么要强调统计学呢,因为我们的认知能力中最差的是统计思维。
人的大脑有一些功能优良得超过我们的想象,比如我们的语言能力。
著名的语言学家乔姆斯基曾说,其实语言不是你学来的,语言是你天生就会的,因为语言太复杂了,要是从出生再学语言根本学不会,等你出生的时候,你的大脑里头已经预装了一套操作系统,语言的操作系统。
所以语言我们是天生就会的。
还有,比如我们察言观色的能力,也是天生就会的。
但有,一些是我们不会的。
一位得诺贝尔经济学的心理学家写过一本书,《思考快与慢》。
里面就讲到,我们有很多思维是靠直觉的快思维,这是我们几万年、几十万年、几百万年的自然演化,然后给我们留下来的,就是第六感觉。
当你觉得可能有危险的时候,你就会跑掉。
但是呢,我们另外一套操作系统是用来做逻辑推理以及进行统计分析的,装得很烂,所以我们天生缺的是逻辑推理能力和统计思维能力。
所以,在大数据的时代,我们最需要补的,其实是我们认知能力中最差的统计思维。
如果有在学校的学生,我建议统计学这门课要好好地上。
“大数据”何以成为热门词汇?为什么突然之间,大数据变成了一个最热门的词汇?首先是由于IT革命。
IT革命之后,我们有了很多处理数据的能力,对计算机数据的处理能力、存储的能力和计算的能力不断的提高。
人类储存信息量的增长速度比世界经济增长的速度要快4倍,而且这还是在金融危机爆发之前的世界经济增长的速度。
而计算机数据处理能力的增长速度,比世界经济增长的速度要快9倍。
其次,能够被数据化的东西越来越多。
最早的时候是数字可以被数据化,所以我们有了阿拉伯的计数,后来又出现了二进位,再后来我们发现文字也可以处理成数据,然后我们发现又图像也可以处理成数据。
我不知道欧美同学会《时代大讲堂》位置在哪里,我就赶紧上网查一查地图,方位也可以被数据化;你用微信、微博,跟朋友在网上交流,说明你的社会关系也会被数据化。
所以这就是为什么现在要谈大数据,因为可处理的东西太多了。
而当你能够被数据化的东西越来越多。
当你能够拿到的数据越来越多时,就跟原来不一样了。
原来的统计学得有一个抽样,因为你不可能拿到整体,因为整体太多了,而且无法去计算。
而现在,当存储能力无限扩大,处理数据的计算能力不断的进步,致使现在我们所处理的往往不是一个样本数据,而是一个整体的数据。
所以这个时候,有很多原来想都不能想的事情,现在你可以去做。
大数据时代的三个规律规律一:知其然而不必知其所以然外行打败内行我先讲一个案例就是葡萄酒。
葡萄酒怎么品酒?过去是靠品酒方面的专家。
他会先闻一闻,什么味道、什么香味,然后看看是不是挂杯,最后告诉你,这个酒大概是什么庄园的,什么年份的。
但是,当品酒师在品新酒时,因为葡萄酒真正的品质还没有形成,所以这个时候,他的鉴定是永远靠不住的。
另外,当一个品酒师的声誉越来越高时,由于要照顾到自己声誉,他不敢做大胆的判断。
普林斯顿大学有一个经济学家也很喜欢收藏葡萄酒,他就想能不能自己预测出这一年这个地方的葡萄酒的品质如何?然后他就开始去找来很多数据,最后得到了一个秘诀。
葡萄酒的品质跟跟冬天的降雨量、生长期的平均气温、收获季节的降雨量、土壤的成分等等这些因素有关。
1989年,葡萄酒刚刚下来,他说今年的葡萄酒是世纪佳酿,1990年他又做出预测,说今年的葡萄酒比1989年的更好。
连续两年说是世纪佳酿,一般的品酒师都不敢这么评,但是最后事实证明他说的完全正确。
第二个案例,怎么寻找潜在的棒球球星?著名的财经作家麦克刘易斯写的书《Moneyball》,后来拍成电影叫《点球成金》,讲到一个球队教练遇到了一个经济学家,他们用很另类的办法,实际上就是用数据,把每一个选手的场上记录拿过来,用数据去找,看谁是好的球星,这跟传统的行规完全不一样,但是后来非常成功。
我们原来讲,要知其然,还要知其所以然。
但是现在大数据时代,你可以知其然,不一定非要知其所以然。
如果你去问普林斯顿大学的教授,为什么这个酒好?到底是什么香味?酒回甘是什么?他也不知道。
但是他能够知其然,他能够做出来判断。
为什么呢,很可能是我们原来的认知里头,我们执意去要寻找一些线性的、双边的直接因果关系。
但是很可能万物之间的联系比我们想象中的要复杂,他可能是非线性的,可能是多元的。
所以出问题的不是数据,出问题的是我们原来的认知模式。
怎么办?一个办法,退而求其次,你可能要先去寻找相关关系,然后再去找是否有因果关系。
规律二:彻底的价格歧视商家比你更了解你自己有一个机构,专门做信用卡的刷卡记录。
他们攒了大量的数据之后,拿这些数据做分析,最后找到很多很奇怪的规律。
比如,你是否离婚与你信用卡上的还款记录和你驾驶车辆出车祸的概率有关系。
比如在大数据时代大家可能会听到的一个比较有名的例子,就是沃尔马最早的时候发现很多奇怪的规律,比如尿布和啤酒的销售量是有相关关系的。
这俩东西怎么会联在一起?市场调查人员最后发现,往往当有新生的小孩之后,买尿布的任务就给新爸爸。
尽管新生的宝贝的出来他的贡献也没有多少,但是他有一种自豪感,他去买了尿布时,为了庆祝,他会顺手去买啤酒。
如果你在尿布的旁边就直接摆上啤酒,啤酒的销量就会提高。
还有一个店,专门卖母婴用品的部门搜集顾客的信息去研究。
比如说研究什么时候你可能会怀孕,你可能会买更多的母婴用品,而营养品会增加,或者一些没有香味的洗发剂,最后就可以预测潜在的客户到底是谁。
所以大数据时代,动摇了我们原来的方法论。
有一个赌场,进去之后会刷卡,而你的基本信息全都在这个磁卡上面。
包括国籍、性别、年龄等等全就掌握。
他有一个庞大的数据库,可以算出每个人的痛苦点,即如果输钱超过了这个痛苦点,从此之后再也不来这个赌场。
而赌场最好的办法是在你快要达到痛苦点之前叫你住手。
所以当你快要到达那个痛苦点的时候,你的旁边就会突然出现一个年轻貌美的公关经理,说先生玩得很累了吧,要不要休息一下,我们这个赌场刚请了一个法国大厨会做非常好的法国大餐,你很幸运,你被选我们的幸运顾客,请你和太太一起去享用免费的法国大餐!很好,但你不要忘了,当你享受到你觉得物超所值的服务时,往往就是你的最后一分钱被别人榨完了!包括信用卡调整额度,很可能也是在大数据的基础之上自动调整额度。
那这个带来了一个变化。
原来经济学讲到,商家不能搞价格歧视,不是因为道义上不能,而是由于在过去商家很难对不同的顾客,进行价格歧视,你必须要定统一的价格。
但这是过去的规律,在大数据的时代,这个规律被彻底颠覆。
在大数据的时代,商家可以精准的针对每一个个体的消费者定价,把你最后的一分钱全部榨干,因为他比你自己更了解你的行为。
你都不知道你的车可能要去保养了,他就已经给你发消息;你自己都不知道,身体已经处于亚健康状态需要去旅游放松,旅行社马上就会给你打电话。
你说它怎么会这么了解我的心,大数据在帮他的忙。
会用大数据的商家都是偷心者,都会把你的心偷走,他可以精准的定价。
规律三:打破专家的信息优势病人给医生解惑那我们接着再讲一个案例,电视连续剧《豪斯医生》的医学顾问是纽约时报的一个专栏作家。
他是倡导寻证医学的一个代表人物。
寻证医学就是根据证据来治病。
过去看病时,要先研究病理学,然后再研究治疗办法,而且有很多是一代一代口传下来的。
老师告诉,维生素B12口服的效果不好,必须打针。
为什么?不知道,反正是老师的老师就这么告诉老师的。
所以你的老师也这么告诉你,你就这么再告诉你的学生。
但是后来发现,这里头有很多问题。
为什么现在医患之间的纠纷这么多?实际上医院的误诊比例非常高。
美国有一份研究称美国医院误诊比例大概是1/3,有20%的重大疾病的死亡原因是由于误诊。
为什么?因为过去完全靠经验,有很多都是主观的。
到现在来说,医学不是科学,医学研究的是复杂的生命体,所以它还没有到能够精准治病的程度。
后来,大夫开始另辟蹊径,他通过数据最后找出规律。
19世纪一个医生发现,如果医生先去了停尸房再回来给妇女接生,产妇的死亡率明显提高,而洗手之后死亡率下降,那个时候还不知道细菌和病菌。
所以当时每一个医生都要洗手。
没有哪个病理学能够告诉你洗手跟降低死亡率有关系,但是后来死亡率就大幅度下降。
所以这就是寻证依据的思路,减少医生的自主权利,也有道理。
就如坐飞机时,飞行员能不能想停就停、想起飞就起飞?不行。
飞行员其实没有多少自主权,需要严格的按照操作程序一步一步去做。
当这些所谓的专业人士的自主权被剥夺之后,你就会发现越来越安全。
所以按照大数据,医生最后发现他自己被边缘化了。
因为有了互联网,有了大数据之后,病人有时候比医生还要精。
美国有一个报道,有一个病人被推到病房里头,他有多种免疫功能紊乱,一群大夫会诊,最后都不知道到底这个病是什么。
最后,主治医生问这个病人,你觉得这个病大概是什么。
病人说我知道,我这个病就是IPEX。
你怎么知道的,他说很简单,我把症状在谷歌里一搜,马上就诊断出来了。
原来医生能够治病,是因为他的专业比你强,他信息比你多,而现在你的信息跟他一样多。
你可以拿着谷歌上打印出来的资料跟他说,“你的诊断错了,按照我在谷歌上,我应该是这个病,不是你那个病”,完全颠覆了原来信息不对称的情况,所以大数据时代的第三个规律就是打败、打破了专家的信息优势。
为什么我要一开始就跟大家讲不要信专家,因为在大数据的时代没有专家。
大数据的时代,专家可能反而会误事。
比如谷歌有一个机器翻译,一开始可能翻译的很差,但是慢慢发现他的翻译水平越来越好。
为什么?谷歌机器团队里头总结出来一个经验,说凡事当小组里解雇了一个语言学家,我们翻译的精确程度就提高了,因为语言学家老在挑毛病,最后剩下来的全部是不懂语言计算机专家和数学家的时候,没有专家在那里指手划脚。
最后的启示就是我们不能相信,我们也不能相信我们内心中的专家。
往往我们的认识模式里,对自己的能力盲目信任,往往会过分夸大自己的能力。
所以,现在有一个投资的方法,叫量化投资。
原来是价值投资:这个东西是不是物有所值,如果说它被价值低估了,你赶紧去买它,以后它价格会起来。
现在讲的是,你不用管它到底有价值没有价值,我只看它是涨还是跌。
那看什么?看量化投资。
量化投资靠什么?靠大数据。
但是量化投资到最后是谁来执行,不是靠数学天才。
数学天才的贡献是发现了一套投资方法,然后由电脑来执行。
为什么要让计算机来执行而不让人?因为一个人哪怕你心理素质再高,哪怕你智商再高,总有无知和贪婪的时候。
所以最好的办法就是,放弃自己的主动性。
大数据带来的风险:用你的隐私去赚钱大数据给我们带来的各式各样的好处,但是这里头也有很多风险。