数据仓库与数据挖掘课件1

1.3 数据仓库和数据挖掘的结合
1.3.1 数据仓库和数据挖掘的区别与联系 1.3.2 基于数据仓库的决策支持系统 1.3.3数据仓库与商业智能
1.3.1 数据仓库和数据挖掘的区别与联系
1. 数据仓库与数据挖掘的区别
2.数据仓库与数据挖掘的关系 3.数据仓库中数据存储特点 4.数据仓库中数据挖掘特点
1.联机事务处理（OLTP）
OLTP的特点在于事务处理量大，但事务处理 内容比较简单且重复率高。 OLTP处理的数据是高度结构化的，涉及的事 务比较简单，数据访问路径是已知的，至少是 固定的。
OLTP面对的是事务处理操作人员和低层管理 人员。
2.联机分析处理（OLAP）
决策分析需要对多个关系数据库共同进行大量 的综合计算才能得到结果。 E.F.Codd在1993年提出了多维数据库和多 维分析的概念，即联机分析处理（On Line Analytical Processing，OLAP）概念。
1.1.3 数据字典与元数据
1. 数据库的数据字典 2.数据仓库的元数据
1. 数据库的数据字典
数据字典是数据库中各类数据描述的集合 。 (1) 数据项 (2) 数据结构 (3) 数据流 (4) 数据存储 (5) 处理过程
2.数据仓库的元数据
在数据仓库中引入了“元数据”的概念，它 不仅仅是数据仓库的字典，而且还是数据仓 库本身信息的数据。 元数据（metadata）定义为描述数据及 其环境的数据。 两方面的用途。首先,元数据能提供基于用 户的信息,如记录数据项的业务描述信息的 元数据能帮助用户使用数据。其次,元数据 能支持系统对数据的管理和维护
1.2.2数据挖掘含义
知识发现（KDD）：从数据中发现有用知识的整个过程。 数据挖掘（DM） ：KDD过程中的一个特定步骤，它用专门算 法从数据中抽取知识。 如在人类数据库中挖掘知识为：
（头发=黑色）∨（眼睛=黑色）→亚洲人
该知识覆盖了所有亚州人的记录。
1.2.3数据挖掘与OLAP的比较
1. OLAP的多维分析 OLAP的典型应用，通过商业活动变化的查询 发现的问题，经过追踪查询找出问题出现的原 因，达到辅助决策的作用。
沃尔玛数据仓库系统
每天要处理并更新2亿条记录，要对来自 6000多个用户的48，000条查询语句进行 处理。销售数据、库存数据每天夜间从4， 000多个商店自动采集过来，并通过卫星线 路传到总部的数据仓库里。 利用数据仓库，进行决策支持分析，具体表 现为：
存储数据的数据库和数据仓库
有什么不同？？？
统计学与数据挖掘的比较
统计学主要是对数量数据（数值）或连续值数 据（如年龄、工资等），进行数值计算（如初 等运算）的定量分析，得到数量信息。 数据挖掘主要对离散数据（如职称、病症等） 进行定性分析（覆盖、归纳等），得到规则知 识。
统计学与数据挖掘是有区别的。但是，它们之 间是相互补充的。
2. 数据挖掘 数据挖掘任务在于聚类（如神经网络聚类）、 分类（如决策树分类）、预测等。
1.2.4 数据挖掘与统计学
统计学与国家政治有紧密的关系。
支配着社会现象的法则和方法是概率论。 通过对全部对象（总体）进行调查，为制定 计划和决策提供依据。
统计学中应用于数据挖掘的内容
（1）常用统计 （2）相关分析 （3）回归分析 （4）假设检验 （5）聚类分析 （6）判别分析 (7) 主成份分析
1.2.1 从机器学习到数据挖掘
学习是人类具有的智能行为，主要在于获取知识。
机器学习是研究使计算机模拟或实现人类的学习行为， 即让计算机通过算法自动获取知识。 机器学习是人工智能领域中的重要研究方向。 20世纪60年代开始了机器学习的研究。
(1) 1980年在美国召开了第一届国际机器学习研讨会； 明确了机器学习是人工智能的重要研究方向
（2）数据存储的数据量的不同 （3）数据存储的结构不同
4.数据仓库中数据挖掘特点
（1）数据挖掘从数据仓库中挖掘更深层次 的信息 （2）数据仓库为数据挖掘提出了新要求 ①数据挖掘需要可扩展性 ②数据挖掘方法需要能挖掘多维知识
1.数据库用于事务处理
数据库作为数据资源用于管理业务中的事务处 理。 数据库中存放的数据基本上是保存当前数据， 随着业务的变化随时在更新数据库中的数据。 不同的管理业务需要建立不同的数据库。例如， 银行中储蓄业务、信用卡业务分别要建立储蓄 数据库和信用卡数据库。
2.数据仓库用于决策分析
（1）“数据太多，信息不足”的现状
（2）异构环境的数据的转换和共享
（3）利用数据进行数据处理转换为利用数据支 持决策
沃尔玛数据仓库系统
美国的沃尔玛（Wal*Mart）是世界最大的零售商。 沃尔玛的创始人萨姆．沃尔顿：“我总是喜欢尽快得到 那些数据、我们越快得到那些信息、我们就能越快据此 采取行动，这个系统已经成为我们的一个重要工具”。 Wal*Mart上世纪80年代建立了基于NCR Teradata数 据仓库的决策支持系统。
(2) 1989 年 8 月 于 美 国 底 特 律 市 召 开 的 第 一 届 知 识 发 现 （KDD）国 际学术会议； 首次提出知识发现概念 (3) 1995年在加拿大召开了第一届知识发现和数据挖掘 （DM）国际学术会议； 首次提出数据挖掘概念 (4) 我国于1987年召开了第一届全国机器学习研讨会。
1. 数据仓库与数据挖掘的区别
数据仓库是一种存储技术，它能适应于不同 用户对不同决策需要提供所需的数据和信息。 数据挖掘研究各种方法和技术，从大量的数 据中挖掘出有用的信息和知识。
2.数据仓库与数据挖掘的关系
数据仓库与数据挖掘都是决策支持新技术。但 它们有着完全不同的辅助决策方式。 在数据仓库系统的前端的分析工具中，数据挖 掘是其中重要工具之一。它可以帮助决策用户 挖掘数据仓库的数据中隐含的规律性。
数据仓库的元数据除对数据仓库中数据的描 述（数据仓库字典）外，还有以下三类元数 据： (1) 关于数据源的元数据 (2) 关于抽取和转换的元数据 (3) 关于最终用户的元数据
在数据仓库系统中,元数据机制主要 支持以下五类系统管理功能:
（１）描述哪些数据在数据仓库中； （２）定义要进入数据仓库中的数据和从数 据仓库中产生的数据； （３）记录根据业务事件发生而随之进行的 数据抽取工作时间安排； （４）记录并检测系统数据一致性的要求和 执行情况； （５）衡量数据质量
关系数据库是二维数据（平面机分析处理（OLAP）
OLAP的基本思想是决策者从多 方面和多角度以多维的形式来观 察企业的状态和了解企业的变化。
3.OLTP与OLAP的对比
OLTP 细节性数据 当前数据 经常更新 一次性处理的数据量小 对响应时间要求高 面向应用，事务驱动 OLAP 综合性数据 历史数据 不更新，但周期性刷新 一次处理的数据量大 响应时间合理 面向分析，分析驱动
沃尔玛数据仓库系统
利用数据仓库，沃尔玛对商品进行市场类组分 析，即分析哪些商品顾客最有希望一起购买。
一个意外的发现就是：跟尿布一起购买最多的 商品竟是啤酒！按常规思维，尿布与啤酒风马 牛不相及，若不是借助于数据仓库系统，商家 决不可能发现隐藏在背后的事实。 沃尔玛就在它的一个个商店里将它们并排摆放 在一起，结果是尿布与啤酒的销量双双增长。
综合或提炼的 代表过去的数据 不更新 一次操作数据量大 面向分析 支持决策
1.1.2从OLTP到OLAP
1.联机事务处理（OLTP）
2.联机分析处理（OLAP） 3.OLTP与OLAP的对比
1.联机事务处理（OLTP）
联机事务处理（On Line Transaction Processing，OLTP）是在网络环境下的 事务处理工作，以快速的响应和频繁的数据 修改为特征，使用户利用数据库能够快速地 处理具体的业务。 OLTP应用要求多个查询并行，以便将每个 查询分布到一个处理器上。
（5）数据仓库的数据量很大
大型DW是一个TB（1000GB）级数据库问题 （一般为10GB级相当于一般数据库 100MB的 100倍）
（6）数据仓库软、硬件要求较高 需要一个巨大的硬件平台 需要一个并行的数据库系统
1.2数据挖掘的兴起
1.2.1 从机器学习到数据挖掘
1.2.2 数据挖掘含义 1.2.3 数据挖掘与OLAP的比较 1.2.4 数据挖掘与统计学

88年数据是12GB。硬盘容量20MB 89年升级为24GB。 96年达到7.5TB 97年为圣诞节市场预测，达到了24TB 现在已经达到了170TB
沃尔玛数据仓库系统
美国的沃尔玛（Wal*Mart）是世界最大的零售商， Wal*Mart建立了基于NCR Teradata数据仓库的决策支 持系统，它是世界上第二大的数据仓库系统，总容量达 到170TB以上。 强大的数据仓库系统将世界4000多家分店的每一笔业务 数据汇总到一起，让决策者能够在很短的时间里获得准 确和及时的信息，并做出正确和有效的经营决策。 沃尔玛的创始人萨姆．沃尔顿：“我总是喜欢尽快得到 那些数据、我们越快得到那些信息、我们就能越快据此 采取行动，这个系统已经成为我们的一个重要工具”。
（3）数据仓库是稳定的 数据仓库中包括了大量的历史数据。数据经集 成进入数据仓库后是极少或根本不更新的。 （4）数据仓库是随时间变化的 数据仓库内的数据时限在5~10年，故数据的键 码包含时间项，标明数据的历史时期，这适合DSS 进行时间趋势分析。 而数据库只包含当前数据，即存取某一时间的 正确的有效的数据。
数据仓库用于决策分析
数据库保持事务处理的当前状态，数据仓库既 保存过去的数据又保存当前的数据 数据仓库的数据是大量数据库的集成 对数据库的操作比较明确，操作数据量少。对 数据仓库操作不明确，操作数据量大