数据仓库和数据集市

数据仓库和数据集市

上海复旦德门软件有限公司 朱建秋 博士

企业从事数据仓库项目时，往往会遇到多个数据仓库软件供应商。各供应商除了推销相关的软件工具外，同时会向企业灌输许多概念，其中，数据仓库和数据集市是最常见的。由于术语定义不统一，另外各个供应商销售策略不一样，往往会给企业带来很大的混淆。最典型的问题是：到底是先上一个企业级的数据仓库呢？还是先上一个部门级的数据集市？本文试图说明这两个概念之间的区别和联系，以期对具体的数据仓库项目有所裨益。

1．为什么会出现数据仓库和数据集市？

“数据仓库”的概念可以追溯到80年代中期。从本质上讲，最初数据仓库是想为操作型系统到决策支持环境的数据流提供一种体系结构模型，并尝试解决和这些数据流相关的各种问题。

在缺乏“数据仓库”体系结构的情况下，早期的决策支持环境如图1所示。企业内部存在许多冗余的、重复建设的决策支持系统（通常是报表系统），这些系统被不同类型的用户使用，数据的抽取层次复杂，最初在OLTP 上抽取，再在抽取后的数据集上抽取，如此等等，呈“蜘蛛网”状，由于没有公共的数据源，并且数据没有时间点，导致了产生的报表可信度下降，数据不一致问题特别显著，更不用说转化为有效的决策信息。

为了解决上述问题，数据仓库应运而生。数据仓库构建了一种以集中式的数据存储为核心的体系结构，数据存储的模式为了适应决策分析的要求，从而形成一种与原来业务系统

构

OLTP

数据源 复制的数据集 最终用户开发的报表环境

图1：早期的决策支持系统

图2：数据仓库体系结构

成的操作型环境（OLTP ）相独立的决策支持环境。数据仓库最基本的体系结构如图2所示。

图2所示的以数据仓库为基础的决策支持环境，要求数据仓库能够满足所有最终用户的需求。然而，最终用户的需求是不断变化的，而且各种类型的用户对信息的需求也不一样，这就要求数据仓库存储的数据具有充分的灵活性，能够适应各类用户的查询和分析。另一方面，最终用户对信息的需求必须易于访问，能够在较高的性能上获得结果。但是，灵活性和性能对数据仓库而言，是一对矛盾体。为了适应灵活性的要求，数据仓库需要存储各种历史数据，以规范化的模式存储（一般是第3范式）。于是，对于特定的用户，他/她所需要的信息就需要在许多张很大的表上连接后得到结果，这样就无法满足用户对快速访问的性能需求。为了解决灵活性和性能之间的矛盾，数据仓库体系结构中增加了数据集市，数据集市存储为特定用户需求而预先计算好的数据，从而满足用户对性能的需求。带有数据集市的体系结构如图3所示。

上文提及数据仓库除了为数据流构建体系结构模型外，还尝试解决与数据流相关的各种问题，这些问题如图4所示，包括数据仓库构建过程中需要开展的各种任务及特点。

OLTP

数据集市

图4：数据仓库处理过程

2．数据仓库和数据集市的概念

对于数据仓库和数据集市的概念有各种不同的版本，本文参照数据仓库之父Inmon的定义予以说明（https://www.360docs.net/doc/b44617691.html,词汇表）。

数据仓库：是一个集成的面向主题的数据集合，设计的目的是支持DSS（决策支持系统）的功能，在数据仓库里，每个数据单元都和特定的时间相关。数据仓库包括原子级别的数据和轻度汇总的数据。数据仓库是面向主题的、集成的、不可更新的(稳定性)、随时间不断变化（不同时间）的数据集合，用以支持经营管理中的决策制定过程。

不能将数据仓库简单地理解成一套软件，数据仓库是重建企业数据流和信息流的过程，在这个过程中，构造企业的决策支持环境，以区别原来的业务系统所构建的操作型环境。数据仓库的价值并不是你在仓库中所存储的数据量的多少，而关键在于从仓库中能够获得的信息和分析结果的质量。

数据集市：是一个小型的部门或工作组级别的数据仓库。有两种类型的数据集市——独立型和从属型。独立型数据集市直接从操作型环境获取数据。从属型数据集市从企业级数据仓库获取数据。从长远的角度看，从属型数据集市在体系结构上比独立型数据集市更稳定。

独立型数据集市的存在会给人造成一种错觉，似乎可以先独立地构建数据集市，当数据集市达到一定的规模可以直接转换为数据仓库，有些销售人员会推销这种错误的观点，因为建立企业级数据仓库的销售周期长。多个独立的数据集市的累积是不能形成一个企业级的数据仓库的，这是由数据仓库和数据集市本身的特点决定的。如果脱离集中式的数据仓库，独立的建立多个数据集市，企业只会又增加了一些信息孤岛，仍然不能以整个企业的视图分析数据，数据集市为各个部门或工作组所用，各个集市之间又会存在不一致性。当然，独立型数据集市是一种既成事实，为满足特定用户的需求而建立的一种分析型环境，但是，从长远的观点看，是一种权宜之计，必然要为一个企业级的数据仓库所取代。

3．数据仓库和数据集市之间的区别

数据仓库和数据集市之间的区别可以直观地用下图表示（图5，https://www.360docs.net/doc/b44617691.html,）。

数据仓库的数据结构数据集市的数据结构

图5：数据仓库和数据集市的区别

从图中可以看出，数据仓库中数据结构采用的规范化模式（关系数据库设计理论），数据集市的数据结构采用的星型模式（多维数据库设计理论）。数据仓库中数据的粒度比数据集市的细。上图只反映了数据结构和数据内容的两个特征，对于其他区别如下表所示，并且简单的以银行为例进行说明。

数据仓库数据集市

数据来源遗留系统、OLTP系统、外部数据数据仓库

范围企业级部门级或工作组级

主题企业主题部门或特殊的分析主题

数据粒度最细的粒度较粗的粒度

数据结构规范化结构（第3范式）星型模式、雪片模式、或两者混合历史数据大量的历史数据适度的历史数据

优化处理海量数据

数据探索便于访问和分析快速查询

索引高度索引高度索引

假设为某银行构建一个分行级别的数据仓库，再为该分行国际业务部构建数据集市。数据仓库的数据来源于银行的业务系统，包括：储蓄、卡、个贷、外汇宝、中间业务等等，分析的主题包括客户、渠道、产品等。数据仓库的数据粒度根据分析的要求而定，一般包括具体的历史记录（存款、取款、外汇交易、POS消费、中间业务缴费记录），然后，将这些记录汇总到天/周/月/季度/年等各个层次，具体数据的粒度由分析的需求而定。另外，数据仓库还存储一些业务逻辑——为分析而计算的一些指标。比如，客户的价值或客户的忠诚度。这些指标的计算不能通过单一的业务系统，需要在所有业务上综合考虑，这也是数据仓库系统的优点之一。假设整个分行有20万个客户，那么数据仓库将包含20万个客户的所有业务的历史数据、汇总数据、以及数据仓库指标数据，数据量会达到几十甚至数百G（这只是非常小规模的数据仓库）。数据仓库为了满足全行所有部门用户的查询和分析，只能采用范式化设计，这样不管用户有什么需求，只要有数据存在，就能满足。再假设国际业务部门的客户有2万人（使用外汇宝），如果不构建数据集市，他们会直接在数据仓库上查询相关的信息，比如外汇宝客户去年一年外汇交易额在各种交易方式上（柜台、网上、电话银行等）的分布。查询的效率和性能是非常低的，如果各个部门的所有用户都直接在数据仓库上查询相关的信息，数据仓库的性能会下降，而且无法满足用户对性能的需求，谁都不愿意为一个简单的查询等待数分钟甚至数小时。因此，构建部门级的数据集市是非常必要的，主要基于性能上的考虑。国际业务部门的数据集市包括2万个客户的外汇交易历史，以及汇总，采用星型模式（或雪片，或两者混合），以方便OLAP工具的查询和分析。从这个简单的例子，可以看出，数据集市的数据来源于数据仓库，主要是经过重新组织的汇总数据。因此，多个数据集市不能构成一个企业级的数据仓库，借用Inmon的比喻：我们不可能将大海里的小鱼堆在一起就构成一头大鲸鱼。这也说明了数据仓库和数据集市有本质的不同。

跟随数据仓库和数据集市的概念，数据仓库的设计方法也分为三种：自顶而下，自下而上，以及两者的混合。所谓自顶而下是先建立一个企业级的数据仓库，再建立各个数据集市，自下而上与此相反，混合的方法是要求在建立数据集市时，同时考虑企业级数据仓库的结构、内容。

4．总结

本文简要概述了数据仓库和数据集市的起源和概念，指出了两者的区别和联系，并引出了数据仓库设计方法及应用。对于这些专题，将在今后的系列讲座中继续讨论。