基于CWM的数据仓库体系结构设计
背景介绍
❖ 数据仓库的应用越来越广泛 ❖ 不同数据仓库工具之间无法进行数据交换 ❖ 企业的应用受到工具的限制 ❖ 利用元数据可以实现数据交换
第3页/共38页
提纲
❖ 背景介绍
❖ 数据仓库、元数据理论介绍
❖ CWM、MOF、UML、XMI规范介绍 ❖ 基于CWM的数据仓库体系结构设计 ❖ 电信综合业务信息服务平台设计
DW管理 系统
ODS
抽取 清洁 转换 装载
中央 数据仓库
中央 元数据库
元
数 本地元数据库 据
交
数据集市
换
数据模型
本地元数据库 第14页/共38页
OLAP工具 挖掘工具 报表工具
数据源
❖ OLTP数据库 ❖ 遗留数据 ❖ 内部办公系统数据 ❖ 外部数据
第15页/共38页
数据源
多种类型：关系型、多维、 记录、XML 以及其它一些工具类型
第22页/共38页
ETL组件的接口
❖ 黑盒变换： Transformation ，DataObjectSet ， TransformationUse
❖ 白盒变换： FeatureMap ，ClassifierMap ， ClassifierFeatureMap ， TransformationMap
第20页/共38页
关系型数据源的主要接口
❖ BaseTable ：查询和修改表的属性、触发器和结构 ❖ Catalog：查询和修改包含的元素 ❖ Column：查询和设置属性 ❖ Row：查询和修改一条记录的内容 ❖ RowSet：查询和修改包含的记录
第21页/共38页
ቤተ መጻሕፍቲ ባይዱ
ETL
❖ 读取数据 ❖ 清洁数据 ❖ 转换数据 ❖ 装载数据
数据仓库数据
第10页/共38页
CWM和相关规范的关系
❖ CWM和MOF的关系 ❖ CWM和UML的关系
▪ 直接继承了UML核心元模型 ▪ 使用UML图形标记 ▪ 使用UML中的OCL（对象约束语言） ❖ CWM和XMI的关系
第11页/共38页
CWM的组成
❖ CWM元模型
▪ 基础包 ▪ 资源包 ▪ 分析包 ▪ 管理包
关系型：模式，物理表， 视图，字段，索引，触发 器，外关键字 ，主关键字 ，数据类型，字段 值，数据记录，记录的集合
第16页/共38页
Relational元模型
第17页/共38页
Relational元模型（续1）
Package Catalog
ColumnSet
Column
Trigger Index Procedure
第4页/共38页
数据仓库理论
❖ 数据仓库的定义 ❖ 数据仓库的建设 ❖ 数据仓库的应用 ❖ 国内数据仓库建设的问题
第5页/共38页
元数据
❖ 定义 ▪ 描述数据的数据
❖ 研究元数据的原因 ▪ 管理、使用数据的需求 ▪ 系统分布和互通的要求 ▪ 元数据重用、共享的要求
第6页/共38页
元数据的建模和标准化
我的工作
❖ 提出了一个基于CWM的数据仓库体系结构 ❖ 基于该体系结构，参与设计和实现了一个
电信综合业务信息服务平台
第1页/共38页
提纲
❖ 背景介绍
❖ 数据仓库、元数据理论介绍 ❖ CWM、MOF、UML、XMI规范介绍 ❖ 基于CWM的数据仓库体系结构设计 ❖ 电信综合业务信息服务平台设计
第2页/共38页
Table
SQLQuery SQLDataType
BaseTable View
第18页/共38页
Relational元模型（续2）
Extent
Instance
AttributeLink
RowSet Object DataValue
ColumnSet
Row ColumnValue
第19页/共38页
Attribute
系
第28页/共38页
数据仓库管理
❖ 访问控制和安全性管理 ❖ 数据增长管理 ❖ 抽取过程的管理 ❖ 性能管理 ❖ 故障恢复 ❖ 扩充和演变管理
元元模型（M3）
MetaClass（“Record”， [MetaAttr(（“name”）,String),
MetaAttr((“fields”),list<Field>)] MetaClass（“Field”，…）
元模型（M2）
Record（“Student”， Field（“name”，String）， (Field（“sex”，String）…)
❖ CWM DTD和CWM XML ❖ CWM IDL
第12页/共38页
提纲
❖ 背景介绍 ❖ 数据仓库、元数据理论介绍 ❖ CWM、MOF、UML、XMI规范介绍
❖ 基于CWM的数据仓库体系结构设计
❖ 电信综合业务信息服务平台设计
第13页/共38页
基于CWM的数据仓库体系结构
OLTP系统 遗留系统 办公系统 外部数据
最细粒度
部门1 数据 集市 粒度1
部门2 数据 集市
粒度2
部门3 数据 集市 粒度3
第26页/共38页
数据集市的特点
❖ 面向部门应用 ❖ 规模小，投资少 ❖ 使用方便且成本低
第27页/共38页
元数据库
❖ 类型：
▪ 中央元数据库 ▪ 本地元数据库
❖ 内容：
▪ 抽取过程：任务、执行顺序、映射关系、转换规则 ▪ 描述数据 ：方位图、数据之间的商业关系、商业规则、数据的改变 ▪ 数据仓库管理：安全性、运行状态、抽取过程的调度、I/O对象及其关
❖ 变换的执行顺序控制：
第23页/共38页
中央数据仓库
❖ 数据粒度最细且多层次 ❖ 数据是历史的 ❖ 数据是时间相关的 ❖ 大数据量 ❖ 数据是整合的 ❖ 通用的、全局的
第24页/共38页
操作数据存储ODS
操作型系统
1/2 1/2
ODS
第25页/共38页
企业 数据仓库
数据集市
外部 数据源
企业 数据 仓库
❖ 建模的两大方向 ▪ 元数据参考模型 ▪ 元数据模型
❖ 标准化 ▪ OMG ▪ MDC
第7页/共38页
提纲
❖ 背景介绍 ❖ 数据仓库、元数据理论介绍
❖ CWM、MOF、UML、XMI规 范介绍
❖ 基于CWM的数据仓库体系结构设计 ❖ 电信综合业务信息服务平台设计
第8页/共38页
元数据的层次
通用的元元模型
Student（“张东”，
“男”，…）
Student（“李芳”，
“女”，…） ……
第9页/共38页
模型（M1）
信息，数据 （M0）
OMG规范和元数据层次的关系
元数据 层次
MOF术语
M3
元元模型
元模型，
M2
元元数据
M1
模型， 元数据
M0 对象，数据
示例
MOF模型
UML元模型， CWM元模型 UML模型， CWM模型
数据仓库体系结构
数据仓库体系结构数据仓库是一个用于集成、管理和分析大量数据的系统。
在数据仓库中，数据从不同的源系统中提取、转换和加载，然后存储在一个统一的、可供分析的数据存储中。
为了实现这一目标，数据仓库需要一个合理的体系结构来支持数据的整合、存储和查询等功能。
数据仓库体系结构由以下几个主要组成部分组成：1. 数据源：数据源是数据仓库的基础，它可以是内部系统的数据库、外部数据提供商的数据文件、Web上的数据源等。
数据源可以包括结构化数据（如关系型数据库中的表）和非结构化数据（如文本文件、图像文件等）。
2. 数据提取：数据提取是将数据从源系统中抽取出来并转换为数据仓库可以使用的格式的过程。
数据提取可以通过批处理、定时任务或实时流式传输等方式进行。
3. 数据转换：数据转换是将提取的数据进行清洗、集成和转换的过程。
在这个阶段，数据被清理、去重、标准化和转换为统一的格式和结构，以便在数据仓库中进行分析。
4. 数据加载：数据加载是将转换后的数据加载到数据仓库中的过程。
数据加载可以分为全量加载和增量加载两种方式，全量加载是将所有数据加载到数据仓库中，而增量加载是只加载发生变化的数据。
5. 数据存储：数据存储是数据仓库中数据的物理存储方式。
常用的数据存储方式包括关系型数据库、多维数据库和列式数据库等。
数据存储的选择应根据数据的特点、查询需求和性能要求等因素进行。
6. 元数据管理：元数据是描述数据仓库中数据的数据，它包括数据的结构、定义、来源、质量等信息。
元数据管理是对元数据进行收集、存储、管理和查询的过程，它是数据仓库管理的重要组成部分。
7. 数据访问：数据访问是用户通过查询、报表和分析等方式对数据仓库中的数据进行访问和分析的过程。
数据仓库可以提供多种数据访问方式，包括在线分析处理（OLAP）、数据挖掘和数据可视化等。
8. 安全性和权限管理：安全性和权限管理是保护数据仓库中数据安全和控制用户访问权限的过程。
数据仓库应具备完善的安全措施，包括身份认证、权限控制、数据加密和审计等功能。
数据仓库的设计与构建研究
数据仓库的设计与构建研究随着互联网技术的发展，数据量的快速积累和每天不断增长的数据趋势，数据管理变成了日益复杂的任务。
数据仓库便应运而生，成为了企业管理和数据分析的必然选择。
在企业的决策和战略制定中，数据仓库所扮演的角色越来越重要，也越来越值得重视。
一、数据仓库的概念数据仓库是指将企业各种分散的数据源汇集起来，进行预处理、汇总、加工、再分析处理等操作后进行存储的一个系统。
其目的是为了利用大数据环境下的企业数据，将其变成决策支持的信息，从而为企业决策提供可靠的数据支撑。
数据仓库结构主要包含以下几个重要组成部分：1. 数据源数据源是数据仓库的来源，包括操作性数据库、文件系统、网络、接口等等。
通过提取不同来源的数据，并将其汇总到仓库中进行统一存储、管理和维护，实现数据的集成化管理。
2. 数据加工处理数据加工处理是数据仓库中最为复杂的一部分，包括数据清洗、数据挖掘、数据转换、数据整合等等。
这一过程要求数据仓库管理员具有一定的数据处理能力，并且需要考虑多种因素的影响，例如数据量、类型、格式、质量等等。
3. 元数据元数据是指描述数据仓库的数据，包括数据类型、数据来源、数据转换规则、质量检验规则等等。
元数据的作用是对数据进行管理、维护、分发和使用，为数据共享和商业决策提供支持。
4. 多维分析多维分析是指对数据仓库中的数据进行分析、整理和处理，以便更好地展现数据的特征和规律。
多维分析可通过OLAP（联机分析处理）的方式对数据进行分析，再根据分析结果制定企业针对性的业务决策。
二、数据仓库的设计思路数据仓库的设计与构建需要全面考虑企业的业务需求和数据特点，通过规范化、标准化的方式来进行设计，使其能够满足企业需求，并为企业的决策提供支持。
1. 初步分析通过初步分析了解企业的业务场景和数据来源，以及研究需求和决策支持信息的种类、格式等，以便进一步确定数据仓库的设计。
2. 数据建模数据建模是数据仓库的核心，它需要根据不同的业务需求和对数据的认识，对数据进行分类、构建数据模型，以便完成数据转化的目标。
基于CWM的企业元数据集成中元数据抽取与导出研究
第 ２ ７卷 第 ３期 ２００８年 ９月
计
算
技
术
与 自 动
化
Ｖｏ ． ７． １ ２ ＮＯ． ３
Ｃ ｍｐ ｔ ｇ Ｔｅ ｈ ｏｏ ｙ ａ ｄ Ａｕ ｏ ｔ ｎ ｏ ｕ ｉ ｃ ｎ ｌｇ ｎ ｔ ｍａ ｉ ｎ ｏ
பைடு நூலகம்
Ｓｅ ｐ．２ ０ ０ ８
文 章 编 号 ：０ ３ １９ ２ ０ ）３ ０ ８ ４ １ ０ —６ ９ （０８ ０ —０ ８ —０
ｍｅ ａ ａ ａ ｉ ｔ ａ ｅ ｏ ｓ ｎ ｓ ｅｓ Ａｎ ｌｓｓｅ ｖ ｒ ｎ ｎ ｏ ｖ ｎｅ ｔｙ ｔｈ ｓｂ ｃ ｍｅ ａｃ ｒ ｏ ｏ ｅ ｔｏ ｅ ｓｒ ｔ ｇ ｃ ｔ ｄ ｔ ｎ Ｄａ ａＷ ｒ ｈ ｕ ｅａ ｄ Ｂｕ ｉ ｓ ａ ｙ ｉ ｎ ｉ ｍｅ ｔｃ ｎ ｅ ｉｎ ｌ ．Ｉ ａ ｅ ｏ ｏ ｅ ｃ ｍｐ ｎ ｎ ｆａ ｎ ｗ ｔ ａ ｅ ｉ ｎ ｏ
近年来 ， 有关 企业数据集成 已经成 为业界研究 的 个热点 。 目前企业数据集 成的方法虽然 多种多样 ， 但 由于它们对企业数据缺乏一个公共 的理解 ， 因此就
一
Ｃ ＷＭ 实质上 是一 种交 换 技 术 ， 完 全 独 立 于 它 任何 具 体实现 的元 模 型 。数 据 仓 库 和 业 务分 析 领 域 中组 成 信 息 供 应 链 （ｎｏｍａｉｎ Ｓ ｐ ｌ ｈ ｉ， Ｉｆｒ ｔ ｕ ｐｙ Ｃ ａ ｏ ｎ ｉｃ ［ 的各类 组 件 （ 可操 作 数 据存 储 库 、 系 数 ｓ ）］ 如 关 据库、 Ａ ＯＬ Ｐ服 务器 以及 分 析 、 视 化 和 报 表 工 具 可 等） 都拥 有 丰富 的元 数 据 结 构 ， 数 据 为 这 些 组 件 元 提 供 操 作 和服 务 的基 础Ｈ 。在 ＩＣ 中 ， Ｊ Ｓ 可操 作 的 数据存 储 场景 是 Ｉ Ｃ的基 础 。从 各 种 可 操 作 数 据 Ｓ 存储 场 景 中 抽 取 出元 数 据 并 把 它 们 转 换 成 符 合 Ｃ ＷＭ 标 准 的元 数 据 是 基 于 Ｃ ＷＭ 的企 业 数 据 成 功集 成 的前 提 。本 文重 点 探 讨 了基 于 Ｃ Ｍ 的元 Ｗ 数 据 的抽取 与导 出 ， 提 出了相应 的导 出规则 。 并 本文第 二 节简 要 介 绍 了 基 于 Ｃ ＷＭ 的 Ｉ Ｃ集 Ｓ 成， 第三 节对元 数 据抽 取与 基 于 Ｃ ＷＭ 的导 出进 行
数据仓库模型的设计
数据仓库模型的设计数据仓库模型的设计大体上可以分为以下三个层面的设计151:.概念模型设计;.逻辑模型设计;.物理模型设计;下面就从这三个层面分别介绍数据仓库模型的设计。
2.5.1概念模型设计进行概念模型设计所要完成的工作是:<1>界定系统边界<2>确定主要的主题域及其内容概念模型设计的成果是，在原有的数据库的基础上建立了一个较为稳固的概念模型。
因为数据仓库是对原有数据库系统中的数据进行集成和重组而形成的数据集合，所以数据仓库的概念模型设计，首先要对原有数据库系统加以分析理解，看在原有的数据库系统中“有什么”、“怎样组织的”和“如何分布的”等，然后再来考虑应当如何建立数据仓库系统的概念模型。
一方面，通过原有的数据库的设计文档以及在数据字典中的数据库关系模式，可以对企业现有的数据库中的内容有一个完整而清晰的认识;另一方面，数据仓库的概念模型是面向企业全局建立的，它为集成来自各个面向应用的数据库的数据提供了统一的概念视图。
概念模型的设计是在较高的抽象层次上的设计，因此建立概念模型时不用考虑具体技术条件的限制。
1.界定系统的边界数据仓库是面向决策分析的数据库，我们无法在数据仓库设计的最初就得到详细而明确的需求，但是一些基本的方向性的需求还是摆在了设计人员的面前:. 要做的决策类型有哪些?. 决策者感兴趣的是什么问题?. 这些问题需要什么样的信息?. 要得到这些信息需要包含原有数据库系统的哪些部分的数据?这样，我们可以划定一个当前的大致的系统边界，集中精力进行最需要的部分的开发。
因而，从某种意义上讲，界定系统边界的工作也可以看作是数据仓库系统设计的需求分析，因为它将决策者的数据分析的需求用系统边界的定义形式反映出来。
2，确定主要的主题域在这一步中，要确定系统所包含的主题域，然后对每个主题域的内容进行较明确数据仓库建模技术在电信行业中的应用的描述，描述的内容包括:. 主题域的公共码键;. 主题域之间的联系:. 充分代表主题的属性组。
《面向工业领域的实时数据仓库的设计与实现》
《面向工业领域的实时数据仓库的设计与实现》一、引言随着工业 4.0时代的到来，工业领域的数据量呈现出爆炸式增长。
为了有效管理和分析这些数据，实时数据仓库的设计与实现显得尤为重要。
实时数据仓库能够为工业领域提供高效、准确的数据支持，帮助企业实现智能化、精细化的管理。
本文将介绍面向工业领域的实时数据仓库的设计与实现，包括设计目标、系统架构、关键技术及实现方法等方面。
二、设计目标面向工业领域的实时数据仓库的设计目标主要包括以下几个方面：1. 数据实时性：确保数据的实时采集、传输和存储，以满足工业领域的实时决策需求。
2. 数据准确性：保证数据的准确性和可靠性，为企业的决策提供有力支持。
3. 高效性：提高数据处理和分析的效率，降低系统响应时间。
4. 可扩展性：系统应具备较好的可扩展性，以适应未来数据量的增长。
5. 易用性：提供友好的用户界面，方便用户进行数据查询和分析。
三、系统架构面向工业领域的实时数据仓库的系统架构主要包括数据源、数据采集、数据传输、数据处理、数据存储和数据服务六个部分。
1. 数据源：包括工业设备、传感器、数据库等，负责产生和收集原始数据。
2. 数据采集：通过传感器、接口等方式，实时采集原始数据。
3. 数据传输：将采集到的数据传输到数据中心。
4. 数据处理：对传输到的数据进行清洗、转换和加工，以满足不同的分析需求。
5. 数据存储：将处理后的数据存储到实时数据库中，以支持实时查询和分析。
6. 数据服务：提供数据查询、分析、报表等服务，以满足用户的需求。
四、关键技术1. 数据采集与传输技术：采用高效的通信协议和传输技术，确保数据的实时采集和传输。
2. 分布式存储技术：利用分布式存储技术，将数据存储在多个节点上，提高数据的可靠性和可扩展性。
3. 数据处理与分析技术：采用大数据处理和分析技术，对数据进行清洗、转换和加工，以满足不同的分析需求。
4. 实时计算引擎：提供高效的实时计算引擎，支持实时查询和分析。
基于CWM的企业数据仓库体系结构设计
Ｃ ｌ ｇ ｆＢ Ｐ ． ｅ ｉｇ ｌ０ ７ ） ｏｌ ｅ ｏ Ｕ Ｔ Ｂ ｉｎ ０ ８ ６ ｅ ｊ
Ａｂ ｔ ａ ｔ Ｔ ｅ ｕ ｔ ｉｔ ｎ ｏ ａａ ｒ ｓ ｕ ｃ ｎ ｅ ｔｒ ｒｓ ｓ ｓ ｇ ｅ ｔ ｅ ｔ ｃｅ ｙ ｐ ｒｉｕ ａ ａ ａ ｅ ｏ ｓ ｏ ｌ ｄ ｅ ｔ ｓｒ ｃ ： ｈ ｎ ｉ ｚｉ ｆ ｄ ｔ ｅ ｏ ｒ ｅ ｉ ｎ ｅ ｐ ｉｅ ｉ ｒ ａｌ ｒ ｓｒ ｔ ｄ ｂ ａ ｔ ｌｒ ｄ ｔ ｗ ｒ ｈ ｕ ｅ ｔ ｏｓ ｕ ｏ ｌ ｏ ｙ ｉ ｃ ａ ｔ ｅ ｉ ｃ ｍｐ ｔ ｉ ｔ ｆ ｔ ｅ ｅ ｔｏ ｓＢ ｓ ｄ ｏ ｈ ｎ ｌ ｓｓ ｏ ｙ ｔ ｍ ｒ ｈ ｔｃ ｕ ｅ ａ ｄ ｄ ｔ ｘ ｈ ｎ ｅ ｈ ｎ ｏ ａ ｉ ｌ ｙ ｏ ｈ ｓ ｏ ｌ． ａ ｅ ｎ ｔ ｅ ａ ａ ｙ ｉ ｆ ｓ ｓｅ ａ ｃ ｉ ｔ ｒ ｎ ａ ｅ ｃ ａ ｇ ｍｅ ｈ ｎ ｓ ， ｂ ｉ ｅ ａ ｃ ａ ｉｍ ａ ＣＷ Ｍ－ ｂ ｓ ｄ ａ ｃ ｉ ｃｕ ｅ ｗｉ ｔｎ ａ ｄ ｉ ｔ ｒ ｃ ｆ ｄ ｔ ｎ ｔ ｄ ｔ ｘ ｈ ｎ ｅ ｉ ｄ ｒ ｓ ｅ ｏ ｓ ｌ ｅ ｔ ｅ ａ ｏ ｅ ｐ ｏ ｌ ｍ． ａ ｅ ｒ ｈ ｔ ｔ ｒ ｔ ｓ ｄ ｒ ｎ ｅ ｆ ｅ ｏ ａ ａ ａ ｄ ｍｅ ａ ａ ｅ ｃ ａ ｇ ｓ ａ ｄ ｅ ｓ ｄ ｔ ｏ ｖ ｈ ｂ ｖ ｒ ｂ ｅ ｅ ｈ ａ ａ ａ Ｋｅ ｗｏ ｄ ： ＣＷ Ｍ ，ＤＬ， ｔ ａ ｅ ｏ ｓ Ｓ ｆ ｒ ｃ ｉ ｃ ｕ ｅ ｙ ｒｓ Ｉ Ｄａａ Ｗ ｒ ｈ ｕ ｅ， ｏ ｔ ｅ Ａｒ ｈｔ ｔ ｒ ｗａ ｅ
改 变 。 该 文 第 一 部 分将 对 Ｃ ｗＭ 及 相 关 技 术 作 简 单 介 绍 ， 二 第
部 分 提 出 了一 种 基 于 Ｃ ＷＭ 的 数 据 仓 库 体 系 结 构 ， 详 细 阐 述 并
基于描述逻辑的CWM元数据冲突的检测和消解
计
算
机
科
学
Ｖｏ． ７Ｎｏ １ １３ ． １
Ｎ ｏ Ｏ１ ｖ２ Ｏ
Ｃｏｍｐ ｅ Ｓｃｅ ｃ ｕｔ ｒ ｉｎ ｅ
基 于描 述 逻 辑 的 Ｃ ＷＭ 元 数 据 冲 突 的检 测 和 消解
赵 晓非 黄志球
（ 南京信 息工程 大学 计算机科 学 与技 术 系 南 京 ２ ０ ４ ） １０ ４
Ａｂ ｔａ ｔ Ｔｈ ｎ ｏ ｓｓ ｅ ｃｅ ｔ ｄ ｔ ａ ｅ ｒ ｍａ ｋ ｂ ｅ ｉ ｆ ｅ ｃ ｎ ｔ ｅ ｓ ａ ｉ ｔ ｎ ｅ ｉｂ ｌ ｙ Ｏ ａ ａ ｗａ ｅ ｏ ｓ ｓｒ ｃ ｅ ｉ ｃ ｎ ｉｔ ｎ ｉｓ ｉ ｍｅ ａ ａ ａ ｈ ｖ ｅ ｒ ａ ｌ ｎ ｌ ｎ ｅ ｏ ｈ ｔ ｂ ｌ ｙ ａ ｄ ｒ ｌ ｉ ｔ ｆｄ ｔ ｒ ｈ ｕ ｅ ｎ ｕ ｉ ａ ｉ ｓ ｓ ｅ Ｄｕ ｉ ｇ ｔ ｅｍ ｅ ａ ａ ａ ｃ ｅ ｔ ｎ ｂ ｓ ｄ ｏ ｍｍｏ ａ ｅ ｏ ｓ ｅａ ｄ ｌ Ｃ Ｍ ）， ｈ ｉ ｅ ｅ ｔｅ ｐ ｒｅ ｃ ｓ ａ ｄ ｙ ｔｍ． ｒ ｈ ｔ ｄ ｔ ｒ ａ ｉ ａ ｅ ｎ Ｃｏ ｎ ｏ ｎ Ｗ ｒ ｈ ｕ ｅ Ｍ ｔｍｏ ｅ （ Ｗ ｔ ｅ ｄ ｆ ｒ ｎ ｘ ｅ ｉｎ ｅ ｎ ｆ
ｖｅ ｆｄ ｓ ｒｂ ｎ ａ ａｏ ｒ ａ ｉ ｔ ｎ ｎ ｏｖ ｄ ｉ ｔ ｄ ｔ ｒ ａ ｉ ｎ ｂ ｉｇ ｒ ｅ ａ ａ ａ ｉ ｃ ｎ ｉｔ ｎ ｉｓ ｉｅ ｉ ｂ ｙ ｉｗｓｏ ｅ ｃ ｉ ｉｇ ｄ ｔ ｆｏ ｇ ｎ ｚ ｉ ｓ ｉｖ ｌ ｅ ｎ ｍｅ ａ ａ ａ ｃ ｅ ｔ ｒｎ ｎ ｔ ｄ ｔ ｎ ｏ ｓｓｅ ｃｅ ｎ ｖｔ ｌ．Ｈｏ ａ ｏ ｏ ａ ｗ—
公共仓库元模型（CWM）学习（一）
公共仓库元模型（CWM）学习（⼀）⼀、什么是CWM？在我们学习⼀个新东西时，⾸先得弄懂明⽩它是⽤来⼲什么的？然后通过实例与理论交错学习，CWM——Common Warehouse Metamodel,很明显翻译过来时公共仓库元模型，CWM的提出主要基于以下背景：从数据仓库开发者的⾓度：单⼀⼯具很少能完全满⾜⽤户不断变化的需求，但同时⼜很难对各种产品进⾏集成；从数据仓库⽤户的⾓度：⾯对的信息量太⼤，⽆法轻易找到⾃⼰真正需要的，⽽且把这些信息完整正确地表⽰出来也是个挑战；从数据仓库供应商的⾓度：⽬前信息的共享还没有标准格式，元数据集成的代价太⼤；现在有很多数据仓库产品，它们对元数据都有⾃⼰的定义和格式，百家争鸣，都不愿与其他⼚商共享，然后最终的客户往往⼜不会选择⼀家公司为其建设数据仓库，其主要原因我想还是怕在⼀棵树上吊死， 因此创建、管理和共享元数据很耗时⽽且容易出错。
要解决上⾯这些问题，就必须得⽤标准的语⾔描述数据仓库元数据的结构和语义，并提供标准的元数据交换机制。
CWM就是满⾜这些条件的⼀个规范。
OMG（对象管理组织）在2000年发布了CWM规范，旨在推动数据仓库、智能商务和知识管理⽅⾯元数据的共享和交换。
和OMG合作提出CWM 规范的公司有：IBM，Unisys，NCR，Hyperion Solutions，Oracle，UBS AG，Genesis Development，Dimension EDI。
还有⼀些公司明确表⽰⽀持CWM，包括：Deere & Company，Sun，HP，Data Access Technologies，InLine Software，Aonix，Hitachi, Ltd。
说⽩了，CWM其实就是⼀个元数据交换的标准，为各种数据仓库产品提出的⼀个标准。
⼆、CWM组成元素？CWM主要基于以下三个⼯业标准：UML（Unified Modeling Language）：统⼀建模语⾔，是OMG的⼀个建模标准；MOF（Meta Object Facility）：元对象⼯具，是OMG关于元模型和元数据库的⼀个标准；XMI（XML Metadata Interchange），XML元数据交换，是OMG关于元数据交换的标准；咋⼀看，是不是很熟悉，尤其是UML 、 XML ⼤家应该很明⽩这是⼲什么的吧，这三个标准是OMG元数据库体系结构的核⼼，UML定义了表⽰模型和元模型的语法和语义。
数据仓库的设计和构建
数据仓库的设计和构建数据仓库（Data Warehouse）是指将组织机构内部各种分散的、异构的数据整合起来，形成一个共享的、一致的、易于查询和分析的数据环境。
数据仓库的设计和构建是数据管理和分析的重要环节。
本文将结合实践经验，介绍数据仓库的设计与构建过程。
一、需求分析数据仓库的设计与构建首先需要进行需求分析。
在需求分析阶段，我们需要明确以下几个问题：1. 数据来源：确定数据仓库所需要的数据来源，包括内部系统和外部数据源。
2. 数据维度：确定数据仓库中需要关注的维度，如时间、地理位置、产品等。
3. 数据粒度：确定数据仓库中的数据粒度，即需要对数据进行何种程度的聚合。
4. 数据可用性：确定数据仓库中数据的更新频率和可用性要求。
5. 分析需求：明确数据仓库所需满足的分析需求，如报表查询、数据挖掘等。
二、数据模型设计在数据仓库设计过程中，数据模型的设计尤为重要。
常用的数据模型包括维度建模和星型模型。
维度建模是基于事实表和维度表构建的，通过定义事实和维度之间的关系，建立多维数据结构。
星型模型则将事实表和各个维度表之间的关系表示为星型结构，有助于提高查询效率。
根据具体需求和数据特点，选择合适的数据模型进行设计。
三、数据抽取与转换数据仓库的构建过程中，需要从各个数据源中抽取数据，并进行清洗和转换。
数据抽取常用的方法包括全量抽取和增量抽取。
全量抽取是指将数据源中的全部数据抽取到数据仓库中，适用于数据量较小或变动频率较低的情况。
增量抽取则是在全量抽取的基础上，只抽取发生变动的数据，提高了数据抽取的效率。
数据在抽取到数据仓库之前还需要进行清洗和转换。
清洗的目标是去除数据中的错误、冗余和不一致之处，保证数据的准确性和完整性。
转换的目标是将数据格式进行统一，并进行必要的计算和整合，以满足数据仓库的需求。
四、数据加载与存储数据加载是指将抽取、清洗和转换后的数据加载到数据仓库中的过程。
数据加载的方式可以分为批量加载和实时加载。
基于CWM模型的电力数据仓库元数据仓储设计
基于 Ｃ ＷＭ 模 型 的 电 力 数 据 仓 库 元数 据 仓 储 设 计
赵 钊 林 刘 莞 ，
（ ． 建工程学院 计算机与信息科学 系， 建 １福 福 福 州 ３ ００ ； ． 建工程 学院 现代教 育技 术 中心 ， 建 ５ １８ ２ 福 福 福 州 ３００ ） ５ １８