大数据治理体系

数据治理体系

目录

1.范围 (1)

2.规范性引用文件 (1)

3.术语、定义和缩略语 (5)

4.总体说明 (8)

4.1.概述 (8)

4.2.目标 (9)

4.3.原则 (9)

5.数据治理体系 (10)

5.1.总体框架 (10)

5.2.组织架构 (11)

5.2.1.组织构成 (11)

5.2.2.角色职责 (12)

5.3.系统架构 (13)

5.3.1.系统功能框架 (13)

5.3.2.系统模块流程 (14)

5.4.系统边界 (15)

5.4.1.与企业级省大数据平台关系 (16)

5.4.2.与对外能力开放平台关系 (16)

5.4.3.与平台运维系统关系 (16)

6.数据治理核心模块 (16)

6.1.数据标准管理 (16)

6.1.1.背景 (17)

6.1.2...................................................................................................... 错误!未定义书签。

6.1.3.目标及原则 (18)

6.1.4.业务分类和定义 (18)

6.1.5.技术功能要求 (22)

6.1.6.本期建设范围及内容 (25)

6.1.

7.实施要求............................................................................. 错误!未定义书签。

6.2.元数据管理 (26)

6.2.1.背景和定义 (26)

6.2.2.元数据运营模式 (27)

6.2.3.元模型标准 (28)

6.2.4.元数据运维 (32)

6.2.5.本期重点建设内容 (32)

6.3.数据质量管理 (33)

6.3.1.与传统经营分析系统的区别 (33)

6.3.2.范围和原则 (34)

6.3.3.与其它功能模块的关系 (34)

6.3.4.本期数据质量功能需求 (37)

6.3.5.本期数据质量运维要求 (38)

6.4.数据资产管理 (39)

6.4.1.数据资产概述 (39)

6.4.2.数据资产范围 (40)

6.4.3.与其它功能模块的关系 (41)

6.4.4.本期数据资产功能需求 (41)

6.4.5.本期建设内容 (44)

6.5.数据安全管理 (44)

6.5.1.数据安全概述 (44)

6.5.2.建设原则 (45)

6.5.3.建设内容 (45)

6.5.4.边界关系 (45)

6.5.5.技术功能 (46)

6.5.6.管理要求 (47)

7.数据治理场景 (50)

7.1.背景描述 (51)

7.2.场景一:银行伪卡交易判别 (51)

7.2.1.背景介绍 (51)

7.2.2.场景描述 (52)

7.3.场景二:银行手机贷业务 (53)

7.3.1.背景介绍 (53)

7.3.2.场景描述 (53)

8.附录 (54)

附录一:数据标准框架 (54)

附录二:数据标准体系定义内容示例 (55)

前言

本规范的制订是为了更好地实现中国移动企业级省大数据平台数据治理子系统的建设和管理,为省大数据平台上的各类基础技术和应用提供支撑,加强省大数据平台上数据的管控力度,增强数据治理子系统自身管理能力。

本规范主要包括以下几方面的内容:总体说明、数据治理体系、数据治理核心模块、数据治理场景等。

本规范是中国移动企业级大数据平台系列规范之一。该系列规范的结构、名称或预计的名称如下:

序号标准编号标准名称

[1] QB-Y-***-2015 中国移动企业级大数据平台目标架构

[2] QB-Y-***-2015 中国移动企业级省大数据平台技术规范总册

[3] QB-Y-***-2015 中国移动企业级省大数据平台技术规范分册

[4] QB-Y-***-2015 中国移动企业级省大数据平台技术规范技术

方案分册

[5] QB-Y-***-2015 中国移动企业级省大数据平台技术规范数据

模型分册

[6] QB-Y-***-2015 中国移动企业级省大数据平台技术规范外部

接口分册

[7] QB-Y-***-2015 中国移动企业级省大数据平台技术规范服务

开放分册

[8] QB-Y-***-2015 中国移动企业级省大数据平台技术规范服务

开放技术方案分册

[9] QB-Y-***-2015 中国移动企业级省大数据平台技术规范数据

治理分册

[10] QB-Y-***-2015 中国移动企业级省大数据平台技术规范数据

治理技术方案分册

[11] QB-Y-***-2015 中国移动企业级省大数据平台技术规范运营

维护分册

[12] QB-Y-***-2015 中国移动企业级省大数据平台技术规范安全

管理技术方案

本规范由中移技﹝××﹞××印发。

本规范由中国移动通信集团公司业务支撑系统部提出,集团公司技术部归口。

本规范起草单位:中国移动通信集团公司业务支撑系统部。

本规范主要起草人:段云峰、汪新勇、赵静、周立、、任怡健、王保强、潘刚、刘童桐、王金金、陶涛、刘虹、张红星、魏春辉。

1.范围

本规范规定了中国移动企业级省大数据平台数据治理子系统的建设内容,适用于中国移动各省(直辖市、自治区)公司企业级省大数据平台数据治理子系统的建设。

2.规范性引用文件

下列文件中的条款通过本规范的引用而成为本规范的条款。凡是标注日期的引用文件,其随后所有的修改单(不包括勘误的内容)或修订版均不适用于本规范。然而,鼓励根据本规范达成协议的各方对是否使用这些文件的最新版本进行研究。凡是不标注日期的引用文件,其最新版本适用于本规范。

[1] 《中国移动省级经营分析系统业务规

范(v1.0)》

中国移动通信有限

公司

[2] 《中国移动省级经营分析系统技术规

范(v1.0)》

中国移动通信有限

公司

[3] QB-J-010-2006 《中国移动省级经营分析系统数据质

量管理系统建设方案(v1.5)》

中国移动通信有限

公司

[4] QB-J-006-2006 《中国移动省级经营分析系统数据仓

库逻辑数据模型说明(v1.5)》

中国移动通信有限

公司

[5] QB-J-007-2006 《中国移动省级经营分析系统数据集

市业务技术规范(v1.5)》

中国移动通信有限

公司

[6] QB-J-008-2006 《中国移动省级经营分析系统与源系

统接口规范(v1.5)》

中国移动通信有限

公司

[7] QB-J-009-2006 《中国移动省级经营分析系统与

BOSS系统互动技术规范(v1.5)》

中国移动通信有限

公司

[8] QB-J-003-2006 《中国移动省级经营分析系统业务规

范(v1.5)—基础业务分册》

中国移动通信有限

公司

[9] QB-J-004-2006 《中国移动省级经营分析系统业务规

范(v1.5)—数据业务分册》

中国移动通信有限

公司

[10] QB-J-005-2006 《中国移动省级经营分析系统业务规

范(v1.5)—集团客户分册》

中国移动通信有限

公司

[11] QB-J-001-2006 《中国移动业务运营支撑系统

(BOSS)业务技术规范营销资源管理

分册(2.0版)》

中国移动通信有限

公司

[12] QB-J-001-2006 《中国移动业务运营支撑系统

(BOSS)业务技术规范客服信息分册

(2.0版)》

中国移动通信有限

公司

[13] QB-J-001-2006 《中国移动业务运营支撑系统

(BOSS)业务技术规范(2.0版)》

中国移动通信有限

公司

[14] QB-J-021-2007 《中国移动省级经营分析系统数据仓

库逻辑数据模型规范(v2.0)》

中国移动通信有限

公司

[15] QB-J-020-2007 《中国移动省级经营分析系统与源数

据接口规范(v2.0)》

中国移动通信有限

公司

[16] QB-J-022-2007 《中国移动省级经营分析系统数据集

市业务技术规范(v2.0)》

中国移动通信有限

公司

[17] QB-J-019-2007 《中国移动省级经营分析系统业务规

范渠道运营管理分析监控分册(v1.0)》

中国移动通信有限

公司

[18] QB-J-018-2007 《中国移动省级经营分析系统业务规

范客户服务分册(v2.0)》

中国移动通信有限

公司

[19] QB-J-017-2007 《中国移动省级经营分析系统业务规

范集团客户分册(v2.0》

中国移动通信有限

公司

[20] QB-J-016-2007 《中国移动省级经营分析系统数据质

量管理系统业务技术规范(V2.0)》

中国移动通信有限

公司

[21] 《中国移动业务支撑网4A安全技术规

范》

中国移动通信有限

公司

[22] 《中国移动省级经营分析系统技术规

范总册(v2.0全量版)》

中国移动通信有限

公司

[23] 《中国移动省级经营分析系统技术规

范逻辑模型分册(v2.0全量版)》

中国移动通信有限

公司

[24] 《中国移动省级经营分析系统技术规

范数据集市分册(v2.0全量版)》

中国移动通信有限

公司

[25] 《中国移动省级经营分析系统技术规

范数据质量管理子系统分册(v2.0全

量版)》

中国移动通信有限

公司

[26] 《中国移动省级经营分析系统业务规

范(v2.0全量版)》

中国移动通信有限

公司

[27] 《中国移动省级经营分析系统技术规

范源系统接口分册(v2.0全量版)》

中国移动通信有限

公司

[28] QB-J-002-2008 《中国移动省级NG1-BASS技术规范

总册(v1.0)》

中国移动通信集团

公司

[29] QB-J-003-2008 《中国移动省级NG1-BASS技术规范

数据集市分册(v1.0)》

中国移动通信集团

公司

[30] QB-J-004-2008 《中国移动省级NG1-BASS技术规范

逻辑模型分册(v1.0)》

中国移动通信集团

公司

[31] QB-J-005-2008 《中国移动省级NG1-BASS技术规范

源系统接口分册(v1.0)》

中国移动通信集团

公司

[32] QB-J-006-2008 《中国移动省级NG1-BASS技术规范

元数据管理分册(v1.0)》

中国移动通信集团

公司

[33] QB-J-007-2008 《中国移动省级NG1-BASS技术规范

数据质量管理子系统分册(v1.0)》

中国移动通信集团

公司

[34] QB-J-008-2008 《中国移动省级NG1-BASS业务技术

规范客户分析及运营分册(v1.0)》

中国移动通信集团

公司

[35] QB-J-001-2008 《中国移动省级NG1-BASS业务规范

(v1.0)》

中国移动通信集团

公司

[36] QB-Y-003-2009 《中国移动省级NG1-BASS技术规范

总册(v2.0)》

中国移动通信集团

公司

[37] QB-Y-004-2009 《中国移动省级NG1-BASS技术规范

数据集市分册(v2.0)》

中国移动通信集团

公司

[38] QB-Y-005-2009 《中国移动省级NG1-BASS技术规范

逻辑模型分册(v2.0)》

中国移动通信集团

公司

[39] QB-Y-006-2009 《中国移动省级NG1-BASS技术规范

外部接口分册(v2.0)》

中国移动通信集团

公司

[40] QB-Y-007-2009 《中国移动省级NG1-BASS技术规范

元数据管理分册(v2.0)》

中国移动通信集团

公司

[41] QB-Y-008-2009 《中国移动省级NG1-BASS技术规范

数据质量管理子系统分册(v2.0)》

中国移动通信集团

公司

[42] QB-Y-002-2009 《中国移动省级NG1-BASS业务规范

(v2.0)》

中国移动通信集团

公司

[43] QB-Y-052-2010 《中国移动省级NG2-BASS(v3.0)业务

规范》

中国移动通信集团

公司

[44] QB-Y-053-2010 《中国移动省级NG2-BASS(v3.0)技术

规范总册》

中国移动通信集团

公司

[45] QB-Y-054-2010 《中国移动省级NG2-BASS(v3.0)技术

规范数据集市分册》

中国移动通信集团

公司

[46] QB-Y-055-2010 《中国移动省级NG2-BASS(v3.0)技术

规范逻辑模型分册》

中国移动通信集团

公司

[47] QB-Y-056-2010 《中国移动省级NG2-BASS(v3.0)技术

规范外部接口分册》

中国移动通信集团

公司

[48] QB-Y-057-2010 《中国移动省级NG2-BASS(v3.0)技术

规范元数据管理分册》

中国移动通信集团

公司

[49] QB-Y-058-2010 《中国移动省级NG2-BASS(v3.0)技术

规范数据质量管理子系统分册》

中国移动通信集团

公司

[50] QB-Y-059-2010 《中国移动省级NG2-BASS(v3.0)技术

规范多OP能力交互分册》

中国移动通信集团

公司

[51] QB-Y-060-2010 《中国移动省级增值业务综合运营平

台业务规范(v1.0)》

中国移动通信集团

公司

[52] QB-Y-061-2010 《中国移动省级增值业务综合运营平

台技术规范(v1.0)》

中国移动通信集团

公司

[53] QB-Y-062-2010 《中国移动省级增值业务综合运营平

台技术规范-数据管理分册(v1.0)》

中国移动通信集团

公司

[54] QB-Y-063-2010 《中国移动省级增值业务综合运营平

台接口规范》

中国移动通信集团

公司

[55] QB-Y-039-2011 《中国移动省级NG2-BASS(v3.5)业务

规范》

中国移动通信集团

公司

[56] QB-Y-038-2011 《中国移动省级NG2-BASS(v3.5)技术

规范总册》

中国移动通信集团

公司

[57] QB-Y-040-2011 《中国移动省级NG2-BASS(v3.5)技术

规范数据集市分册》

中国移动通信集团

公司

[58] QB-Y-041-2011 《中国移动省级NG2-BASS(v3.5)技术

规范逻辑模型分册》

中国移动通信集团

公司

[59] QB-Y-042-2011 《中国移动省级NG2-BASS(v3.5)技术

规范外部接口分册》

中国移动通信集团

公司

[60] QB-Y-043-2011 《中国移动省级NG2-BASS(v3.5)技术

规范元数据管理分册》

中国移动通信集团

公司

[61] QB-Y-044-2011 《中国移动省级NG2-BASS(v3.5)技术

规范数据质量管理子系统分册》

中国移动通信集团

公司

[62] QB-Y-045-2011 《中国移动省级NG2-BASS(v3.5)技术

规范OP能力交互分册》

中国移动通信集团

公司

[63] QB-Y-046-2011 《中国移动省级增值业务综合运营平

台业务规范(v1.5)》

中国移动通信集团

公司

[64] QB-Y-047-2011 《中国移动省级增值业务综合运营平

台技术规范(v1.5)》

中国移动通信集团

公司

[65] QB-Y-048-2011 《中国移动省级NG2-BASS技术规范

系统安全管理分册(v1.5)》

中国移动通信集团

公司

[66] QB-Y-044-2012 《中国移动省级NG2-BASS(v4.0)业务

规范》

中国移动通信集团

公司

[67] QB-Y-045-2012 《中国移动省级NG2-BASS(v4.0)技术

规范总册》

中国移动通信集团

公司

[68] QB-Y-045.1-2012 《中国移动省级NG2-BASS(v4.0)技术

规范数据集市分册》

中国移动通信集团

公司

[69] QB-Y-045.2-2012 《中国移动省级NG2-BASS(v4.0)技术

规范逻辑模型分册》

中国移动通信集团

公司

[70] QB-Y-045.3-2012 《中国移动省级NG2-BASS(v4.0)技术

规范外部接口分册》

中国移动通信集团

公司

[72] QB-Y-045.4-2012 《中国移动省级NG2-BASS(v4.0)技术

规范元数据管理分册》

中国移动通信集团

公司

[73] QB-Y-045.5-2012 《中国移动省级NG2-BASS(v4.0)技术

规范数据质量管理子系统分册》

中国移动通信集团

公司

[74] QB-Y-046-2012 《中国移动省级增值业务综合运营平

台业务规范V2.0.0》

中国移动通信集团

公司

[75] QB-Y-047-2012 《中国移动省级增值业务综合运营平

台技术规范V2.0.0》

中国移动通信集团

公司

[76] QB-Y-047.1-2012 《中国移动省级增值业务综合运营平

台技术规范数据管理分册V2.0.0》

中国移动通信集团

公司

[77] QB-Y-044-2013 《中国移动省级NG2-BASS(v4.5)业务

规范》

中国移动通信集团

公司

[78] QB-Y-045-2013 《中国移动省级NG2-BASS(v4.5)技术

规范总册》

中国移动通信集团

公司

[79] QB-Y-045.1-2013 《中国移动省级NG2-BASS(v4.5)技术

规范数据集市分册》

中国移动通信集团

公司

[80] QB-Y-045.2-2013 《中国移动省级NG2-BASS(v4.5)技术

规范逻辑模型分册》

中国移动通信集团

公司

[81] QB-Y-045.3-2013 《中国移动省级NG2-BASS(v4.5)技术

规范外部接口分册》

中国移动通信集团

公司

[82] QB-Y-045.4-2013 《中国移动省级NG2-BASS(v4.5)技术

规范元数据管理分册》

中国移动通信集团

公司

[83] QB-Y-045.5-2013 《中国移动省级NG2-BASS(v4.5)技术

规范数据质量管理子系统分册》

中国移动通信集团

公司

[84] QB-Y-045.6-2013 《中国移动省级NG2-BASS(v4.5)技术

规范安全管理技术方案》

中国移动通信集团

公司

[85] QB-Y-046-2013 《中国移动省级增值业务综合运营平

台业务规范V2.5.0》

中国移动通信集团

公司

[86] QB-Y-047-2013 《中国移动省级增值业务综合运营平

台技术规范V2.5.0》

中国移动通信集团

公司

[87] QB-Y-047.1-2013 《中国移动省级增值业务综合运营平

台技术规范数据管理分册V2.5.0》

中国移动通信集团

公司

3.术语、定义和缩略语

下列术语、定义适用于本规范:

下列略缩语适用于本规范:

4.总体说明

4.1.概述

本规范用于指导企业级省大数据平台数据治理子系统建设,规定了省大数据平台数据治理的范围和要求,明确了数据治理子系统的体系结构,制定了数据治理子系统的功能和处理流程。数据治理子系统包含数据标准管理、元数据管理、数据质量管理、数据资产管理、数据安全管理等功能模块。本方案借鉴资产管理的方法理论来管理数据,将数据作为一种特殊的资产,对进入平台的数据进行标准化的规范约束,并以元数据作为驱动,连接数据的标准

管理、数据质量管理、数据数据安全管理的各个阶段,形成统一、完善的数据治理体系,以解决实际业务问题为导向,增强数据治理子系统对业务发展的支撑能力。

4.2.目标

数据治理子系统的建设为数据治理工作提供强有力的系统支撑。本期规范建设目标是以元数据为驱动,建立省大数据平台完整的数据治理体系。从组织架构、系统功能等方面增强数据宏观管控,并实现精细化管理,具体包括:

●数据治理组织架构管理:定义数据治理所需人员组织上的岗位和职责,从管理角度

支撑数据治理工作的落地和执行。

●数据标准管理:建立企业级省大数据平台数据标准体系,并制定数据标准运维管控

制度和流程。

●元数据管理:降低元数据使用难度、提升用户体验,使大数据平台各类用户均能参

与到元数据运营维护当中。

●数据质量管理:为内、外部用户提供平台化的数据质量监控;通过扩充和优化公共

规则库、保证数据的完整性、一致性、准确性、及时性、合法性,提升用户使用感

知;并提供数据质量应用满足个性化需求。

●数据资产管理:重点建设从规划、注册、运维到注销的全流程管理体系,使数据资

产管理系统化、可视化。

●数据安全管理:建立体系化的数据安全管控策略,通过用户安全管理、数据安全管

理实现全方位数据安全管控机制,通过技术手段与管理措施相结合的方式落实数据

安全,做到事前可管、事中可控、事后可查。

4.3.原则

企业级省大数据平台数据治理子系统建设应遵循以下基本原则:

1.有效性原则

体现大数据平台数据治理过程中数据的标准、质量、价值、管控的有效性、高效性。

2.价值化原则

体现数据治理过程中以数据资产为价值核心,最大化大数据平台的数据价值。

3.统一性原则

体现大数据平台架构统一、标准统一、元数据统一、质量流程统一、资产价值统一的一体化管控平台体系。

4.开放性原则

体现平台化、开放性运维思想,实现人人参与数据治理、人人参与数据运维。

5.产品化原则

体现大数据平台数据治理能力的显性化,通过产品化互联网思维服务大数据平台数据生态圈用户。

6.安全性原则

体现安全的重要性、必要性,保障大数据平台数据安全和数据治理过程中数据的安全可控。

5.数据治理体系

5.1.总体框架

数据治理总体框架包括组织架构、数据治理模块、数据运维三部分。通过组织架构建立管理办法,制定工作流程,确定角色职责。数据治理模块主要包括数据标准管理、元数据管理、数据质量管理、数据资产管理、数据安全管理,各模块协同运营,确保大数据平台的数据一致、安全、有效。数据运维贯穿整个数据治理体系的流程中,实现平台化的运维管理思路。数据治理总体框架如图5-1所示:

图5-1数据治理体系框架

5.2.组织架构

数据治理组织的构建旨在通过建立数据治理组织架构明确各级角色和职责,保障数据治理的各项管理办法、工作流程的实施,推送数据治理工作的有序开展。

5.2.1.组织构成

数据治理组织架构主要由数据治理委员会、数据治理中心和各业务部门构成。组织架构划分和角色设定如图 5-2所示:

图 5-2 数据治理组织架构图

5.2.2.角色职责

组织责任体系是数据治理责任落地的保障,数据治理组织架构通过明确各角色职责,实行认责制度,让数据治理工作更好的融入到数据日常使用和相关的工作中,从而推动数据运维自治的实现,如表5-1。

表5-1数据治理组织架构角色职责定义内容

5.3.系统架构

5.3.1.系统功能框架

数据治理功能框架明确了数据治理在企业级省大数据平台中的定位,并以合理的功能层次划分指导数据治理系统相关功能建设。系统功能框架如图5-3所示。

图5-3数据治理功能框架图

企业级省大数据平台门户:

企业级省大数据平台统一的访问接口,供企业内、外部用户、第三方独立开发者访问及使用数据治理相关产品或功能,并负责统一访问认证及日志记录。

●能力开放平台:

企业级省大数据平台统一的对外服务层,数据治理相关的产品及应用均通过这个层次进行注册、发布,并对内、外部开放。

●数据治理系统:

数据标准:在数据标准管理组织架构推动和指导下,遵循协商一致制定的数据标准规范,借助标准化管控流程得以实施数据标准化的整个过程。

元数据:采用集中式管理模式进行元数据管理,全公司元数据逻辑集中,即元数据管理模块作为公司元数据的统一发布源,集中管理元数据,提供元数据集

中创建、维护、查询功能。

数据质量:对数据从计划、获取、存储、共享、维护、应用、消亡生命周期的每个阶段里可能引发的各类数据质量问题,进行识别、度量、监控、预警等一

系列管理活动,并通过改善和提高组织的管理水平使得数据质量获得进一步提

高。

数据资产:规划、控制、提供数据及信息资产的一组业务职能,包括开发、执行和监督有关数据的计划、政策、方案、项目、流程、方法和程序,从而控制、

保护、提高数据资产的价值。

数据安全:通过计划、制定、执行数据安全政策和安全策略措施,为企业级大数据平台的数据和信息提供行之有效的认证、授权、访问和审计。

数据运维:包括数据资产运维、数据质量运维,借鉴互联网思维,通过产品化运维工具来整体提升企业级大数据平台数据运维效率。

●企业级省大数据平台:

大数据基础平台,负责数据的接入、存储、管理、应用及相关基础功能支撑。

5.3.2.系统模块流程

相关文档
最新文档