分布式MySQL数据库集群在线监测系统设计与实现

`

硕士学位论文

（工程硕士）

分布式MySQL数据库集群在线监测系统

设计与实现

DESIGN AND IMPLEMENTATION OF DISTRIBUTED MySQL DATABASE CLUSTER ONLINE MONITORING SYSTEM

黄旭

哈尔滨工业大学

2012年6月

国内图书分类号：TP311 学校代码：10213 国际图书分类号：621.3 密级：公开

工程硕士学位论文

分布式MySQL数据库集群在线监测系统

设计与实现

硕士研究生：黄旭

导师：范国祥高级讲师

副导师：赵威高级工程师

申请学位：工程硕士

学科：软件工程

所在单位：软件学院

答辩日期：2012年6月

授予学位单位：哈尔滨工业大学

Classified Index: TP311

U.D.C.:621.3

Dissertation for the Master‘s Degree in Engineering

DESIGN AND IMPLEMENTATION OF DISTRIBUTED MySQL DATABASE CLUSTER ONLINE MONITORING SYSTEM

Candidate:

Supervisor:

Associate Supervisor: Academic Degree Applied for: Speciality:

Affiliation：

Date of Defence:

Degree-Conferring-Institution: Huang Xu

Senior Lecturer Fan GuoXiang Senior Engineer Zhao Wei Master of Engineering Software Engineering

School of Software

June, 2012

Harbin Institute of Technology

摘要

互联网的发展已经成为了时代发展的代名词，人们对互联网服务的依赖程度逐步增强，对服务的稳定性和健壮性需求越来越强烈，而作为互联网服务核心层的数据层是决定服务质量的关键一层。大型互联网公司往往采用分布式的MySQL数据库集群提供数据服务，如果核心数据库节点发生故障或者数据库配置存在瓶颈，势必会影响服务的质量。因此，在线监测数据库状态，及时发现数据库异常和瓶颈，为数据库故障处理和优化提供支持和决策，这是互联网企业发展研究的重要课题，具有较大研究意义和实用价值。

本文结合作者在腾讯科技公司搜索研发运营部从事的分布式MySQL数据库集群维护工作，提出并实现了一套适用于大型互联网公司的分布式MySQL数据库在线监测系统。本系统的后台使用C和C++语言实现，前台程序是使用PHP进行开发的，后台每分钟采集和加工出数据库集群各节点的监测指标数据，前台展示这些指标数据，展示方式主要是各指标的曲线图。实现后的本系统部署在分布式环境下，负责对腾讯搜索―问问社区‖业务以及广告业务的MySQL数据库集群进行在线监测，对异常状态进行告警，协助业务人员了解业务发展的规模和特点，调整业务环境，为优化数据库以及定位业务的瓶颈和缺陷提供支持。

论文所研究的技术关键主要有如何全面监测分布式环境下MySQL数据库的运行状态，如何保证系统监测数据的在线性，如何实现MySQL数据库监测指标的可配置性，如何保证系统的高扩展性以良好集成未来新增监测需求，如何保证数据在复杂的网络环境下高效和稳定地传输等。

通过本文的研究，最终完成了一套分布式的MySQL数据库集群在线监测系统，为工作人员提供一套完整的监测系统，提高工作的效率，有着较高的使用价值。

关键词：分布式；MySQL数据库；集群；在线监测

Abstract

As the development in recent years, internet has become the synonymous of this age. Information technology has become an indispensable part of people's lives. In this process, people who depends on it has a higher requirement with the stability and robustness of internet service, under such an extremely urgent condition, the stability and robustnes of internet service is directly related to the development of the internet companies. In another respect, the internet service data layer which is the core layer determines the quality of service, users require the service data is high-speed accessed, available online and can not be lost, so how to ensure data efficient and available has become a very important issue to large internet companies. As the large internet companies used to adopt the distributed MySQL database cluster as the data services layer, so if the core database node is fail without in time processing and response, it will have a bad effect to company's revenue. So research on online databases monitoring and detecting the abnormal state of the databases and bottlenecks, troubleshooting and optimizing of database has become the core issue of the internet enterprise, which has a high significance and value.

In this paper, the author will implement a set of large internet companies distributed MySQL database monitoring system according to the working experience in distributed MySQL database maintenance in Tencent company. This system‘s background program is developed with C and C++ language, the foreground program is developed with PHP language.The system is operating in a distributed environment, it will monitor the MySQL database cluster of Tencent WenWen community and the advertising business online. Via online getting the indicators data of distributed MySQL databases, it can detect the abnormal state and warn it, this will help users understand the size and characteristics of business development, make the adjustment of the business environment, in order to optimize the bottlenecks and deficiencies of the database.

This paper will mainly study how to comprehensively monitor the operational status of the MySQL databases in the distributed environment, how to ensure that the system monitoring data is online, how to ensure the MySQL database monitoring indicators is configurable, how to ensure the system's high scalability and how to ensure the efficient and stable transmission of the data in a complex network environment.

Through this study, will finally complete the design and implementation of the distributed MySQL database cluster monitoring system, which will provide a complete monitoring system for users who work on mantaining the MySQL databases and improving the efficiency of the work, it will has a higher significance.

Keywords: distributed, MySQL database, cluster, online monitoring

目录

摘要 ................................................................................................................... I Abstract ................................................................................................................. I I 目录 ................................................................................................................ IV 第1章绪论.. (1)

1.1课题背景及研究的目的和意义 (1)

1.1.1课题来源和背景 (1)

1.1.2 课题研究目的和意义 (2)

1.2课题相关国内外研究状况 (3)

1.2.1 数据库集群基本原理 (3)

1.2.2 MySQL数据库介绍 (4)

1.2.3 MySQL集群在线监测系统国外研究现状 (4)

1.2.4 MySQL集群在线监测系统国内研究现状 (6)

1.3 本论文的主要工作内容 (7)

第2章监测系统需求分析 (8)

2.1 业务需求分析 (8)

2.1.1 系统网络拓扑 (8)

2.1.2 系统业务流程 (9)

2.2 系统监测指标分析 (9)

2.2.1 数据库监测指标说明 (10)

2.2.2 服务器监测指标说明 (11)

2.3 系统使用角色分析 (11)

2.4 系统功能需求分析 (12)

2.4.1 系统数据信息获取功能需求 (12)

2.4.2 监测指标数据计算功能需求 (12)

2.4.3 异常状态告警功能需求 (13)

2.4.4 监测指标合并上传功能需求 (13)

2.4.5 监测指标数据入库功能需求 (13)

2.4.6 前台逻辑功能需求 (13)

2.5 本章小结 (14)

第3章监测系统设计 (15)

3.1 系统总体架构 (15)

3.2 系统功能结构设计 (16)

3.3 系统模块设计 (16)

3.3.1 系统数据信息获取模块设计 (16)

3.3.2 监测指标数据计算模块设计 (19)

3.3.3 监测指标计算注册模块设计 (25)

3.3.4 监测指标合并上传模块设计 (27)

3.3.5 其它模块设计 (28)

3.4系统数据库设计 (28)

3.4.1 数据库核心表设计 (28)

3.4.2 数据库关系图 (30)

3.4.3 数据库优化策略 (31)

3.5 本章小结 (32)

第4章监测系统核心模块实现 (33)

4.1 系统数据信息获取模块实现 (33)

4.1.1 MySQL实例状态获取功能 (33)

4.1.2 数据目录磁盘空间计算功能 (35)

4.1.3 MySQL主从状态获取功能 (35)

4.1.4 MySQL配置文件获取功能 (37)

4.2 监测指标数据计算功能实现 (38)

4.2.1 二进制日志和DNS反解配置项检查功能 (38)

4.2.2 数据库空间大小计算功能 (41)

4.2.3 MySQL数据库状态计算和MySQL配置参数计算功能 (41)

4.2.4 MySQL连接进程计算功能 (44)

4.2.5 MySQL主从同步状态计算功能 (44)

4.2.6 MySQL慢查询和错误日志获取功能 (47)

4.2.7 MySQL用户权限查看功能 (47)

4.2.8 MySQL服务器状态计算功能 (50)

4.3 监测指标计算注册模块实现 (51)

4.4 监测指标合并上传模块实现 (52)

4.5 系统典型运行界面展示 (53)

4.5.1 监测指标数据界面展示 (53)

4.5.2 基础查询界面展示 (54)

4.5.3 SQL数据统计日报界面展示 (57)

4.6本章小结 (58)

第5章监测系统测试 (59)

5.1 测试环境 (59)

5.2 系统功能测试 (59)

5.2.1 监测数据查询功能测试 (60)

5.2.2 详细曲线信息查询功能测试 (61)

5.2.3 用户授权查看功能测试 (62)

5.2.4 错误日志查看功能测试 (63)

5.2.5 慢查询日志查看功能测试 (64)

5.2.6 数据库磁盘占用率查看功能测试 (66)

5.2.7 MySQL配置文件查看功能测试 (67)

5.2.8 连接进程查看功能测试 (69)

5.2.9 系统告警功能测试 (70)

5.3 系统性能测试 (71)

5.3.1 系统数据传输性能测试 (71)

5.3.2 系统并发性测试 (72)

5.3.3 系统资源使用率测试 (72)

5.4 本章小结 (73)

结论 (74)

参考文献 (75)

哈尔滨工业大学学位论文原创性声明及使用授权说明 (78)

致谢 (79)

个人简历 (80)

第1章绪论

1.1课题背景及研究的目的和意义

1.1.1课题来源和背景

本项目的名称为―分布式MySQL数据库集群在线监测系统‖，该项目来源于腾讯科技公司搜索研发运营部运营中心，项目需求由腾讯搜索―问问社区‖和广告业务部门提出。本项目完成后的系统具有的主要功能是以分钟为单位在线监测分布在深圳、上海、北京、天津以及西安五地数据中心下―问问社区‖以及广告业务的MySQL数据库集群，对数据库运行的异常状况进行告警，使―问问社区‖和广告业务的数据库管理员、业务开发人员以及运维人员及时掌握数据库的运行状况，对异常状况进行及时处理，减少经济损失，并对业务的发展和优化提供决策支持。

―问问社区‖和广告业务后台数据都分布式地存储在上述五地数据中心的MySQL数据库集群中。―问问社区‖和广告的业务是腾讯搜索的两个核心业务，关系到搜索业务的整体收益。公司在业务应用服务器上部署―问问社区‖和广告业务的核心业务，业务24小时不间断的运行为用户提供服务，访问量和数据量都很大，产生故障会导致用户数据丢失，引来客户投诉，造成经济损失，这对公司的发展影响很大。由此，线上业务不仅要求服务程序实时稳定，对MySQL数据库运行的稳定和可靠程度也要求非常高。保证MySQL 数据库7×24小时地提供高效可用的服务是非常有必要的，这就迫切需要一套可以在线监测MySQL数据库集群运行状态的系统，为数据库管理员、业务开发人员以及运维人员提供工作支持，使数据库管理人员、业务开发人员和运维人员能够及时了解MySQL数据库集群状态并根据该信息对MySQL 进行高效的维护和优化，提升MySQL数据库集群的稳定性和效率。然而现实的情况是无论是腾讯公司还是其它互联网公司在分布式MySQL数据库集群在线监测方面还存不足。首先，互联网的发展虽然很迅速但还很短暂，其次，MySQL数据库也是在互联网高速发展的环境下才大量应用起来的，对MySQL数据库的监测也处于摸索阶段。正是在这个背景下，―分布式MySQL 数据库集群在线监测系统‖被正式提出。

本系统的使用者主要是―问问社区‖以及广告业务的数据库管理员、业务

开发人员以及业务运维人员，通过使用该系统，数据库管理员和运维人员可以在线获取数据库信息，了解业务发展的规模和特点，调整业务环境，优化数据库。业务的开发人员则可通过使用该系统依据系统提供的信息定位业务的瓶颈和缺陷，进行代码级别的优化，开发更健壮的应用，为业务健康的发展提供支持。

1.1.2 课题研究目的和意义

随着IT技术的高速发展，互联网迎来了一个前所未有的发展高峰，数据呈爆炸式增长，而且随着网络的普及以及无线技术的日益完善，互联网的压力也在快速增加，当今全球互联网用户已有几十亿，面对如此庞大的用户群体，大型互联网业务如何高效处理海量数据以及海量用户访问成为了新一代互联网所要面对的难题，面对如此复杂的网络环境，互联网业务的架构也变得极度复杂，而且随着复杂度的提升业务的可靠性和稳定性也不再那么有效可控，故障和异常状态影响着互联网业务的可用性，成为了互联网业务发展的潜在威胁[1-3]，由此，如何对互联网业务的运行状态进行有效监测，进而保证业务的可靠性和稳定性是非常关键的，而且通过及时有效地了解业务状态信息也可对业务未来的发展以及架构调整提供有力的决策支持[4]。

本文―分布式MySQL数据库集群在线监测系统‖就是针对大型互联网公司后台分布式MySQL数据库集群展开的，互联网公司大多采用MySQL数据库，首先，MySQL数据库处理高并发请求具有很出色的处理性能[5]，其次，MySQL数据库支持集群架构，采用集群架构可以有效缓解海量数据存储实现有效的负载均衡[6]，再次，MySQL数据库是开源免费的[7]，可以节约公司的预算，所以MySQL数据库成为了互联网公司的首选。大型互联网公司后台的数据库存储的数据是海量的，而且数据库请求时刻处于高并发状态，所以数据库的架构非常复杂，往往采用分布式的集群架构，数据库的负载非常高，当系统资源有限的情况下MySQL很容易出现故障[8]，所以为了提高系统的可用性，及时发现潜在故障随时可能对业务的带来的影响，全面而在线地监控MySQL数据库系统成为了关键。本系统的开发具有较深的意义，不仅可以填补腾讯搜索业务在分布式MySQL集群在线监测方面的空白，同时也为其它互联网公司分布式MySQL数据库在线监测提供了解决方案，有着较高的研究和使用价值。