AIX 系统下GOLDENGATE 安装配置文档

AIX 系统下GOLDENGATE 安装配置文档
AIX 系统下GOLDENGATE 安装配置文档

AIX 系统下GOLDENGATE 安装配置文档

- 省直项目数据同步政府事业部(东北大区辽宁研发中心)周健

摘要

Oracle GoldenGate软件是一种基于log(日志)的结构化数据复制软件,它通过解析源数据库在线log或归档log获得数据的增、删、改变化,再将这些变化应用到目标数据库,实现源数据库与目标数据库同步、双活。Oracle GoldenGate 软件可以在异构的IT基础结构(包括几乎所有常用操作系统平台和数据库平台)之间实现大量数据亚秒级的实时复制,其复制过程简图如下:

背景

省直养老保险项目需要开办网上申报系统实现单位网上办事,提高业务经办效率,提升社保中心的整体服务水平。

数据同步接口设计

社保网上服务系统由两个数据库组成:社保系统生产库,网上申报中间库。

1、社保系统生产库:

此库是社保系统生产数据库,存放着所有社保系统核心业务数据。

2、网上申报系统中间库:

此库是网上申报业务实用的核心数据库,它存放着单位结算的查询信息、业务

办理的审批信息、以及企业的申报信息。

社保网上查询使用的数据从中间库取得,通过数据增量同步完成社保生产库和

中间库之间的数据交换。数据同步的周期根据系统的时间运转状况决定,设计中

暂定一天进行一次核对,时间定在晚间20:00点开始,涉及的同步数据用户包括

社保生产库的养老用户(lnsi_yl)和医疗用户(lnsi_yb)。

数据同步目的

网上申报系统需要提供接口能够让参保人员通过英特网进行查询参保和缴费信息以及能够申报自己的缴费基数等信息,这样就必然使外部人员可以访问数据库,从而产生数据库被攻击和篡改的风险。我们通过数据同步就可以实现外网数据和内网数据分离,让外部人员只能访问中间库,不会影响到生产库的安全。

为了能够实现中间库和生产库的实时同步,我们就需要采用goldengate软件来

帮助我们来解决。根据用户的需求,我们需要配置养老和医疗两个生产库用户

的同步脚本。具体配置方案如下:

1配置前期准备工作:

创建goldengate用户并授权

SQL> Create user goldengate identified by goldengate default tablesplce lnsz

temporary temp profile default;

SQL> GRANT CONNECT TO goldengate;

SQL>GRANT ALTER ANY TABLE TO goldengate;

SQL>GRANT ALTER SESSION TO goldengate;

SQL>GRANT CREATE SESSION TO goldengate;

SQL>GRANT FLASHBACK ANY TABLE TO goldengate;

SQL>GRANT SELECT ANY DICTIONARY TO goldengate;

SQL>GRANT SELECT ANY TABLE TO goldengate;

SQL>GRANT RESOURCE TO goldengate;

SQL>GRANT DBA TO goldengate;

2同步配置任务添加

2.1检查是否开启归档

检查语句:select log_mode from v$database;

--修改数据库为归档模式脚本:

SQL>shutdown immediate

SQL>startup mount

SQL>alter database archivelog;

2.2检查数据库属性

#检查数据库属性脚本

SELECT SUPPLEMENTAL_LOG_DATA_MIN,

SUPPLEMENTAL_LOG_DATA_PK,SUPPLEMENTAL_LOG_DATA_UI, FORCE_LOGGING

FROM V$DATABASE;

#如果SUPPLEMENTAL_LOG_DATA_MIN,

SUPPLEMENTAL_LOG_DATA_PK,SUPPLEMENTAL_LOG_DATA_UI返回的结果为"NO",则

进行如下操作

ALTER DATABASE ADD SUPPLEMENTAL LOG DATA;

ALTER DATABASE ADD SUPPLEMENTAL LOG DATA (PRIMARY KEY) COLUMNS;

ALTER DATABASE ADD SUPPLEMENTAL LOG DATA (UNIQUE INDEX) COLUMNS;

ALTER DATABASE ADD SUPPLEMENTAL LOG DATA (FOREIGN KEY) COLUMNS;

alter database force logging;

2.3添加supplemental log

add trandata lnsi_yl.*;

add trandata lnsi_yb.*;

检查是否添加上supplemental log

select * from DBA_LOG_GROUP_COLUMNS where owner='USERNAME' AND table_name='TABLE_NAME';

表字段超过32个字段且无主键的表需要特殊处理

alter table gzsimis.dsdzmx_log add supplemental log group dsdzmx_log_20(fsrq,dzrq,tbsdm,sbbm,dwmc,tzny,ssrq,xzdm,zmdm,je,hdfs,jffs,jfzt,jflx,d zbz,bz,flag,ysje,err,bae203) ALWAYS;

2.4建立goldengate工作目录

将goldengate安装程序拷贝到服务器上去进行解压缩。然后通过命令行进入安装目录后执行ggsic命令登录goldengate控制面板。

执行GGSCI>create subdirs

检查目录的版本及权限

查看版本

uname –a

查看ggs所属的用户权限

ls –ls

如果权限不是oracle权限,需要改变,可以执行

chown -R oracle:oinstall ggs 把ggs的权限变过来

建立goldengate 检查点

GGSCI> dblogin userid goldengate, password goldengate

GGSCI> add checkpointtable checkpointtable

2.5编写源端抽取配置文件

EXTRACT emp_ext

setenv (NLS_LANG = AMERICAN_AMERICA.ZHS16GBK)

setenv (ORACLE_SID=orcl)

USERID lnsi_yl ,PASSWORD 111

transmemory directory (/oracle/ggs/dirtmp,10G,2G),ram2G,transram 500M

warnlongtrans 12h, checkintervals 10m

EXTTRAIL /u01/oracle/ggs/dirdat/et

table lnsi_yl.*;

table lnsi_yb.*;

2.6编写源端投递配置文件

extract emp_pump

setenv (NLS_LANG=AMERICAN_AMERICA.ZHS16GBK)

setenv (ORACLE_SID=orcl)

userid lnsi_yl, password 111

passthru

DISCARDROLLOVER AT 05:30

REPORTROLLOVER AT 05:30

REPORTCOUNT EVERY 1 HOURS, RATE

rmthost 10.56.50.11, mgrport 7810

rmttrail /ggs/dirrepdata/et

DISCARDFILE /ggs/dirrpt/lnsz_dp.dsc, append, megabytes 1024

table lnsi_yl.*,

--TOKENS(committime=@GETENV("GGHEADER","COMMITTIMESTAMP"));

table lnsi_yb.*;

2.7添加源端抽取进程

add ext emp_ext, tranlog, begin now,threads 2

2.8创建本地trail

add exttrail /u01/oracle/ggs/dirdat/et, ext emp_ext

2.9启动抽取进程

ggsci> start emp_ext

2.10创建传输进程

Add extract emp_pump, EXTTRAILSOURCE /u01/oracle/ggs/dirdat/et

2.11创建远端trail

add rmttrail /ggs/dirrepdata/et,extract emp_pump,MEGABYTES 200

2.12启动投递进程

Start emp_pump

2.13检查是否存在长事物(存在长事务必须停掉事务或是等待该事务执行完毕再取scn)

select username, SID||','|| SERIAL# ses, T.STATUS , START_TIME, https://www.360docs.net/doc/114881809.html,, USED_UBLK, USED_UREC

from v$transaction T, v$session S, v$rollstat RS, v$rollname RN

where T.SES_ADDR = S.SADDR and T.XIDUSN = https://www.360docs.net/doc/114881809.html,N and https://www.360docs.net/doc/114881809.html,N = https://www.360docs.net/doc/114881809.html,N

order by USED_UBLK;

2.14取系统scn供初始化用

Select to_char(dbms_flashback.get_system_change_number,

'99999999999999999999') from dual;

2.15进行初始化工作, 禁用目的库job,trigger和外键级联约束

#disable triggers by owner

select 'alter trigger '||owner||'.'||trigger_name||' disable;'

from dba_triggers

where status='ENABLED' and owner in ('LNWBDT','LNWBDT_SP');

#disable jobs

select 'exec dbms_job.broken('||job||',true);'

from dba_jobs

where broken='N' and schema_user in ('LNWBDT','LNWBDT_SP');

select owner,job_name,STATE

from dba_scheduler_jobs

where STATE<>'DISABLED' and owner in ('LNWBDT','LNWBDT_SP');

#disable foreign key by owner

SELECT 'alter table '||owner||'.'||table_name||' disable constraint

'||constraint_name||';'

from dba_constraints

where constraint_type='R' and status='ENABLED' and owner in

('LNWBDT','LNWBDT_SP');

2.16编写目的端复制配置文件

replicat emp_rep

setenv (NLS_LANG=AMERICAN_AMERICA.ZHS16GBK)

setenv (ORACLE_SID=orcl)

userid lnwbdt, password lnwbdt

--SQLEXEC "ALTER SESSION SET COMMIT_WRITE = NOWAIT"

--assumetargetdefs

REPERROR DEFAULT,DISCARD

discardfile /ggs/repjl.dsc,append,megabytes 1024

DISCARDROLLOVER AT 05:30

REPORTROLLOVER AT 05:30

REPORTCOUNT EVERY 1 HOURS, RATE

HANDLECOLLISIONS

DYNAMICRESOLUTION

SOURCEDEFS /ggs/dirdef/lnsi_yl.def

map lnsi_yl.ab01_table, target lnwbdt.ab01, colmap ( usedefaults , xtbz=1 );

2.17创建复制进程

Add replicat emp_rep, exttrail /ggs/dirrepdata/et, CHECKPOINTTABLE

goldengate.checkpointtable,begin now

总结

至此,GOLDENGATE的配置全部结束。由此可以实现为外部网站提供实时数据。这样既满足了用户可以通过网站查询本人的社保业务参保缴费等关键数据。同时又能减少核心经办系统的压力,防止重要信息数据被恶意篡改。

安装AIX操作系统

1.1.1安装操作系统 通过光盘启动系统来进行操作系统的安装,其具体步骤如下: 给主机上电,等主机面板的荧光条显示“OK”。 将AIX 6.1安装盘的第一张光盘放入光驱,打开机器上的电源开关按钮,启动机器。 当图形终端显示如下信息时按…F1?键。进入“System Management Services”图形功能菜单。 缺省输入“admin” 选择5进入如下界面 选择1,然后进入如下界面

选择4,进入如下界面 选择2,然后进入如下界面

选择1,然后进入软件安装启动界面,系统在通过光盘引导下开始操作系统系统的安装。设定安装参数 按“1”键,设置安装操作系统时的语言环境为英语 在如下的BOS系统的安装界面选择“2”,即选择“Change/Show Installation Settings and Install”安装方式

说明: 选项1:按照缺省方式安装操作系统。 选项2:如果要改变安装方式和系统设置。 选项3:进入系统维护模式。 在如下的安装界面中选择“1”,重新设置系统的安装方式 在如上的安装界面中选择“1”,重新设置系统的安装方式后有两个功能选项可以供安装者对系统的安装方式进行重新设置。 A、“Method of Installation”(安装方式),其中有三种安装方式可供选择: - New and Complete Overwrite Installation.(完全覆盖) - Migration Installation.(升级安装)

来安装操作系统,即选择“1”,然后进入如下界面 先输入2将已经选择的hdisk1去掉,然后直接回车或输入0 选择hdisk0作为安装的目标盘。 在完成系统安装方式后将正式开始从光盘安装操作系统

GoldenGate实施参考

安装信息收集 ?收集客户信息(建议至少提前两周) –测试/生产环境 –操作系统列表 –数据库列表 –数据库日志增量评估 ?每天日志增量、峰值日志增量 –网络配置:带宽、端口等 ?带宽评估(如带宽不足,是否需要启动压缩,压缩对CPU占用测试)–数据结构 ?包括表数量、是否存在无主键表、是否有不支持数据类型等 –验证OGG版本可用性! ?针对不同的操作系统和数据库版本下载需要的OGG版本并安装测试

带宽估算 ?根据峰值产生日志量估算带宽占用 ?假设条件 –假设OGG队列与日志比例为1:4。如只复制部分表则此比例可以假设为更低。 –假设网络传输效率为0.7 –假设网络传输压缩比例为1:8。根据数据内容有所变化,一般字符数据较多时压缩比例较大,二进制对象压缩效率较低?带宽估算算法 –以客户业务高峰期每小时产生40G为例,可以估算如下 带宽=40G/3600(秒/小时)/4(日志过滤比例)/8(压缩比率)* 8(每字节8位)/0.7(网络传输效率)=4Mbps

无主键表的复制 ?GoldenGate可以正常复制无主键表,以所有列作为基准代替主键 强烈建议排除掉无主键表或者增加主键(或唯一索引)?强烈建议排除掉无主键表或者增加主键 –一般为临时表或者历史表 –导致附加日志增量较大,可能影响生产系统性能 –目标端replicat投递效率非常低且无法进行优化 –容易出现数据不一致且不易修复 –无法使用HANDLECOLLISIONS ?该参数依赖于表的主键进行逻辑判断,无主键表使用该参数会导 致重复记录出现

AIX操作系统详细配置步骤

AIX操作系统详细配置步骤 1)设置系统时区(非夏令时制、北京时区)和时间。 设置系统时区:“smitty chtz”。(如果在“安装助手阶段”配置过时区,这一步可以忽略) 设置系统时间:“smitty date”。 注意:在设置系统时间前必须确保时区设置正确,时区正确与否可用命令“echo $TZ”查看(在时区不正确的情况下,设置时间是徒劳的)。设置完时区后必须重启系统才能生效。重启后可用命令“echo $TZ”查看时区,正确的时区显示是BEIST-8。然后再对系统时间作调整。系统时间可用命令“date”查看。 2) 修改操作系统参数 需要修改的操作系统参数包括支持的用户最大进程数、High water mark、Low water mark。 设置支持的用户最大进程数:“chdev –l sys0 –a maxuproc=2048” 设置High water mark:“chdev –l sys0 –a maxpout=8193” (对于Power5以前的旧机器,建议设置为513,对于连接7133 SSA的阵列,一定要设置为33) 设置Low water mark:“chdev –l sys0 –a minpout=4096” (对于Power5以前的旧机器,建议设置为256,对于连接7133 SSA的阵列,一定要设置为24) 验证方法: 验证支持的用户最大进程数:“lsattr –El sys0 |grep maxuproc” 显示结果应该为: maxuproc 2048 Maximum number of PROCESSES allowed per user True 验证High water mark值:“lsattr –El sys0 |grep maxpout” 显示结果应该为: maxpout 8193 HIGH water mark for pending write I/Os per file True 验证Low water mark值:“lsattr –El sys0 |grep minpout”

Oracle_11G搭建单实例GoldenGate步骤

Oracle 11G 搭建单实例GoldenGate步骤 1 GoldenGate安装准备 在Oracle官网上下载GoldenGate介质,GoldenGate是包含在Fusion Middleware 类目下面,并上传到源数据库和目标数据库主机; 2 GoldenGate安装过程 注意:此步骤需要在两台主机上操作 2.1 创建GoldenGate操作系统用户 这里直接使用Oracle用户安装GoldenGate,而不创建新的用户。 2.2 创建GoldenGate安装路径 [root@GMDBA ~]# mkdir -p /u01/ggs/11.2.0 [root@GMDBA ~]# mv /u01/software/ogg112101_fbo_ggs_Linux_x86_ora11g_32bit.zip /u01/ggs/11.2.0/ [root@GMDBA ~]# chown -R oracle:oinstall /u01/ggs/ [root@GMDBA ~]# su - oracle 2.3 编辑用户环境变量 [oracle@GMDBA ogg]$ vi ~/.bash_profile # .bash_profile # Get the aliases and functions if [ -f ~/.bashrc ]; then . ~/.bashrc Fi # User specific environment and startup programs PATH=$PATH:$HOME/bin

export PATH export ORACLE_SID=GMDBA export ORACLE_BASE=/u01/app/oracle export ORACLE_HOME=$ORACLE_BASE/product/11.2.0/dbhome_1 export PATH=$ORACLE_HOME/bin:/u01/ggs/11.2.0:$PATH export LD_LIBRARY_PATH=$ORACLE_HOME/lib:/u01/ggs/11.2.0:/lib alias sqlplus='rlwrap sqlplus' alias rman='rlwrap rman' 2.4 安装GoldenGate文件 [oracle@GMDBA ~]$ cd /u01/ggs/11.2.0/ [oracle@GMDBA 11.2.0]$ unzip ogg112101_fbo_ggs_Linux_x86_ora11g_32bit.zip Archive: ogg112101_fbo_ggs_Linux_x86_ora11g_32bit.zip inflating: fbo_ggs_Linux_x86_ora11g_32bit.tar inflating: OGG_WinUnix_Rel_Notes_11.2.1.0.1.pdf inflating: Oracle GoldenGate 11.2.1.0.1 README.txt inflating: Oracle GoldenGate 11.2.1.0.1 README.doc [oracle@GMDBA 11.2.0]$ tar -xvf fbo_ggs_Linux_x86_ora11g_32bit.tar [oracle@GMDBA 11.2.0]$ cd [oracle@GMDBA ~]$ cd /u01/ggs/11.2.0 [oracle@GMDBA 11.2.0]$ ggsci Oracle GoldenGate Command Interpreter for Oracle Version 11.2.1.0.1 OGGCORE_11.2.1.0.1_PLATFORMS_120423.0230_FBO Linux, x86, 32bit (optimized), Oracle 11g on Apr 23 2012 08:09:25 Copyright (C) 1995, 2012, Oracle and/or its affiliates. All rights reserved.

AIX 系统下GOLDENGATE 安装配置文档

AIX 系统下GOLDENGATE 安装配置文档 - 省直项目数据同步政府事业部(东北大区辽宁研发中心)周健 摘要 Oracle GoldenGate软件是一种基于log(日志)的结构化数据复制软件,它通过解析源数据库在线log或归档log获得数据的增、删、改变化,再将这些变化应用到目标数据库,实现源数据库与目标数据库同步、双活。Oracle GoldenGate 软件可以在异构的IT基础结构(包括几乎所有常用操作系统平台和数据库平台)之间实现大量数据亚秒级的实时复制,其复制过程简图如下: 背景 省直养老保险项目需要开办网上申报系统实现单位网上办事,提高业务经办效率,提升社保中心的整体服务水平。 数据同步接口设计

社保网上服务系统由两个数据库组成:社保系统生产库,网上申报中间库。 1、社保系统生产库: 此库是社保系统生产数据库,存放着所有社保系统核心业务数据。 2、网上申报系统中间库: 此库是网上申报业务实用的核心数据库,它存放着单位结算的查询信息、业务 办理的审批信息、以及企业的申报信息。 社保网上查询使用的数据从中间库取得,通过数据增量同步完成社保生产库和 中间库之间的数据交换。数据同步的周期根据系统的时间运转状况决定,设计中 暂定一天进行一次核对,时间定在晚间20:00点开始,涉及的同步数据用户包括 社保生产库的养老用户(lnsi_yl)和医疗用户(lnsi_yb)。 数据同步目的 网上申报系统需要提供接口能够让参保人员通过英特网进行查询参保和缴费信息以及能够申报自己的缴费基数等信息,这样就必然使外部人员可以访问数据库,从而产生数据库被攻击和篡改的风险。我们通过数据同步就可以实现外网数据和内网数据分离,让外部人员只能访问中间库,不会影响到生产库的安全。

AIX操作系统安装

1. AIX操作系统安装 1.1. 安装介质与方式 AIX操作系统的安装方式(Installation Method)有以下四种: 完全覆盖安装:操作系统被安装在rootvg的第一块硬盘上,这将覆盖原系统中所有的系统保留目录。 保留安装:这种安装方式可以保留操作系统的版本不变,同时保留 rootvg上的用户数据,但将覆盖/usr 、/tmp、/var 和/ 目录。用户还可以利用/etc/preserve.list 指定系统安装时需要保留的文件系统。默认的需保留的文件系统为/etc/filesystem 中所列。 升级安装:这种安装方式用于操作系统的升级,这将覆盖/tmp目录。这是系统默认的安装方式。 备份带安装:恢复用mksysb命令生成的安装带中/image.data中指定的文件系统,这种安装方式用于系统(rootvg)的复制。 1.2. BOS(Base Operating System)安装 打开主机电源; 连接好系统终端,把第一张安装介质(磁带、光碟)插入驱动器; 在开机后按<1>(图形终端)进入系统安装画面; 当终端显示如下信息时; ☆☆☆☆☆☆Please define the system console☆☆☆☆☆☆ Type a 1 and press enter to use this terminal as the system console. Type een 1 en druk op enter om deze terminal als de systeemconsole to gebruiken. Skrive tallet 1 og trykk paa enter for aa bruke denne terminalen som systemkonsoll. Pour definir ce terminal comme console systeme, appuyez sur 1puis sur entree. Taste 1 and ansch1iessend die eingabetaste druecken,um diese datenstation als systemkonsole zu verwenden. Prenier I1 tasto 1 ed invio per usare questo terminal como consolo. Escriba 1 y pulse intro para utilizer esta terminal como consola del sistema. a)Tryck paa 1 och sedan paa enter om dy vill att haer terminalen ska vara systemkonsol

GoldenGate监控工具GoldenGate Monito11.1安装配置

GoldenGate Web界面监控工具GoldenGate Monitor的安装、配置及监控 2011年12月

目录 1GoldenGate Monitor介绍 (3) 2环境需求 (4) 2.1Hardware (4) 2.2Software (5) 3安装Monitor Server (5) 3.1安装环境 (5) 3.2创建组和用户 (6) 3.3创建Repository用户 (6) 3.4安装Monitor Server (6) 4配置GoldenGate (14) 4.1配置需求 (14) 4.2配置环境 (14) 4.3需求描述 (15) 4.4检查Monitor Agent安装组件 (15) 4.5源端配置GoldenGate (16) 4.5.1环境变量 (16) 4.5.2Enabling Monitoring (16) 4.5.3配置cfg\Config.properties (16) 4.5.4创建Oracle Wallet (17) 4.5.5启动GoldenGate Manager (17) 4.5.6配置Extract进程及pump进程 (17) 4.6目标端配置GoldenGate (18) 4.6.1环境变量 (18) 4.6.2Enabling Monitoring (18) 4.6.3配置cfg/Config.properties (18) 4.6.4创建Oracle Wallet (19) 4.6.5启动GoldenGate Manager (19) 4.6.6配置Replicat进程 (19) 4.7测试验证 (20) 5GoldenGate Monitor Web (22) 5.1查看当前Lag、Status信息及Message (22) 5.2问题区域 (24) 5.3查询历史事件 (25) 5.4告警条件定义 (27) 6参考 (27)

IBM AIX6.1操作系统安装指导

AIX操作系统安装实施工艺指导 (V1.1)

修改记录

目录 1前言 (4) 1.1编写目的 (4) 1.2预期读者 (4) 2硬件资源划分 (5) 3AIX操作系统安装 (7) 3.1通过光盘的全新安装 (7) 3.1.1BOS基本的操作系统安装 (7) 3.1.2安装扩展软件包 ........................................................................... 错误!未定义书签。 3.1.3打Fix packs补丁 (15) 3.1.4验证软件安装 (16) 3.1.5完成操作系统安装 (16) 3.2通过MKSYSB磁带定制安装 (17) 3.2.1设置启动顺序 (17) 3.2.2选择install from a System Backup的安装方式 (20) 3.2.3开始安装 (21) 3.2.4安装完成后操作系统自动重启动 (22) 4操作系统配置 (23) 4.1设置主机名 (23) 4.2配置IP地址 (24) 4.3配置网络路由 (27) 4.4设置系统时区及时间 (29) 4.5参数设置 (31) 4.6关闭不使用的系统服务 (32) 4.7LVM管理 (33)

1前言 1.1编写目的1.2预期读者

2硬件资源划分 对于型号为p570、p590、p595的设备,需要划分分区或全分区使用时,需要考虑板卡冗余配置,因为如果rootvg的两块镜像磁盘连接在同一个SCSI背板上,背板或SCSI总线出故障时,rootvg镜像将失效,会影响整个系统运行。为了避免硬件的单点故障,建议遵循以下原则进行板卡划分: 1、rootvg的两块镜像硬盘,分布到不同背板的I/O插槽内 2、光纤卡的两块HBA卡,分布到不同背板的I/O插槽内 3、网卡的主、备卡,分布到不同背板的I/O插槽内 p570,如下图,镜像的盘或卡应该分别纵向不同的Node上 p59X,如下图,rootvg镜像的两块磁盘分别分布在P1、P2上,如红色填充的146G硬盘

OGG(oracle+GoldenGate)学习笔记

Oracle GoldenGate测试文档 1.Oracle GoldenGate介绍 (1) 2.Oracle GoldenGate For Oracle(windows 平台) 安装 (5) 3.数据库复制实施文档(DML) (7) 3.1准备工作 (7) 3.2配置GoldenGate (8) 3.2.1配置SourceDB的GoldenGate (8) 3.2.2 配置TargetDB的GoldenGate (9) 3.3 测试DML操作 (11) 4.GoldenGate Support DDL安装 (15) 5.玩玩GoldenGate (23) 1.Oracle GoldenGate介绍 GoldenGate TDM(交易数据管理)软件是一种基于日志的结构化数据复制软件,它通过解析源数据库在线日志或归档日志获得数据的增删改变化,再将这些变化应用到目标数据库,实现源数据库与目标数据库同步、双活。GoldenGate TDM 软件可以在异构的IT基础结构(包括几乎所有常用操作系统平台和数据库平台)之间实现大量数据亚秒一级的实时复制,其复制过程简图如下: 如上图所示,GoldenGate TDM的数据复制过程如下: 利用捕捉进程(Capture Process)在源系统端读取Online Redo Log或Archive Log,然后进行解析,只提取其中数据的变化如增、删、改操作,并将相关信息转换为GoldenGate TDM自定

义的中间格式存放在队列文件中。再利用传送进程将队列文件通过TCP/IP传送到目标系统。捕捉进程在每次读完log中的数据变化并在数据传送到目标系统后,会写检查点,记录当前完成捕捉的log位置,检查点的存在可以使捕捉进程在中止并恢复后可从检查点位置继续复制; 目标系统接受数据变化并缓存到GoldenGate TDM队列当中,队列为一系列临时存储数据变化的文件,等待投递进程读取数据; GoldenGate TDM投递进程从队列中读取数据变化并创建对应的SQL语句,通过数据库的本地接口执行,提交到数据库成功后更新自己的检查点,记录已经完成复制的位置,数据的复制过程最终完成。 由此可见,GoldenGate TDM是一种基于软件的数据复制方式,它从数据库的日志解析数据的变化(数据量只有日志的四分之一左右)。GoldenGate TDM将数据变化转化为自己的格式,直接通过TCP/IP网络传输,无需依赖于数据库自身的传递方式,而且可以通过高达9:1的压缩率对数据进行压缩,可以大大降低带宽需求。在目标端,GoldenGate TDM可以通过交易重组,分批加载等技术手段大大加快数据投递的速度和效率,降低目标系统的资源占用,可以在亚秒级实现大量数据的复制,并且目标端数据库是活动的 GoldenGate TDM提供了灵活的应用方案,基于其先进、灵活的技术架构可以根据用户需求组成各种拓扑结构,如图所示:

AIX系统内核参数配置

AIX 系统参数配置 AIX内核属于动态内核,核心参数基本上可以自动调整,因此当系统安装完毕后,应考虑修改的参数一般如下: 一、单机环境 1、系统用户的最大登录数maxlogin maxlogin的具体大小可根据用户数设定,可以通过smitty chlicense命令修改,该参数记录于 /etc/security/login.cfg文件,修改在系统重新启动后生效。 2、系统用户的limits参数 这些参数位于/etc/security/limits文件中,可以把这些参数设为-1,即无限制,可以用vi 修改 /etc/security/limits文件,所有修改在用户重新登录后生效。 default: fsize = 2097151 ----》改为-1 core = 2097151 cpu = -1 data = 262144 ----》改为-1 rss = 65536 stack = 65536 nofiles = 2000 3、Paging Space 检查paging space的大小,在物理内存2G,可作适当调整。同时在创建paging space时, 应尽量分配在不同的硬盘上,提高其性能。利用smitty chps修改原有paging space的大小或smitty mkps增加一块paging space。 4、系统核心参数配置 利用lsattr -Elsys0 检查maxuproc, minpout, maxpout等参数的大小。maxuproc为每个用户的最大进程数,通常如果系统运行DB2或ORACLE是应将maxuproc调整,Default:128、调整到500,maxuproc增加可以马上起作用,降低需要AIX重起。当应用涉及大量的顺序读写而影响前台程序响应时间时,可考虑将maxpout设为33, minpout设为16,利用smitty chgsys来设置。 5、文件系统空间的设定 一般来说,系统的文件系统/、/usr、/var、/tmp的使用率不要超过80%,/tmp建议至少为300M,文件系统满可导致系统不能正常工作,尤其是AIX的基本文件系统,如/ (根文件系统)满则会导致用户不能登录。用df 查看。 # df -k (查看AIX的基本文件系统) Filesystem 1024-blocks Free %Used Iused %Iused Mounted on /dev/hd4 24576 1452 95% 2599 22% / /dev/hd2 614400 28068 96% 22967 15% /usr /dev/hd9var 8192 4540 45% 649 32% /var /dev/hd3 167936 157968 6% 89 1% /tmp /dev/hd1 16384 5332 68% 1402 35% /home 利用smitty chfs扩展文件系统的空间。 6、激活SSA Fast-Write Cache 利用smitty ssafastw来激活每一个逻辑盘hdiskn的Fast-Write Cache:选择硬盘后,把Enable Fast-Write一项改为Yes后回车即可。 7、激活AIO

GOLDENGATE MONITOR11.2.1安装手册

1、环境说明 2、文件系统设计2.1 文件系统规划 2.2 文件系统创建 --创建/monitor文件系统: # lvcreate -L 100G -n lvmonitor rootvg

# mkfs -t ext3 /dev/rootvg/lvmonitor # mkdir /monitor # mount /dev/rootvg/lvmonitor /monitor --创建/oradata文件系统: # lvcreate -L 100G -n lvoradata rootvg # mkfs -t ext3 /dev/rootvg/lvoradata # mkdir /oradata # mount /dev/rootvg/lvoradata /oradata --创建/u01文件系统: # lvcreate -L 50G -n lvu01 rootvg # mkfs -t ext3 /dev/rootvg/lvu01 # mkdir /u01 # mount /dev/rootvg/lvu01 /u01 2.3 修改/etc/fstab vi /etc/fstab 添加如下内容: /dev/rootvg/lvu01 /u01 ext3 defaults 1 2 /dev/rootvg/lvoradata /oradata ext3 defaults 1 2 /dev/rootvg/lvmonitor /monitor ext3 defaults 1 2 3、资料库安装 3.1 操作系统配置 3.1.1 检查操作系统包 rpm -q --qf '%{NAME}-%{VERSION}-%{RELEASE} (%{ARCH})\n' binutils \ compat-libstdc++-33 \ elfutils-libelf \ elfutils-libelf-devel \ gcc \ gcc-c++ \ glibc \

GoldenGate运维手册

GOLDENGATE运维手册 2014年4月 文档修改记录

目录 1OGG常用监控命令------------------------------------------------------------- 5

1.2启动GoldenGate进程 ----------------------------------------------------------------------- 5 1.3停止GoldenGate进程 ----------------------------------------------------------------------- 6 1.4查看整体运行情况---------------------------------------------------------------------------- 8 1.5查看参数设置 ---------------------------------------------------------------------------------- 9 1.6查看进程状态 ---------------------------------------------------------------------------------- 9 1.7查看延时--------------------------------------------------------------------------------------- 10 1.8查看统计信息 -------------------------------------------------------------------------------- 11 1.9查看运行报告 -------------------------------------------------------------------------------- 11 2OGG的常见运维任务指南------------------------------------------------------ 13 2.1配置自动删除队列-------------------------------------------------------------------------- 13 2.2配置启动MGR时自动启动Extract和Replicat进程----------------------------- 13 2.3配置MGR自动重新启动Extract和Replicat进程-------------------------------- 14 2.4长事务管理------------------------------------------------------------------------------------ 14 2.5表的重新再同步(需时间窗口) ------------------------------------------------------ 17 2.6表的重新再同步(无需时间窗口)--------------------------------------------------- 17 3数据结构变更和应用升级------------------------------------------------------ 19 3.1(仅复制DML时)源端和目标端数据库增减复制表 -------------------------- 19 3.2(仅复制DML时)修改表结构 -------------------------------------------------------- 21 3.3(仅复制DML时)客户应用的升级 ------------------------------------------------- 21 3.4配置DDL复制自动同步数据结构变更----------------------------------------------- 23 (一)是否打开DDL复制 ------------------------------------------------------------------------------------- 23 (二)打开DDL复制的步骤 ---------------------------------------------------------------------------------- 23 (三)DDL复制的典型配置----------------------------------------------------------------------------------- 25 4异常处理预案---------------------------------------------------------------- 26 4.1网络故障--------------------------------------------------------------------------------------- 26 4.2RAC环境下单节点失败 ------------------------------------------------------------------- 27 4.3Extract进程常见异常 ---------------------------------------------------------------------- 27 4.4Replicat进程常见异常--------------------------------------------------------------------- 28 4.5异常处理一般步骤-------------------------------------------------------------------------- 28 5附录------------------------------------------------------------------------ 30 5.1Oracle GoldenGate V11.1数据复制限制 --------------------------------------------- 30 (四)不支持文件等非结构化数据复制------------------------------------------------------------------ 30 (五)Oracle数据类型限制 ----------------------------------------------------------------------------------- 30

GoldenGate_Director配置手册

Oracle GoldenGate Director配置手册 一.GoldenGate Director介绍 GoldenGate Director可以简化GoldenGate的监控和管理,可以通过图形界面或者web浏览器方便快捷的维护整个环境中的GoldenGate组件。 二.GoldenGate Director的组件 2.1 结构图如下 2.2 GoldenGate instances 每个实例就是一个ggsci的mgr进程,我们只要指定相应的IP(dns)和端口就可以连接到该实例,对于大规模的应用,最好采用dns解析的方式。 2.3 GoldenGate Director Server 管理所有连接的实例,这个server是基于weblogic的。主要包含一些应用程序和Monitor Agent

用于存储GoldenGate Director的信息,包括用户,组,拓扑图,event等等的信息 2.5 GoldenGate Director Client 通过图形界面管理实例 2.6 GoldenGate Director Web 这应该是大家最喜欢的工具了,可以通过web界面监控当前环境下的golden gate进程2.7 GoldenGate Director Administrator 用于配置Director Server 三.GoldenGate Director的安装 3.1 安装weblogic GoldenGate Director是运行在weblogic上的一个服务,所以必须先安装weblogic 安装比较简单,过程省略 3.2 准备数据库 数据库是用于GoldenGate Director database,目前只支持以下三种 ?MySQL 5.x Enterprise version. ?SQL Server 2000 and 2005 ?Oracle 9i or later. 我一般都选用mysql,因为量级轻,速度快,便于管理。特别提示要提前准备一个用户,该用户的密码必须是8位 安装过程省略 3.3 安装GoldenGate Director 执行gg-director-serversetup_unix_*.sh开始安装server 执行gg-director-client_unix_*.sh开始安装client端 安装过程都很简单,只要按照提示输入相应的值就好了。 四.管理配置

IBM_AIX6操作系统部署方案设计和安装配置指南

信息化标准体系文档 AIX6.1操作系统部署方案设计和安装 配置指南 (V1.1)

北京数据中心开放系统平台管理部 2011-3

修改记录 人都无权复制或利用。 ?Copy Right 2005 by China Construction Bank

目录 1前言 (7) 1.1编写目的 (7) 1.2预期读者 (7) 2系统部署模式 (8) 2.1单机模式 (8) 2.2基于系统技术的HA方案; (8) 2.2.1Active-Standby主备方式 (9) 2.2.2Active-Active 互备方式 (9) 2.2.3一备二模式 (9) 2.2.4循环备份模式 (10) 2.2.5Concurrent并行处理模式 (11) 2.3基于软件技术的CLUSTER方案 (11) 2.4基于网络硬件设备的负载均衡方案 (11) 3应用部署建议 (12) 4系统设计考虑的因素 (13) 4.1用户 (13) 4.2相关命名 (13) 4.3存储/本地盘容量限制 (13) 4.4系统网络 (14) 4.5参数设置 (14) 4.6软件安装 (14) 4.7空间规划 (15) 4.8安全加固 (15) 4.9时钟同步 (16) 5命名规范 (17) 5.1资源分配原则 (17) 5.1.1设备分档 (17) 5.1.2资源调整 (17) 5.2机器及机柜的编号规则 (17) 5.2.1机柜的命名和编号规则 (17) 5.3分区使用规范 (18) 5.3.1分区的部署原则 (18) 5.3.2分区资源的分配原则 (18) 5.4主机命名原则 (20) 5.5用户及用户组命名 (21) 5.5.1目标 (21) 5.5.2指导方针 (21) 5.5.3用户组 (22)

GoldenGate_Oracle数据仓库解决方案——集中复制配置

Oracle GoldenGate 数据仓库解决方案 集中复制适宜的环境 集中复制的优缺点 多对一数据同步(集中复制) 多对一数据同步架构: 多对一数据同步实现方式同一对多,也是将extract-replicat将进程拆分成多个。 多对一同步需要注意的是,所有源端和目标端的表都应该使用一致的主键约束,而且在不同的源端不应该对同一键值的数据进行维护。也就是说,需要在业务上将不同源的数据隔

离开来,以防止对同一数据的覆盖更改等问题。一般用于维护业务的区域性数据、然后统一同步到业务中心数据源的业务场景。 还有一个需要注意的方面是TRUCATE的捕获,在多对一的配置下应避免捕获。因为GoldenGate处理TRUNCATE同步是直接传输了这个语句,并不会提供具体删除的数据信息(没有REDO也无法提供),所以无论哪个源端执行了TRUNCATE,如果同步到了目标端,都会直接把目标端的表数据直接删光,无论目标数据是否是来源于这个源,造成数据的不一致。 oracle goldengate 容灾、双业务详细配置 SourceDB: 192.168.1.150:7809 192.168.1.151:7809 TargetDB: 192.168.4.252:7809 软件准备: 1.Oracle10. 2.0.1 2.ggs_Windows_x86_ora10g_32bit 3.wls1033_win32 4.gg-director-serversetup_win_v11_1_1_1_0_001 5.gg-director-clientsetup_win_v11_1_1_1_0_001 ============================== Weblogic Server 11g 用户 weblogic/12345678 Oracle DataaBase 添加用户 Oracle GoldenGate Director Server11.1.1.1.0_001 专用 database user: ggserver/ggserver11 配置 alter database add supplemental log data; alter database add supplemental log data (primary key,unique,foreign key) columns; GoldenGate用户 专用 gatedba/gatedba 测试同步用户 gate01/gate01 ===================== 步骤:

IBM+AIX+7操作系统安装过程

IBM AIX 7操作系统安装过程 AIX 7 刚出来,今天凑巧搞了张AIX7的盘来,新版本哦,马上安装试下。 废话不说,直接上图O(∩_∩)O~ 此乃入门贴,没神马技术含量哈 等俺研究研究后,再把心得写出来哈哈~ 机器配置:IBM Power ,内存 8 G 1. 将盘插入后,和以前一样,在启动的时候,当出现有“5=Default Boot List”时,就按5吧; 然后会进入管理菜单,你选择 3 后回车,然后输入提示的秘密:admin 即可进入下一个画面,这个时候要等会儿了。 2. 好了,现在出现的画面仍然和原来一样,IBM 真是不落俗套啊,都 7 了还是个难看的字符界面o(╯□╰)o 按 F1 然后回车即可,会出现下面短暂的画面:

3. 然后总算出现了一张 AIX 7 的华丽丽的焕然一新的界面了: 不过搞不懂为什么旁边仍然写的是 AIX6 ? BUG? 晕死~~

不管了,理所当然选择 English,然后进入下面的界面中: 这个简单明了,GUI上的字我就不解释了,需要说的就是,如果选择 Traditional Install 的话,那么界面就又会和AIX 6之前的安装界面的,和以前一模一样的;我当然是选择Quick Install 啦。 4. 接下来就是安装摘要,如图:

5. 没什么好改的,就用默认配置,选择 Start Quick Install ,开始安装了~~

6. 安装完成后会自动重启,进入 Configuration Assistant 界面: Accept 后,如图:

继续 Next: 上面的配置都很傻瓜,配置完成后继续 Next 。 点击 Finish 配置完成!

Oracle Goldengate Monitor12c安装配置指南12.1.3

Oracle Goldengate Monitor 12c安装配置指南 1、架构 2、12c版monitor安装流程 Monitor server的安装: 检查前提要求->OUI安装monitor server->RCU(Repository Configuration Utility)创建数据结构->使用向导为oracle数据库创建weblogic domain(如果非oracle数据库如:mysql 或sqlserver,参考手册中的1.5和4.2)-> 手工配置完成domain的创建-> 启动monitor server -> welogic中用户的配置。 Monitor agent的安装: 安装monitor agent -> 创建和配置agent实例

3、Monitor Server的安装 3.1 前提要求 Monitor server: 需要安装JDK1.7(参考director安装) Orace11g或12c(mysql5.5、sqlserver2008,2012),字符集AL32UTF8 Weblogic12c(12.1.3),但是需要下载的包是:Oracle Fusion Middleware 12c (12.1.3.0.0) Infrastructure,单weblogic无效。 /etc/hosts文件: Monitor server和被监控的主机之间配置上hosts文件解析,都含有monitor server和agent 的条目 建议monitor server单独放一台机器,和agent所在不混用。 3.2 安装Oracle Fusion Middleware 12c (12.1.3.0.0) Infrastructure

相关文档
最新文档