cData数据集成中间件产品介绍

合集下载

集成中间件的构成和用途

集成中间件的构成和用途

应用部署框架SynchroFrame
应用层
工作流引擎 管理 流程部署 引擎性能监 控 引擎日志管 理 工作流群集 管理 HA群集管 理 工作流对象API DLL API 功能模块管理 流程动态监控 流程统计分析 流程示例 Office文档在线编辑 部门管 理 组织机构建 模
工作流引擎SynchroFLOW
协同消息中间件SynchroMQ
• 高可靠和容错特性
JMS Client JMS Client
• 可靠组播服务器互连
SynchroMQ Server JMS Client
• 完全符合JMS 标准 • 高伸缩性和扩展性
JMS Client
SynchroMQ Server
• 高性能、灵活的数据库
SynchroMQ Server JMS Client
政府行业用户
▲ 中国质量认证中心认证业务管理系统 ▲ 铁道部全网电务管理系统 ▲ 中山市电子政务——网上审批系统(涉及49家委、办、局, 600多项审批业务 ) ▲ 国家总局无线局协同办公平台 ▲ 广东省财政局财务管理系统(20个地市) ▲ 北京市文化局网上审批系统 ▲ 大庆数字化城市管理系统 ▲ 广东省经贸委综合办公系统 ▲ 福建省消防总队综合业务系统(包括省总队和9个地市支队) ▲ 黑龙江省政府采购网 ▲ 江苏省中级人民法院——业务审批系统 ▲ 北京市司法局电子政务网上审批服务系统 ▲ 中国音乐出版社综合信息系统 ▲ 南京市秦淮区政府电子政务系统
应用系统 数据
SynchroPortal 的价值
• • • • •
在一个界面上展现多个不同的系统 一次登录,统一授权认证 界面个性化布局 界面皮肤可随时调整 实现了界面展现与流程、数据、业务的 分离

Exadata产品介绍

Exadata产品介绍
-7-
信贷 ODS
核心
ERP
报表、风险……
标准化,易于部署
• 所有的数据库一体机都是相同的
• • • • • 开箱既用的 经过测试的 支持优异的 没有独特的配置问题 与Oracle工程部使用的配置相同
• 可以运行现有的OLTP和数据仓库应用
• 继承了30多年的Oracle数据库能力
• 无需Exadata认证 部署只需几天, 而无需数月
2台 8Core * 8CPU (128核)
2台 1T内存(2T内存) X2-2: 8台 6Core * 2CPU (96核) 8台 96G内存(768G内存)
1 Cisco 以太网交换机 (48口,10Gb/s)
3 InfiniBand 交换机(满 半) 1 (1/4) (36口, 40Gb/s)
InfiniBand线缆照片
数据库一体机的完整家族
支持 OLTP、数据仓库和大集中等不同工作负载
Oracle Exadata X2-2 Oracle Exadata X2-8
• ¼配、半配、满配和多机架
• 满配和多机架
Exadata X2&X8 满配
14台存储服务器
存储: 高性能:100T 高容量:336T Flash: 14台 * 378G (5.3T) CPU: 14台 6Core * 2CPU (168核) 内存: 14台 * 24G (336G内存) X2-8: 数据库服务器
I/O 吞吐 (磁盘)
25GB/sec
I/O 吞吐(flash)
磁盘 IOPS Flash IOPS 数据加载
75GB/sec
50,000 1,500,000 12TB/小时
新–Exadata数据库一体机X2-8满配

CAITA全模块基本介绍

CAITA全模块基本介绍

CATIA全模块介绍(最新版本CATIA V5R17)作者:TomLee关键词:CATIA,模块,介绍,CATIA V5,CATIA V4,CATIA V5R17,解决方案,资料,教程来源:无维网()CATIA是英文 Computer Aided Tri-Dimensional Interface Application 的缩写。

是世界上一种主流的CAD/CAE/CAM 一体化软件。

在70年代Dassault Aviation 成为了第一个用户,CATIA 也应运而生。

从1982年到1988年,CATIA 相继发布了1版本、2版本、3版本,并于1993年发布了功能强大的4版本,现在的CATIA 软件分为V4版本和 V5版本两个系列。

V4版本应用于UNIX 平台,V5版本应用于UNIX和Windows 两种平台。

V5版本的开发开始于1994年。

为了使软件能够易学易用,Dassault System 于94年开始重新开发全新的CATIA V5版本,新的V5版本界面更加友好,功能也日趋强大,并且开创了CAD/CAE/CAM 软件的一种全新风格。

法国 Dassault Aviation 是世界著名的航空航天企业。

其产品以幻影2000和阵风战斗机最为著名。

CATIA的产品开发商Dassault System 成立于1981年。

而如今其在CAD/CAE/CAM 以及PDM 领域内的领导地位,已得到世界范围内的承认。

其销售利润从最开始的一百万美圆增长到现在的近二十亿美圆。

雇员人数由20人发展到2,000多人。

CATIA是法国Dassault System公司的CAD/CAE/CAM一体化软件,居世界CAD/CAE/CAM领域的领导地位,广泛应用于航空航天、汽车制造、造船、机械制造、电子\电器、消费品行业,它的集成解决方案覆盖所有的产品设计与制造领域,其特有的DMU 电子样机模块功能及混合建模技术更是推动着企业竞争力和生产力的提高。

Exadata数据库一体机介绍

Exadata数据库一体机介绍

Raw Disk1
X2-8
X2-2
X2-2
X2-2
Full Rack Full Rack Half Rack Quarter Rack
High Perf Disk 100 TB 100 TB 50 TB
21 TB
High Cap Disk 336 TB 336 TB 168 TB
• 完整的, 预配置的, 严格测 试的系统提供已优化好的极 限性能
• 随付即用的数据库软硬件一 体系统
• 高可用性、高可扩展性
• Oracle提供整体(软硬件) 技术支持和服务
Exadata的系统架构和配置 模式
<Insert Picture Here>
7
Exadata数据库一体机的全冗余、全并行系统架构
Exadata 数据库一体机介绍
沈建明 资深销售顾问 Oracle中国,系统事业部
Oracle为什么推出Exadata 数据库一体机
<Insert Picture Here>
2
电信运营商现有IT系统面临的挑战
• 计费、帐务、客服、网管等事务型(OLTP)系统 – 业务分散,服务器数量众多,占地多,能耗大 – 处理能力不平衡,计算资源没有得到充分利用 – 系统优化过程复杂,难度大 – 故障处理周期长,影响系统的服务能力
40G IB 8核 24G
Exadata Cell Exadata Cell
N x 1.5GB/s N x 3.6GB/s
• 存储层智能,解决计算能力问题:每个存储单元包括存储、CPU及相应的软件, 处理SQL 及 压缩,恒定的计算能力与存储的比值。
• 横向并发计算,解决带宽和可靠性问题:数据库跨越存储单元横向部署,ASM提供镜像保护, 处理能力与数据量同比扩展。

甲骨文数据库一体机Exadata X3详解

甲骨文数据库一体机Exadata X3详解

甲骨文数据库一体机Exadata X3详解相关专题:创业新闻时间:2013-01-03 09:18Exadata是甲骨文在业界最早推出的集成系统,并在甲骨文各大一体机中拥有最大的销售额和最广的大型用户群。

Larry Ellison在OOW 2012上宣布的第四代数据库一体机产品Exadata X3,不仅在硬件、软件等多个层面都进行了大幅升级,还首次针对推出了1/8配置的产品,以满足中型用户的需求。

一体机/集成系统通过标准化的架构集成了服务器、存储、网络、软件等配置减化了数据中心基础设施部署和运维管理的复杂性,成为企业级用户在云计算和大数据时代最受关注的产品之一。

IDC在其对亚太区ICT市场的十大预测中指出,到 2015 年,65%部署在私有云环境中的服务器将成为一体机用户通过一体机架构可通过预配置和优化处理多重工作负载、减少部署时间并增加不动产的投资回报。

目前一体机市场已经形成了供应商百花齐放的局面,甲骨文、IBM、Teradata、EMC以及与微软合作的惠普、戴尔都推出了一体机产品。

而甲骨文是一体机市场的最早倡导者,该公司已经推出了Exadata数据库一体机、Exalogic中间件一体机、Exalytics商务智能一体机、大数据一体机、SuperCluster一体机、ODA (数据库机)等六个系列的集成系统,其中Exadata是该公司最早推出的一体机,并在甲骨文各大集成系统中拥有最大的销售额和最广的大型用户群。

Larry Ellison在2012甲骨文全球大会(OOW2012)上宣布推出的Exadata X3是该公司Exadata最新的第四代产品,不仅在硬件、软件等多个层面都进行了大幅升级,还首次针对推出了1/8配置的产品,便于在中型用户得到更好的市场认可。

图注:甲骨文全球大会(OOW2012)上展出的Exadata X3(蒋湘辉摄)甲骨文自从在收购Sun以来,硬件系统的收入一直呈不断下滑的态势,但甲骨文的Exadata等一体机产品却获得了大幅增长,并提升了甲骨文的整体利润率。

软件中间件-东方通全线产品描述

软件中间件-东方通全线产品描述

1、SOA集成中间件TongIntegrator v4企业和政府现有的管理信息系统,由于投入的时间、使用的部门、生产的厂家及实现技术等各不相同,造成企业和政府现有的应用信息系统各自独立运行,数据不能共享,各自业务流程不能自动衔接,造成企业和政府内部许多自成体系的信息化孤岛,各个应用系统不能相互协作,形成统一高效的有机整体。

TongIntegratorv4作为东方通科技公司的企业应用集成产品,可以接上上述问题,其主要适用场景就是在两个或更多的异构系统(如不同的数据库、消息中间件、ERP或CRM等)之间进行资源整合(数据整合、应用整合、流程整合),实现互连互通、数据共享、业务流程协调统一等功能,构建灵活可扩展的分布式企业应用。

2、数据集成中间件TongIntegrator v2如何实现应用系统的快速构建,迁移和伸缩,以满足不断变化的市场需求。

如何能够让已有的多种应用系统无缝的集成起来。

如何设计现代IT架构,使系统不仅功能强大和可靠,而且还有强大的灵活性和可扩展性,以满足不断增长的新需求。

TI2能够为需要数据集成的应用提供数据流服务,即需要解决数据从何而来,哪个应用对其感兴趣,以及如何被每个系统使用。

TI2通过把信息提供者和消费者隔离,来构建灵活的系统,使得这些系统不会受到数据的物理位置的影响,也不会受到需要存取数据信息的应用个数的影响。

这样,对于每一个系统就不需要进行特别的定制处理,就可以在系统之间实现信息的集成了。

3、消息中间件TongLINK/Q随着计算机技术的发展,分布式应用系统的应用日益广泛,在这样的环境中,无论硬件还是软件平台都不可能做到统一。

大规模的应用软件通常要求在软、硬件各不相同的分布式网络上运行,由此出现了不同硬件平台、不同网络环境、不同数据库之间的互操作。

为了更好地开发和应用能够运行在这种异构平台上的软件,迫切需要一种基于标准的、独立于计算机硬件及操作系统的开发和运行环境,这就需要中间件技术了。

数据集成中间件

数据集成中间件

1.7. 支持增量更新
对于经常用到的增量更新数据集成中间件做了专门的支持,有效的解决了完全抽取和增量抽取的问题。数据集成中间件中提供多种控件来支持增量更新,增量更新的设计方法也是根据应用场景来选取的。增量更新按照数据种类的不同大概可以分成:1. 只增加,不更新;2. 只更新,不增加;3. 即增加也更新;4. 有删除,有增加,有更新。其中1 ,2, 3种大概都是相同的思路,使用的控件可能略有不同,通用的方法是在原数据库增加一个时间戳,然后在转换之后的对应表保留这个时间戳,然后每次抽取数据的时候,先读取这个目标数据库表的时间戳的最大值,把这个值当作参数
1.1. 图形化界面,使用简单
数据集成中间件充分考虑了用户使用的便捷性和易用性,提供了图形化的开发、管理和监控界面,使非技术人员通过简单的培训也能掌握要高级技术人员通过编程完成的功能。便捷性主要体现在整个抽取、转换、加工整合只要通过简单的拖拽就可以实现。易用性体现在对于任何用户,即便对计算机使用较少的人,只要明白业务需求,通过培训即可轻易自主使用各种图形控件设计自己的业务需求。数据集成中间件完全通过图形化控件实现了具体的业务需求,完成了业务问题的图形化转变。
1.8. 完善的运行、调试、分析、日志管理
数据集成中间件提供了对ETL统一处理过程,包括完整地运行、调试、管理功能以及不同层次级别的日志管理功能、完善的数据审计功能。数据集成中间件有相关的监控预警机制,为作业设计人员,提供了良好的设计环境,使设计人员能全面地观察执行过程。数据集成中间件只是从业务数据源读取数据,即便执行失败也不会对源数据任何做修改,保证了作业正常进行,不影响数据源系统和经营分析系统的正常工作。日志管理功能分出了七个日志级别,从没有日志,到非常详细,为设计人员调试作业、转换提供了多层次的备选方案。

DATASTAGE常用组件的使用

DATASTAGE常用组件的使用

DATASTAGE常用组件的使用Datastage产品开发使用指南北京先进数通信息技术有限公司商业智能应用部Datastage产品开发使用指南文档信息标题 Datastage产品开发使用指南2005-12-22 创建日期打印日期文件名 PMA-003-Datastage产品开发使用指南-V1.0.doc DI\PMA 存放目录所有者北京先进数通信息技术有限公司作者何应龙修订记录日期作者描述文档审核/审批姓名职务/职称审核批准文档分发此文档将分发至如下各人姓名职务/职称- i -Datastage产品开发使用指南目录目录 ..................................................................... ..................................................................... II 1. 引言 ..................................................................... .........................................................................1 2. 常用STAGE使用说明 ..................................................................... ........................................... 1 2.1. SEQUENTIAL FILE STAGE .................................................................. ........................................ 1 2.2. ANNOTATION.............................................................. .............................................................. 4 2.3. CHANGE CAPTURESTAGE .................................................................. ....................................... 5 2.4. COPY STAGE................................................................... .......................................................... 7 2.5. FILTERSTAGE .................................................................. ........................................................ 8 2.6. FUNNEL STAGE .................................................................. ....................................................... 9 2.7. TANSFORMERSTAGE .................................................................. ............................................ 10 2.8. SORTSTAGE .................................................................. ......................................................... 11 2.9. LOOKUP STAGE .................................................................. .................................................... 12 2.10. JOIN STAGE .................................................................. ........................................................ 12 2.11. MERGE STAGE .................................................................. .................................................... 14 2.12. MODIFY STAGE .................................................................. (15)DATA SETSTAGE .................................................................. ................................................ 16 2.13.2.14. FILE SETSTAGE .................................................................. .. (17)LOOKUP FILE SETSTAGE .................................................................. .................................... 19 2.15.2.16. ORACLE ENTERPRISESTAGE .................................................................. ............................... 21 2.17. AGGREGATORSTAGE .................................................................. .......................................... 22 2.18. REMOVE DUPLICATES STAGE .................................................................. .............................. 24 2.19. COMPRESSSTAGE .................................................................. .. (25)EXPAND STAGE................................................................... .................................................. 26 2.20.2.21. DIFFERENCESTAGE .................................................................. ............................................ 27 2.22. COMPARESTAGE .................................................................. ................................................ 29 2.23. SWITCH STAGE .................................................................. ................................................... 30 2.24. COLUMN IMPORTSTAGE ....................................................................................................... 31 2.25. COLUMN EXPORTSTAGE .................................................................. ..................................... 33 3. DATASTAGE ADMINISTRATOR常用配置 ..................................................................... ...... 35 3.1. 设置TIMEOUT时间...................................................................... .......................................... 35 3.2. 设置PROJECT的属性 ..................................................................... ........................................ 36 3.3. 更新DATASTAGE SERVER的LICENSE和本地CLIENT的LICENSE .............................................. 37 4. DATASTAGE MANAGER使用 ..................................................................... ........................... 37 4.1. 导入导出JOB及其它组件...................................................................... ................................ 37 4.2. 管理配置文件 ..................................................................... .................................................. 39 5. DATASTAGE DIRECTOR使用 ..................................................................... .......................... 40 5.1. 察看JOB的状态,运行已经编译好的JOB .................................................................... ......... 40 5.2. 将编译好的JOB加入计划任务 ..................................................................... ......................... 43 5.3. 监控JOB的运行情况 ..................................................................... . (44)- ii -Datastage产品开发使用指南1. 引言DataStage EE的开发主要由DataStage Designer完成。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

cData数据集成中间件产品介绍1.需求背景
近年来,我国的电子政务和企业信息化建设已经进入了一个新阶段,企业面临在不同时期、应用不同技术、与不同的厂商合作,建设了不同规模的应用系统,造成这些系统之间互相独立,不能集成,数据不能共享。

同时,分层管理模式是在国家政府机关和大型企业中普遍采用的一种管理模式,例如政府机关包括中央、省、市、县等若干级,大型企业一般又分为总公司、公司和生产厂等层次,为了加强上级机构对下级的管理和各级机构之间互通信息的需求,各级机构之间需要及时、可靠地交换大量的数据信息。

由于这些数据,可能是不同的系统产生的,如财务系统、人事系统等,这些系统通常都是自治的,并且数据可能是异构的,但又是需要彼此交互的,因此这些机关和企业迫切需要在本机构内,建立一个数据传输和集成的平台。

2.数据集成中间件概述
数据集成中间件通过统一的全局数据模型来访问异构的数据库、遗留系统、Web 资源等。

中间件位于异构数据源系统(数据层)和应用程序(应用层)之间,向下协调各数据源系统,向上为访问集成数据的应用提供统一数据模式和数据访问的通用接口。

各数据源的应用仍然完成它们的任务,中间件系统则主要集中为异构数据源提供一个高层次检索与集成服务。

1
数据集成中间件体系结构图
数据集成中间件是比较流行的数据集成方法,它通过在中间层提供一个统一的数据逻辑视图来隐藏底层的数据细节,使得用户可以把集成数据源看为一个统一的整体。

这种模型下的关键问题是如何构造这个逻辑视图并使得不同数据源之间能映射到这个中间层。

要达成系统的需求,需要借助数据Web服务子系统、数据集成子系统、数据抽取子系统、综合展示子系统等子系统来实现,各子系统之间的结构关系如下图所示:
2
3.数据集成中间件的特点
(1)界面直观,使用简单
数据集成中间件充分考虑了用户使用的便捷性和易用性,提供了图形化的开发、管理和监控界面,使非技术人员通过简单的培训也能掌握要高级技术人员通过编程完成的功能。

便捷性主要体现在整个抽取、转换、加工整合只要通过简单的操作就可以实现。

易用性体现在对于任何用户,即便对计算机使用较少的人,只要明白业务需求,通过培训即可轻易自主使用中间件设计自己的业务需求。

(2)支持各种平台和广泛的数据源
数据集成中间件支持各种字符集的转换,能够运行在多种主流操作系统之上。

数据集成中间件采用高性能的数据抽取接口,通过JDBC、ODBC、JNDI、OCI 等技术支持的各种数据源。

支持常见的数据库,如Oracle、SQL Server、MySQL 等主流数据库,这为提取多数据源数据提供了完备的保障。

(3)丰富的数据转换功能
数据集成中间件包含了丰富的数据转换功能,比如值影射、拆分字段、字段选择、计算器、增加常量、排序纪录、过滤纪录、去除重复纪录、是否为null、行转为列、分组等等。

这些转换控件支持ETL过程中数据转换环节执行顺序、支持的数据平滑化、规范化、聚类等转换操作。

即便对于新出现的特殊转换,我们也可以开发出个性化的转换控件,放入数据集成中间件即可实现即插即用的功能。

(4)灵活的可扩充性,支持二次开发
数据集成中间件通过组件化设计、接口化设计实现了灵活的可扩充性,对于各个模块支持二次开发控件的即插即用。

这样可以有效地对数据转换模块进行二次开发,为用户业务发展、业务变更等提供了可扩充性,使用户花费很小的成本,即可享用定制化的服务。

比如用户需要一个合并纪录的业务要求,那么我们可以在短时间内开发一个“合并纪录”的转换控件,直接放到数据集成中间件中即可
使用。

3
(5)完善的运行、调试、分析、日志管理
数据集成中间件包括完整地运行、调试、管理功能以及不同层次级别的日志管理功能、完善的数据审计功能。

数据集成中间件有相关的监控预警机制,为作业设计人员,提供了良好的设计环境,使设计人员能全面地观察执行过程。

数据集成中间件只是从业务数据源读取数据,即便执行失败也不会对源数据任何做修改,保证了作业正常进行,不影响数据源系统和经营分析系统的正常工作。

4.主要功能界面
(1)数据仓库管理
4
(2)元数据管理
5。

相关文档
最新文档