FME更新数据库流程

合集下载

fme操作流程范文

fme操作流程范文

fme操作流程范文FME是一种用于数据转换和集成的桌面工具,它可以帮助用户连接和转换各种不同格式和类型的数据。

下面是一个FME的基本操作流程,以便更清楚地了解如何使用该工具。

1. 启动FME:从开始菜单或桌面快捷方式启动FME Desktop。

2.创建一个新的工作空间:在FME界面中,单击“文件”菜单,然后选择“新建工作空间”。

可以选择从头开始创建一个新的工作空间,或者选择一个现有的模板工作空间。

3. 添加数据源:在工作空间中,从“阅读器”(Reader)库中选择一个阅读器,以导入要处理的数据源。

可以选择的阅读器包括常见的格式,如Shapefile、CSV、Excel等,也可以支持特定的数据库格式。

4.设置阅读器参数:通过双击阅读器图标或右键单击并选择“参数设置”来打开阅读器参数设置对话框。

根据数据源的实际情况,设置正确的参数,例如文件路径、文件格式和字段映射等。

5. 添加转换操作:在工作空间中,从“转换器”(Transformer)库中选择一个转换器,以完成所需的数据转换操作。

例如,可以选择一个属性计算器(AttributeCalculator)转换器来计算新的属性字段,或选择一个筛选器(Filter)转换器来过滤数据。

6.连接数据源和转换操作:将数据源连接到转换操作上。

这可以通过从数据源图标拖动输出端口到转换操作的输入端口,或者右键单击转换操作并选择“添加输入端口”再选择数据源。

7.设置转换器参数:通过双击转换器图标或右键单击并选择“参数设置”来打开转换器参数设置对话框。

根据需求,设置正确的参数,例如属性计算公式、筛选条件和空间变换参数等。

8.配置转换器输出:为转换器配置输出端口和输出数据的格式。

这可以通过右键单击转换器并选择“添加输出端口”来添加输出端口,并通过双击输出端口图标或右键单击并选择“参数设置”来设置输出数据的格式。

9.运行工作空间:单击FME界面中的“运行”按钮,以开始执行工作空间中的数据转换操作。

FME更新数据库流程

FME更新数据库流程

一总体流程利用FME 进行数据入库,很多时候能做到事半功倍的效果。

在进行数据迁移之前,一定要充分熟悉原生产机和目的服务器数据库上的表的结构,通过新旧系统对比,找到数据变化的入口。

另此处的示例中用到的版本是FME2014。

FME是 否否是二从(1(2(3(5)(6(7(8转换后显示转换成功字样算成功转换,如下图:三从SDE 迁移到SDE从SDE 转到SDE 与从GDB 转到SDE 的方法类似,主要是数据源类型及目标数据源类型均选择SDE ,如下图所示:检 查无误 后数据 方可 入库四入库常用到的转换器(1)AttributeCreator:修改原有字段的属性值,可设为常量,同时能增加新的字段并设定其值,如JASSTATUS。

属性变化如下:(2)AttributeFilter,属性过滤:根据属性值把要素输出到不同的端口.如把字段NAME属性值为阿城区和爱辉区的属性过滤出来,如下图:(3)AttributeSplitter分割字符串。

例如将字段NAME属性里面包含符号*的文字进行分割。

(4)AttributeCopier复制一个属性为一个新属性。

如将字段为NAME的属性复制到字段为NAME1字段里面。

(5)ListRangeExtractor获取列表中的最小、最大值。

如下图,获取列表中的最大值和最小值。

(6)VertexCreator:将坐标附加到nell、点、文本、线和狐段几何图形上,或用点对象替换已有几何对象。

我们用到最多的是用点对象替换已有几何对象.如下图设置:(7)PointConnector:按照输入点要素的顺序进行连接,以构建线或者面要素。

(8)UUIDGenerator:为每个进入的要素计算通用唯一标示符(UUID),将其作为新的属性添加。

这个在做一些关联数据的时候会经常用到。

一个UUID的例子:6a6bfc86-2a52-4c92-99ee—694183012a16(9)DateFormatter:重新格式化并且替换日期或者时间字符串到新的日期格式,字符串来源可以是几乎任何日期和/或时间格式。

FME 使用手册

FME 使用手册

简介(注意并非针对本文,可能有差异) 改为二维圆弧,圆弧的形状由参数控制,例 如常数或属性值 改为二维矩形,矩形的最大最小坐标为指定 的常数或原始要素的属性值 根据参数创建二维要素,并输入转换流程 改为二维椭圆,椭圆的形状由参数控制 改为二维要素(删除Z坐标) 按格网方式生成一批二维点状要素,须指定 原点和间距 将输入的一批要素改为按格网方式生成的二 维点状要素,格网的范围(至少)覆盖全部 输入要素的外接矩形,格网间距须指定 给要素增加一个二维的节点(最后一个节 点),其坐标由原始要素的属性获得 改为二维的点,其坐标由原始要素的属性获 得 改为二维圆弧(注:原文如此),圆弧的形 状由参数控制,例如常数或属性值 根据参数创建三维要素,并输入转换流程 改为三维要素,Z坐标由指定的属性或常数 获得 三维插值:沿着一个线状要素、根据起始值 和结束值内插高程 给要素增加一个三维的节点(最后一个节 点),其坐标由原始要素的属性获得 改为三维的点,其坐标由原始要素的属性获 得 坐标仿射变换 仿射纠正,用于纠正一批要素使之最接近参 考要素 聚合过滤:根据图形是否为聚合类型而分别 输出
简介注意并非针对本文可能有差异2darcreplacer改为二维圆弧圆弧的形状由参数控制例如常数或属性值2dboxreplacer改为二维矩形矩形的最大最小坐标为指定的常数或原始要素的属性值2dcreator根据参数创建二维要素并输入转换流程2dellipsereplacer改为二维椭圆椭圆的形状由参数控制2dforcer改为二维要素删除z坐标2dgridcreator按格网方式生成一批二维点状要素须指定原点和间距将输入的一批要素改为按格网方式生成的二维点状要素格网的范围至少覆盖全部输入要素的外接矩形格网间距须指定给要素增加一个二维的ห้องสมุดไป่ตู้点最后一个节点其坐标由原始要素的属性获得改为二维的点其坐标由原始要素的属性获得2dgridreplacer2dpointadder2dpointreplacer3darcreplacer改为二维圆弧注

FME更新大数据库流程

FME更新大数据库流程

FME更新大数据库流程1.确定需更新的数据源:首先需要确定哪些数据源需要更新,包括数据的类型、格式和结构等信息。

例如,需要更新的数据源可能包括GIS地理信息系统、数据库、文本文件等。

2.确认更新需求:明确更新需求,包括哪些数据需要更新、如何更新、更新的频率等信息。

根据更新需求制定更新计划和流程。

3.数据清洗:在更新之前,需要对原始数据进行清洗,包括去重、去除冗余数据、统一数据格式等操作,以确保数据的质量和准确性。

4.数据转换:根据更新需求,将原始数据转换成适合目标数据库的格式和结构。

可以使用FME工具进行数据转换,根据不同的数据源和目标数据库,选择合适的转换方法和工具。

5.数据加载:将转换后的数据加载到目标数据库中。

在数据加载的过程中,需要注意数据的完整性和一致性,确保数据加载成功并在目标数据库中正确展示。

6.数据检查和验证:更新后需要对数据进行检查和验证,确保更新的数据准确无误。

可以使用FME工具进行数据质量检查和验证,确保更新的数据符合预期。

7.数据发布和应用:更新完成后,将更新的数据发布到数据库中,并在相应的应用程序中使用更新的数据。

确保更新后的数据可以被正确应用和访问,以满足用户的需求。

8.数据备份和恢复:在更新大数据库的过程中,需要确保数据的安全性和完整性。

及时备份原始数据和更新后的数据,以便在发生意外情况时可以快速恢复数据。

9.监控和维护:更新大数据库是一个持续的过程,需要定期监控数据库的状态和性能,并及时对数据库进行维护和优化。

通过监控和维护,确保大数据库的稳定运行和数据质量。

FME在城市更新数据建库中的运用

FME在城市更新数据建库中的运用

工程建设与设计FM E在城市更新数据建库中的运用Application o f FME in Urban Renewal Data Database李丹峰(广州市城市规划勘测设计研究院,广州510250 )LI Dan-feng(Guangzhou Urban Planning, Survey, Design and Research Institute, Guangzhou 510250, China)【摘要】城市更新基础调查数据包含了基础地形图、房产图、房屋面积明细表、土地权属信息图表等内容城市更新基础调查中数据的真实性至关重要,不但关系到城市更新改造方案的编制,还直接牵涉各方利益只有保证城市更新基础数据库成果的质量,才能在完成测绘任务的同时,保障各方权益论文介绍了传统的建库方法,结合FME在大比例尺数据建库中的应用,阐述基于 FM E平台的城市更新基础调查数据检核【Abstract】The basic survey data of urban renewal includes basic topographic map, real estate map, house area list, land ownership information chart and so on. The authenticity of the data in the basic survey of urban renewal is of great importance, which is not only related to the compilation of urban renewal plan, but also directly related to the interests of all parties. Only by ensuring the quality of the results of the basic database of urban renewal, can the rights and interests of all parties be protected while completing the surveying and mapping task. This paper introduces the traditional database building methods, combined with the application of FME in large scale data building database, and expounds the basic survey data checking of urban renewal based on FME platform.【关键词】大比例尺;基础测绘;FME;数据建库【Keywords】large scale; basic surveying and mapping; FME; data base construction【中图分类号】T P391【文献标志码】A 【DOI 】10.13616/ki.gcjsysj.2021.05.0331引言基础测绘的应用是顺应社会发展优化城市建设进程中 不可或缺的重要手段,开展大比例尺基础测绘和数据建库,不但属于现实信息的高度槪括,还是非常关键的前提性数据 资源。

FME2008操作指南

FME2008操作指南

地籍数据转换思路大纲☐地籍建库中的数据流转过程☐数据转换过程的重要性☐数据转换的基本思路☐常见数据格式介绍☐FME操作地籍建库中的数据流转过程数据转换过程的重要性☐数据是地理信息应用管理系统重要的组成部分,被称为GIS的“血液”。

☐如何实现数据在不同平台、不同格式之间的无损转换,实现数据共享,一直是制约GIS项目进度的瓶颈问题。

☐数据转换是外业数据能够成功应用在GIS管理系统的关键步骤。

☐数据转换过程不是简单的数据格式的转换,大部分的GIS平台软件都提供了一些数据格式的转换工具,但是这些工具基本上都是简单的数据格式的转换。

☐数据转换过程即包含空间数据和属性数据基本数据格式的转换,还包含空间数据符号化、空间数据要素的几何类型匹配、拓扑问题处理、空间数据及属性数据等其他数据的逻辑组织等等处理过程。

☐这里以AutoCAD类型数据转换为例。

数据转换的基本思路☐数据转换的目标就是形成统一标准、统一格式的目标数据;转换过程无数据丢失。

☐这里选择SHP格式作为空间数据的成果格式,是应为SHP 格式是一种开放的空间数据交换格式,在目前使用的GIS系统基本上都实现无损的导入。

☐权属属性数据采用的是access格式存储,扫描件以JPEG 文件方式存储。

☐要使整个转换过程高效率的完成,在这个过程中需要加入两个标准,既源数据的标准和目标格式数据标准。

☐一般的源数据都是基于南方CASS的CAD数据。

CAD(DWG 格式)不是一种GIS数据类型(具体格式介绍见下文)。

因此在源数据的标准既要满足CAD格式要求又要满足GIS类型数据的基本要求。

(如数据精度设置要小于0.0001,绘制图形时一定要有编码,该封闭的要素一定要封闭)常见数据格式介绍☐MAPGIS格式(WT,WL,WP)☐ARCGIS格式(SHP,Geodatabase)☐AUTOCAD格式(DWG,CASS)MAPGIS格式☐WT包含各种点状地物子图、注释、圆等☐WL包含各种线状地物☐WP包含各种面状地物MAPGIS格式☐WT包含各种点状地物子图、注释、圆等☐WL包含各种线状地物☐WP包含各种面状地物☐数据存储方式加密,外部程序无法直接读取。

fme 写模块 追加数据

fme 写模块 追加数据

fme 写模块追加数据FME产品包含以下六个功能模块:(1)FME Workbench当用户定制自己的数据转换时,利用FME Workbench模块,只需要在直观的界面中“指指点点”就可以轻易完成非常复杂的数据转换任务,而且数据转换质量非常理想;能够可视化地定义从原数据到目标数据的对应关系(属性和图形);同时还可以使用该模块进行不同格式数据源的合并工作。

(2)FME Universal Translator该模块是FME的旗舰产品,是一个独立运行的强大的数据转换程序,采用drag-and-drop界面,用户可以轻松地、精确地转换、存储100多种不同格式的数据,用户也可以完成比较复杂的数据处理过程,比如给数据加属性值等。

(3)FME Universal Viewer该模块用于快速预览不同格式的数据。

用户可以在使用Workbench或Translator.模块时,在做数据转换之前预览转换数据(属性和图形)(4)FME Plug-in(SDK)该模块为开发组件,使用该软件开发工具包,开发人员能访问FME强大的语义核心,加入自己定制的数据格式,或者轻松进入FME转换内核去处理(只不过要额外追加费用)。

一旦定制的数据格式加入FME内核就能够被所有的FME用户使用。

(5)FME Object API这个开发接口能把FME的数据访问能力定制置入应用模块,用于增加数据的读、写、处理能力。

开发语言支持Java, C++, C, COM (VB, C#), Delphi 和ArcView Avenue。

(6)FME Application Extenders该模块给用户提供了一个直接访问(读、写)多平台GIS、CAD 和数据库格式的应用。

基于FME的自然资源确权Gdb数据库与Mdb数据库转换浅析

基于FME的自然资源确权Gdb数据库与Mdb数据库转换浅析

基于FME的自然资源确权Gdb数据库与Mdb数据库转换浅析在信息技术飞速发展的今天,数据库转换已经成为一项重要的技术工作。

特别是对于自然资源确权这一领域,如何高效、准确地进行数据转换,确保数据的完整性和一致性,是我们需要深入探讨的问题。

本文将基于FME(Feature Manipulation Engine)工具,对自然资源确权中的Gdb数据库与Mdb数据库的转换进行浅析。

首先,我们要明确一点,数据库转换并不是简单的数据搬家,而是需要考虑到数据的结构、关系以及语义等多方面的因素。

这就像我们在搬家时,不能只是简单地把东西从一个地方搬到另一个地方,还要考虑到家具的摆放、物品的分类等问题。

因此,在进行数据库转换时,我们需要使用一些专业的工具和技术,如FME。

FME是一款功能强大的地理信息系统数据转换工具,它支持超过400种的数据格式,包括Gdb和Mdb。

FME的工作方式就像一个“数据搅拌机”,它可以将不同来源、不同格式的数据进行混合、转换和处理,最后输出我们需要的结果。

在自然资源确权中,Gdb数据库通常用于存储地理信息数据,而Mdb数据库则常用于存储属性数据。

这两种数据库各有其特点和优势,但在实际应用中,我们往往需要将这两种数据库进行转换,以满足不同的需求。

然而,这种转换并非易事。

就像我们在做菜时,不能简单地把食材扔进锅里就能做出美味的菜肴,还需要掌握一定的烹饪技巧。

同样,在进行数据库转换时,我们也需要掌握一些技巧和方法。

首先,我们需要对源数据库和目标数据库进行深入的了解和分析。

这就像我们在做菜前,需要了解食材的特性和口感,才能做出美味的菜肴。

其次,我们需要设计合理的转换策略和流程。

这就像我们在做菜时,需要设计合理的烹饪步骤和时间,才能保证菜肴的口感和营养。

在这个过程中,FME发挥了重要的作用。

它不仅可以帮助我们进行数据的读取、写入和转换,还可以进行数据的清洗、验证和处理。

这就像我们在做菜时,不仅需要烹饪技巧,还需要一些辅助的工具和设备。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

一总体流程
利用FME进行数据入库,很多时候能做到事半功倍的效果。

在进行数据迁移之前,一定要充分熟悉原生产机和目的服务器数据库上的表的结构,通过新旧系统对比,找到数据变化的入口。

另此处的示例中用到的版本是FME2014.
FME入库流程图:











二从GDB迁移到SDE
(1)添加读数据,读入你要加载的GDB数据类型,如下图:
(2)选择你需要更新的文件,在方框前面打勾:
(3)添加写数据:
(5)设置要连接的服务器参数,点击上图中的Parameters,设置如下:
(6)生成文件设置
(7)点击上图中的Format Parameters对转换属性进行设置:
(8)连接好点击即可,转换后显示转换成功字样算成功转换,如下图:
三从SDE迁移到SDE
从SDE转到SDE与从GDB转到SDE的方法类似,主要是数据源类型及目标数据源类型均选
择SDE,如下图所示:
四入库常用到的转换器
(1)AttributeCreator:修改原有字段的属性值,可设为常量,同时能增加新的字段并设定其值,如JASSTATUS。

属性变化如下:
(2)AttributeFilter,属性过滤:根据属性值把要素输出到不同的端口。

如把字段NAME属性值为阿城区和爱辉区的属性过滤出来,如下图:
(3)AttributeSplitter分割字符串。

例如将字段NAME属性里面包含符号*的文字进行分割。

(4)AttributeCopier复制一个属性为一个新属性。

如将字段为NAME的属性复制到字段为NAME1字段里面。

(5)ListRangeExtractor获取列表中的最小、最大值。

如下图,获取列表中的最大值和最小
值。

(6)VertexCreator:将坐标附加到nell、点、文本、线和狐段几何图形上,或用点对象替换已有几何对象。

我们用到最多的是用点对象替换已有几何对象。

如下图设置:
(7)PointConnector:按照输入点要素的顺序进行连接,以构建线或者面要素。

(8)UUIDGenerator:为每个进入的要素计算通用唯一标示符(UUID),将其作为新的属性添加。

这个在
做一些关联数据的时候会经常用到。

一个UUID的例子:6a6bfc86-2a52-4c92-99ee-694183012a16
(9)DateFormatter:重新格式化并且替换日期或者时间字符串到新的日期格式,字符串来源可以是几乎任何日期和/或时间格式。

五入库中可能遇到的问题
(1)非空字段有空的迁不进去。

新表中不能为空的数据,在原表中有空数据存在。

这种情况直接迁移的话就会报“索引超出范围”。

修改方法:
1)先找出新数据库对应表中不能为空的字段,如下图:
2)检查原生产机上对应表的OBJECTID,eventid内容是否有空值。

如果有空值,需要与客户及研发人员沟通,具体情况具体处理。

(2)数据有关联的没有迁移成功。

比如生产机上cpteststation表中的eventid内容里带很多空格,有些表与他的eventid字段关联,但是迁移过去的时候空格去掉了,这个时候两张表就关联不上了。

修改方法:
1)确定eventid有空格:
无空格状态:
有空格状态:
2)在数据库里输入SQL语句进行空格清除:
update cpteststation t set t.eventid=tirm(t.eventid)
(3)FME版本设置不对。

在新系统里有些表是需要注册版本的,如果在catalog里显示已经注册过了,就选择versioning项。

如果是未注册的就选择transactions,如下图所示:
Register with Geodatabase如果是灰色的,就表示已经注册过了。

如果是黑色的就表示未注册,下图就是已经注册版本的情况。

相关文档
最新文档