遥感大数据平台介绍及应用

合集下载

科技成果——空天大数据承载与智能服务平台GEOVIS5

科技成果——空天大数据承载与智能服务平台GEOVIS5

科技成果——空天大数据承载与智能服务平台GEOVIS5技术开发单位航天星图科技(北京)有限公司技术概述该平台是海量空天地数据(卫星遥感、航拍视频、物联网传感器)的资源共享服务平台,其核心理念是跨地域、跨领域、跨部门实现多源异构数据的承载、组织管理、信息融合、可视化展示以及共享服务。

平台以“微内核+插件”的开放式架构,实现空天地大数据融合、处理、应用功能。

该平台典型产品形态是数字地球系统,可作为航天地面系统的核心平台、国土资源调查平台、多源卫星图像协同管理平台,是数据产品组织、共享交换的中心枢纽,通过分布式多中心的资源共享服务,实现多源数据的融合集成和共享应用。

主要技术指标1、高效时空一体化数据组织管理与服务:具备基于时间、空间、属性和事件的数据关联模型,可对分散管理的各类数据进行有序组织与关联,为多源数据融合应用提供基础。

2、分布式多中心对等环网体系架构:采用分布式多中心对等环网体系架构,支持资源目录、元数据共享,异地多数据中心虚拟整合,可实现多源异构大数据“一张图”融合共享。

3、虚拟化与微服务架构:提供虚拟化计算和存储平台和通用服务调度框架,与底层软硬件基础设施环境和平台解耦合。

4、国产自主可控:与国产硬件和操作系统深度适配,兼容商用与国产软硬件系统。

先进程度国际先进技术状态批量生产、成熟应用阶段适用范围国防、交通、国土、应急、安全、农业和海洋等行业领域获奖情况2014年获军队科技进步奖三等奖;2015年获军队科技进步二等奖。

专利状态授权发明专利1项。

合作方式许可使用技术服务预期效益2016-2022年间遥感卫星数据和增值产品投入将达377亿美元,预计到2024年全球商业遥感市场规模将达51亿美元。

近年来,我国卫星遥感行业规模也逐年增加,截止2018年H1,中国遥感行业市场规模达57.4亿元,卫星遥感行业未来发展前景广阔。

GEOVIS5产品将开展GEOVIS+国防,GEOVIS+国土,GEOVIS+交通,GEOVIS+智慧城市,GEOVIS+环境等领域行业应用,将全面深入推动我国卫星遥感行业的应用。

“海洋卫星遥感实况”小程序功能与应用

“海洋卫星遥感实况”小程序功能与应用

日台风“烟花”多星融合海面风场 图1 小程序显示的海洋卫星要素产品
图2 历史台风选择路径显示
(b)4月15日海面温度
2.历史台风与路径展示
点击【历史台风】按键,进入历史台风
模块,勾选需要查看的台风,即可在GIS 上
展示所选的台风路径,最多可选择5个,可
方便多个台风路径比较分析。

台风数据自
年开始,每年台风数量、名称、路径均
可显示,为历史大数据提供参考。

图2选择
号台风“麦莎”与2021年6号
年8号台风“巴威”、
号台风“美莎克”、10号台风“海神”(三
图3 卫星云图选择及卫星云图显示
(a)南极周边海面风场与船舶位置信息 (b)南极周边海面温度信息
以及船舶信息
(c)北极海冰与船舶信息
图4 极地遥感产品
(d)雪龙船航线中全球海面
风场及海上船舶信息 展示了南极周边
海面风场信息与船舶信息、南极周边海面温度信
息、雪龙船航线中全球海面风场及周边船舶信息显示界面,还可浏览海岸带成像仪覆盖南北极区域的遥感图像。

遥感卫星应用典型案例

遥感卫星应用典型案例

遥感卫星应⽤典型案例遥感卫星应⽤典型案例⼀、河北⽣态保护修复遥感监测河北省卫星中⼼针对河北省86 个⼭⽔林⽥湖⽣态修复治理试点⼯程项⽬的⼯程进度、质量和效果的监管与评估(图1),进⾏了卫星遥感监测,完成野外核查180 处,为管理部门科学决策提供了⽀持。

图1湿地⽣态恢复⼯程遥感监测⼆、⼭西别墅分布卫星遥感监测⼭西省卫星中⼼充分利⽤遥感技术⼿段,开展了全省别墅分布卫星遥感监测排查,共排查5 类保护区内别墅及疑似别墅467处,其中别墅100 处,疑似别墅367 处。

建⽴了监管平台,整合线上、线下资源,逐⼀对别墅解译结果进⾏排查,建⽴详细台账,监测成果为⼭西省别墅专项整治⼯作提供了基础数据⽀撑。

三、内蒙古“⼀湖两海”⽣态变化遥感监测内蒙古卫星中⼼利⽤中⾼分辨率遥感影像数据,对乌梁素海、岱海、呼伦湖三个湖泊的⽔域⾯积、⽔量、⽔温、⽔⽣植被、⽔质和周边地表覆盖变化情况进⾏了长时序监测,总监测⾯积达5460 平⽅千⽶,客观反映了“⼀湖两海”⽣态环境变迁和⽣态保护成效,为内蒙古审计厅对“⼀湖两海”⽣态专项审计提供了专业全⽅位的地理信息⼤数据⽀撑,也为凉城县找准岱海⽔质变化、主要污染源来源及⽔域⾯积减少的主要症结提供了准确、宏观的数据参考。

四、⿊龙江耕地保险理赔遥感服务2019 年,⿊龙江省农作物受⽔灾影响,受灾⾯积较⼤,对农户造成较⼤损失。

⿊龙江省卫星中⼼与保险公司合作,利⽤卫星遥感技术,计算耕地⽔灾⾯积和程度,全⾯提升了农业保险理赔服务的专业化、规范化和科学化⽔平。

五、全国冰川遥感监测利⽤15 ⽶卫星遥感数据,采⽤⼈机交互解译⽅法,完成了2000年和2015 年中国范围⼭地冰川遥感解译制图与变化信息提取(图2),相关成果为全球⽔资源和⽓候变化研究、灾害监测预警等提供了准确参考。

图2冰川变化遥感监测六、上海⽔⽣植物综合治理为实现早发现、早整治⽬标,降低综合治理成本,上海市卫星中⼼通过多源⾼分辨率卫星和⽔上视频定点监控的技术⼿段,结合点、线、⾯全⽅位多尺度的遥感⼤数据分析,研究确定⽔⽣植物在上海市的来源和动态分布规律,结合⼈⼯智能算法,耦合⽓候、⽔流传输模型,形成⼀套早发现、早治理,从源头减量,分区管控和⽹格化⽔⽣植物发现、爆发预警和综合防治的管理系统,为上海市⽔⽣植物综合治理提供了决策依据(图3)。

遥感技术知识点

遥感技术知识点

遥感技术知识点遥感技术是指通过卫星、飞机等远距离传感器获取地球信息的技术。

它在地质勘探、环境保护、农业生产等领域都有着广泛的应用。

本文将介绍一些遥感技术的知识点。

1. 遥感数据的分类遥感数据主要分为光学遥感数据和微波遥感数据两大类。

光学遥感数据是利用传感器对地面反射、辐射的光信号进行测量和记录,包括高光谱、超光谱和激光雷达数据等。

微波遥感数据则是利用微波传感器对地面的微波信号进行探测,包括合成孔径雷达(SAR)数据等。

2. 遥感影像的解译遥感影像解译是指根据遥感数据获取信息的过程。

主要包括目视解译、数字图像处理和专题信息提取三大步骤。

目视解译是指通过人眼直接观察遥感影像,数字图像处理则是指通过计算机处理遥感影像数据,专题信息提取是指根据需求提取具体的信息内容。

3. 遥感技术在环境监测中的应用遥感技术在环境监测中有着广泛的应用。

通过遥感数据获取城市扩张、植被覆盖、土地利用等信息,可以为环境监测和保护提供重要的参考依据。

另外,遥感技术还可以监测大气、海洋等环境要素,为环境科学研究提供数据支持。

4. 遥感技术在农业生产中的应用遥感技术在农业生产中也有着广泛的应用。

农业遥感可以监测农田的植被生长情况、病虫害发生情况等,为农民提供科学的种植管理建议。

同时,遥感技术还可以监测农田的土壤墒情、水分状况等,为精准农业的发展提供支持。

5. 遥感技术的发展趋势随着科技的不断发展,遥感技术也在不断创新和完善。

未来,随着高分辨率遥感卫星的发射、遥感数据处理技术的提升,遥感技术将在农业、环境、城市规划等领域得到更广泛的应用。

同时,遥感技术与人工智能、大数据等领域的结合也将带来更多的可能性。

综上所述,遥感技术作为一种重要的信息获取手段,对于环境监测、农业生产等领域有着重要的意义。

通过不断的学习和研究,我们可以更好地利用遥感技术,服务于社会发展和人类福祉。

多源异构遥感大数据的高性能存储技术研究

多源异构遥感大数据的高性能存储技术研究

多源异构遥感大数据的高性能存储技术研究杨景玉;张珩;李宝文;吴磊;高德成【摘要】为了提高多源异构海量遥感数据处理流程中存储系统的性能,研究了自适应内存缓存机制在遥感数据存储中的应用.首先使用Alluxio建立统一的虚拟文件系统,并研究了基于空间关系及历史数据访问推理的缓存机制.其次引入了基于内存运算的Presto作为遥感数据元信息的存储组件,为海量的遥感数据元信息及高级语义信息提供实时的读写支持.实验结果表明,相对于使用传统存储方式的流程,使用自适应内存缓存遥感数据存储系统的流程处理耗时减少18%以上,该存储系统对提高遥感数据处理效率贡献显著.【期刊名称】《兰州交通大学学报》【年(卷),期】2019(038)001【总页数】7页(P50-56)【关键词】遥感数据存储;缓存机制;条件随机场;并行数据库【作者】杨景玉;张珩;李宝文;吴磊;高德成【作者单位】兰州交通大学电子与信息工程学院,甘肃兰州 730070;甘肃省人工智能与图形图像处理工程研究中心,甘肃兰州 730070;兰州铁路局计划统计处,甘肃兰州 730000;兰州铁路局计划统计处,甘肃兰州 730000;兰州交通大学电子与信息工程学院,甘肃兰州 730070;甘肃省计量研究院,甘肃兰州 730070【正文语种】中文【中图分类】TP334.5随着我国遥感技术的发展以及高分系列卫星的正式投入使用,可接收数据的卫星数量稳定上升,每个卫星搭载的载荷也更加丰富,同时单景数据的规模也达到了GB 级别,总体来看,接收到的数据呈现出多源异构及海量的特点.很多学者研究了海量遥感数据的处理与信息提取,使用这些丰富的数据为国民生产生活提供了大量有用的信息,另一方面也挑战着传统的遥感数据存储管理方式,因为传统的遥感数据存储方式面临着存储成本高、系统的性能在负载较大时无法及时有效得到提升等问题.虽然HDFS[1]以及Alluxio[2]等都经过多年发展已比较成熟,但是缺乏与遥感应用的结合.李德仁等[3]对遥感大数据的表达、检索及理解等自动分析与数据挖掘等方面进行了论述,朱建章等[4]对遥感大数据从GPU硬件加速、集群、网络等方面论述了遥感大数据处理系统,并从分布式集群化存储技术、面向遥感大数据的机器学习等角度说明了遥感大数据发展的趋势.目前遥感大数据存储的研究主要分为如下几种情况:1) 用分布式存储如HDFS的方式来替换传统的磁盘阵列等集中存放方式,以提高系统的容错性以及扩容能力等,如张扬等[5]设计的基于Hadoop的遥感影像业务管理系统,根据数据热度采用三级存储模式,可以提高HDFS在遥感影像存储中的读写速度.聂沛等[6]提出的一种面向遥感影像的分布式存储方法,底层存储使用HDFS.景维鹏等[7]利用HBase存储遥感数据,利用网格ID和Hilbert 曲线来进行遥感数据的索引.刘云峰等[8]设计了Hadoop框架下海量影像数据库管理系统,主要利用影像无缝集成及镶嵌数据集技术来提高遥感影像在HDFS中存储的效率.2) 主要研究海量遥感数据的存储组织方式以提高在实际应用中遥感影像的存取效率.聂沛等[6]提出的面向遥感影像的分布式存储方法,设计了一种用于分布式环境的影像存储模型,数据具有更好的聚合性并设计了可配置的数据分块策略.张立福等[9]设计了多维遥感数据时空谱一体化存储结构,针对遥感数据不用应用场景下的数据组织提出了5种不同的数据结构以提高数据存取的效率.李国庆等[10]将遥感数据基础设施按服务能力分成6类,其中高性能的存储是重要的服务能力之一.3) 有学者研究了存储系统中内存缓存的应用,但没有针对遥感数据的特性进行专门的优化.文献[11-12]研究了Alluxio的存储系统应用优化以及远程分布式环境下的存储优化,系统分析了通用文件存储系统中缓存对存储系统性能的影响并进行了评价.Yildiz等[13]及Yang等[14]在实际应用中引入缓存有效地提高了系统的运行效率,让应用达到了实时或者接近实时的处理速度.上述研究从数据的组织到数据的存储及分布式并行处理等方面都对遥感大数据技术做了研究,但缺乏基于海量多源异构遥感影像高级语义的检索实时性技术的研究,同时对遥感影像存储系统的研究缺乏分布式缓存技术,导致在分布式处理时储存系统成为瓶颈.在遥感大数据系统的设计与应用中,存储系统的效率对整个应用系统的运行效率有非常重要的影响.特别是在分布式的遥感数据处理工作流中,由于后一流程的输入是前向流程的结果,因此导致频繁的存储系统访问,增加了流程运行的时间,加大了存储系统的负荷,图1是流程示例,其中CA、BG及DX是处理模块的代码.图1 遥感数据处理部分流程示例Fig.1 Example of RS data processing flow本文引入了Alluxio作为建立虚拟统一文件系统结构以及进行分布式内存缓存加速的工具,对遥感影像数据进行跨结点的分布式自适应缓存,可以避免数据频繁被写入及读出消耗额外时间及资源的情况.另外,很多在空间上相邻的遥感图像在处理时会有很大概率需要一起被处理,因此对多源异构的遥感数据建立基于元信息及高级语义的多维索引结构,并在存储系统中记录数据的访问历史,根据这些既有信息自适应地缓存需要的数据,能有效提高缓存系统的命中率.1 系统的组成结构通过建立统一文件系统UFS,存储底层可自动适配并整合使用已有的磁盘阵列,同时建立了基于HDFS 的分布式文件系统.系统的结构如图2所示.图2 基于内存缓存的遥感存储系统结构图Fig.2 Structure chart of memory-based RS data storage system由于单位内存价格的持续降低,基于将内存作为硬盘使用理念而设计的Alluxio虚拟存储系统逐步受到业界欢迎,可以将各种不同的存储系统统一为同一个文件系统,对上层应用如Spark等提供存储服务,同时根据文件系统的访问情况使用分布式的内存缓存.使用UFS建立虚拟的统一文件系统,可以保证既有的数据存储系统能无缝升级到新的存储系统,也可以使用新建立的分布式存储系统的数据源,并在自适应内存缓存系统的帮助下,提升数据读写的速度.HDFS是一种分布式文件系统,其显著特性就是要在普通的硬件上建立一套可靠稳定同时具有很好扩展性的文件系统.HDFS具有高度容错的机制,保证部署在廉价机器上的文件系统数据的可靠性,特别是自HDFS3解决了单点依赖问题以及数据的冗余度过高而存储利用率不高的问题后,HDFS成为很多企业建立大数据存储平台的首选.HDFS以流的方式读取文件系统数据,集群数据吞吐量很高,适合存储大规模的遥感数据集上的应用,但在数据汇总或者跨结点传输时,由于廉价硬件以及网络速度的限制,速度一般较传统的磁盘阵列低,因此需要引入合理的缓存机制来提高性能.Presto[15]是由Facebook开发然后开源的一种完全基于内存以及分布式并行计算SQL交互式查询引擎,Presto是一种MPP(massively parallel processing,MPP)架构,多个节点组成集群然后以管道的方式执行查询计划.它通过扩展式Connector组件支持任意数据源,数据规模从GB到PB级别都可支持,运行速度比Hive快4~5倍以上.Presto适合PB级海量交互式SQL复杂数据分析.在海量遥感数据的存储系统中,将遥感数据的元信息以及其他高级语义信息存入Presto,在使用时可以用SQL语句的方式来进行复杂的查询,降低了遥感数据检索的难度,系统的使用方式更加友好.2 遥感数据的读写过程分析本遥感影像存储系统的使用方式中,既支持使用传统方式如NFS及FUSE等与存储系统进行数据交换,也支持使用HDFS及Alluxio的API进行,无论使用何种方式,由于数据都在自适应缓存存储管理系统的统一命名空间内,因此都可以获得相比传统存储方式更高的综合性能.数据的组织方式可以为传统的文件夹的组织方式,也支持数据时间-空间-光谱4个维度一体化组织管理的spatial-temporal-spectral(SPATS)[9]数据结构,以增加在特定应用场景下的缓存命中率.2.1 数据的写入遥感影像数据在写入时,可以根据需要,对于不同级别的数据,使用不同的缓存方式,以根据需要提高数据的写入速度或者是数据的可靠性.对于关键的元数据以及重要的生产结果,必须尽最大可能保证数据不丢失,对于中间数据等的写入,尽可能提高数据的写入速度,在结点失效的情况下,自动启用Failover机制,能保证较高的数据写入的成功率.数据写入时的缓存方式主要分为如下几种方式:1) CACHE_THROUGH模式.遥感影像数据被同步地写入到缓存系统以及底层存储系统,这样能保证数据不会丢失.2) MUST_CACHE模式.遥感影像数据仅仅被写入到缓存系统,但不会被写入到底层存储系统,在系统失效或者重置后数据丢失,这种情形下数据的写入速度只比内存的写入速度稍慢,具有很高的性能,可以作为临时文件的写入方式.3) THROUGH模式.遥感影像数据同步地写入到底层存储系统,但是在写入时不会被缓存.这种情形适合于归档影像的写入,因为归档影像在吸入后暂时不会用到.4) ASYNC_THROUGH模式.数据被同步地写入到缓存系统,上层应用认为数据写入成功,数据被写入内存后由缓存系统异步地将数据写入到底层存储系统实现持久化.这种配置可以作为日常的配置,适应性较高,但如果底层存储系统压力较大,可以针对临时文件只启用MUST_CACHE模式.数据在写入之前,对应的基本元信息如坐标系、经纬度等信息可自动提取完成,但其他一些关于遥感影像的描述如数据来源等可能缺失,需要人工的方式在入库时或者入库完成后人工录入.对于影像的高级语义特征比如NDVI、主要地物类型等,在影像入库时根据系统的负载情况进行在线提取或者入库完成后离线提取并存入元信息数据库.图3是数据入库的流程,数据在缓存时缓存到代理所在的结点.2.2 数据的读取由于基于内存运算的分布式类数据库系统Presto的应用以及在数据写入时及写入后产生了丰富的遥感影像的描述信息,既可以使用传统的基于坐标范围及数据源类型等的查询方式,也可以使用高级语义信息如植被指数等进行查询,这样可以从海量遥感影像中更方便地给用户提供更有针对性的数据,影像检索完成后,进入文件读取阶段.图3 遥感影像写入流程框图Fig.3 Diagram of the RS data writing process由于缓存系统的存在,在读取遥感影像数据时,客户端不用关心数据具体存放位置,只需要从虚拟统一文件系统中按照传统方式读取即可,读取时可能发生如下几种情形:1) 数据已经在本结点的缓存中,那么读取速度相当于内存的读取速度.2) 数据在其他结点的缓存中,则直接从其他结点的缓存中读取,读取速度受限于网络的最大速度.3) 数据不在缓存中,则从底层文件系统中读取数据,并根据条件随机场进行推理,决定是否对该数据进行缓存,并进一步决定是否需要异步预先读取其他关联数据以提高后续缓存系统的命中率.在进行具体的遥感影像文件读取时,也可能出现文件的一部分数据已经被缓存而另一部分需要从底层存储读取的情况.总体来说,自适应遥感影像缓存系统对读取性能的提升较为明显,数据的读取流程如图4所示.3 条件随机场缓存策略条件随机场CRF(conditional random field)是一种概率图模型(probabilistic graphical models,PGM),CRF是判别式的,直接在可获知的观测基础上最优化数据标签的后验概率分布[16].本文在进行缓存遥感影像时使用了结合空间邻域信息的条件随机场框架,采用模糊C均值聚类方法(fuzzy C means,FCM)来构造CRF的一阶势[17],从而达到避免海量异构遥感数据之间的独立假设条件,减少了无效的预读取缓存.将多源数据的光谱信息以及时序信息等用作条件随机场二阶势[18],能更好地用异构多源的元数据即时缓存用户要用到的影像数据.条件随机场的吉布斯能量函数模型为(1)其中:φi(yi;xi)表示一元势,利用的是数据之间的空间信息;φij(yi,yj;X)表示二元势,同一及相邻区域所有数据的光谱以及其他高级语义信息被引入.整体流程框图如图5所示,推理结果0表示无须缓存,1表示应该缓存.图4 遥感影像读取流程框图Fig.4 Diagram of the RS data reading process图5 基于CRF的缓存策略Fig.5 Caching policy based on CRF条件随机场中求解最大化后验概率(maximum a posteriori,mAP)等同于Gibbs能量函数最小化,如式(2)所示.(2)如果入库的数据源种类繁多且定义的高级语义复杂时,求解困难,可采用循环信念传播算法(loopy belief propagation,LBP)去推理最优配置.4 实验分析对本文提出的使用自适应内存缓存的遥感数据存储系统进行测试,应用多源异构的数据集进行网络环境下的存取实验,同时进行实验对比:首先对本文提出的存储系统的性能进行测试;其次测试了将影像文件直接存放在HDFS,元数据存放于MySQL中的存储系统读写性能;最后测试了使用传统磁盘阵列的遥感影像存储系统的性能.4.1 实验环境与实验数据实验的硬件环境如表1所列.表1 实验的硬件环境Tab.1 Hardware list for experiment硬件数量参数服务器4DELL PowerEdge R730,16核心,32G内存,1TB 7.2K SATA硬盘交换机1华为S170024GR磁盘阵列1HP MSA2040实验所需的软件环境如表2所列.表2 实验的软件环境Tab.2 Software list for experiment软件版本CentOS7.1HDFS2.7.4PRESTO0.208ALLUXIO1.6.1实验数据包含Landsat系列以及高分系列的数据,如表3所列.表3 实验所用到的数据Tab.3 Data used in experiment数据类型数量Landsat32.3 GByteLandsat710.2 GByte高分120.6 GByte高分240.5 GByte 4.2 实验结果与分析实验采用基准文件系统性能指标以及在实际遥感数据处理流程中的时间进行对比.基准文件测试系统使用IOZone,挂载模式为FUSE,本文的存储系统写入模式为ASYNC_THROUGH.从基准文件系统的测试可以看到,缓存系统在小文件写入时由于缓存系统的存在,写入速度相对HDFS有较大提高,但在读取时由于额外的缓存层的引入,有时性能反而较HDFS稍差,但如果考虑实际应用中的多用户多任务情况,综合吞吐率较HDFS高,测试结果如图6所示.对于大块遥感影像文件的写入,在写入时由于异步缓存,本文系统性能较高,但读取时由于数据尚未缓存,所以第一次读取需要从底层存储进行,但由于缓存预读策略的原因,性能较HDFS高,但不及磁盘阵列高.如果系统中并发运行的生产任务多,数据之间的关联性大,则综合吞吐率较磁盘阵列高,在实际生成流程的测试中也得到了证明,因此基准文件测试具有参考意义,但不能说明基于自适应缓存的遥感影像存储系统比传统的磁盘阵列存储方式吞吐率低.图6 基于自适应内存缓冲的遥感影像存储系统基准测试Fig.6 Test results of RS data storage system based on adaptive caching mechanism当本文提出的遥感影像存储系统应用于实际的生产流程中时,流程前后步骤间数据的关联关系越大,缓存时命中率更高,本存储系统对整个处理流程的加速则更加明显,具有更显著的实际意义,如图7所示,流程1有5个步骤,流程2有7个步骤,流程3有9个步骤.同时本存储系统采用分布式冗余的方式,因此数据存储的安全性有保障,在实际应用中未发生因结点失效或者网络故障导致的数据丢失或者不一致的情况.在实际遥感数据生产流程中,为了降低处理模块之间的耦合性,每个模块都编制有对应的输入输出XML配置文件及脚本,前一模块处理完成后必须将结果写入文件系统,然后调度系统开始执行下一模块,下一模块再从文件系统读入上一流程的结果.此过程中,由于遥感数据较大,磁盘阵列的缓存不能满足此种场景下的要求,因此导致遥感数据处理流程在中间数据写入读出时耗费大量时间.HDFS虽然可以配置一定的热数据缓存,但是无法根据需要灵活配置,同时由于组建HDFS的硬件性能不高,因此单任务吞吐量较低.本文提出的基于自适应缓存的遥感数据存储系统能合理使用各结点的内存对中间数据进行缓存,不会影响处理模块的内存使用需求,对整个生产流程的加速较为明显.图7 不同存储系统在实际生产流程中的耗时对比Fig.7 Time consuming comparison of different storage systems in RS data processing flow5 结论本文主要的贡献在于将分布式自适应缓存策略引入到遥感影像的存储中,通过使用虚拟的统一文件系统,既兼容了传统的磁盘阵列,保留了已有的数据,又对基于HDFS的遥感数据存储系统进行了显著地加速,实际遥感数据生产流程中,相对于使用磁盘阵列的生产流程,使用本文提出的存储系统的流程消耗时间减少了18%到35%.实验结果表明本文提出的使用自适应缓存策略的遥感数据存储系统在实际遥感数据生产中是有效的,同时元数据存储使用Presto的选择是合理的.本存储系统具有建设成本低廉、可靠性较高及性能较好的特点;同时本存储系统也存在一些不足,如果需要的数据之间关联性不强且系统未记录用户使用的历史数据,则系统的效率相对于传统的磁盘阵列较低,同时在分布式缓存时,系统数据传输依赖于网络的速度,因此引入InfiniBand网络预计能较大幅度提高系统的整体性能.【相关文献】[1] COFFING T,NOLANDER J.Hadoop architecture and SQL[M].Phoenix AZ:Coffing Publishing,2016.[2] LI H.Alluxio:a virtual distributed file system[D].Berkeley:UC Berkeley,2018.[3] 李德仁,张良培,夏桂松.遥感大数据自动分析与数据挖掘[J].测绘学报,2014,43(12):1211-1216.[4] 朱建章,石强,陈凤娥,等.遥感大数据研究现状与发展趋势[J].中国图象图形学报,2016,21(11):1425-1439.[5] 张扬,谢彬,王敬平,等.基于Hadoop的遥感影像业务管理系统设计[J].计算机系统应用,2018,27(11):64-70.[6] 聂沛,陈广胜,景维鹏.一种面向遥感影像的分布式存储方法[J].测绘工程,2018,27(11):40-45.[7] 景维鹏,田冬雪.基于HBase的遥感数据分布式存储与查询方法研究[J].计算机工程与科学,2018,40(6):992-998.[8] 刘云峰,李发红,曹广强.Hadoop框架下海量影像数据库管理系统的研究与实现[J].测绘通报,2016(12):74-76,89.[9] 张立福,陈浩,孙雪剑,等.多维遥感数据时空谱一体化存储结构设计[J].遥感学报,2017,21(1):62-73.[10] 李国庆,黄震春.遥感大数据的基础设施:集成、管理与按需服务[J].计算机研究与发展,2017,54(2):267-283.[11] 温东新,董文菁,曹瑞,等.基于Alluxio的异步存储优化[J].东南大学学报(自然科学版),2018,48(2):248-252.[12] 董文菁,温东新,张展.基于Alluxio远程场景下缓存策略的优化[J].计算机应用研究,2018,35(10):3025-3028.[13] YILDIZ O,ZHOU A C,IBRAHIM S.Improving the effectiveness of Burst Buffers for big data processing in HPC systems with eley[J].Future Generation ComputerSystems,2018,86(9):308-318.[14] YANG C T,CHEN C J,TSAN Y T,et al.An implementation of real-time air quality and influenza-like illness data storage and processing platform[J].Computers in Human Behavior,2018,92(8):880-889.[15] Facebook.Presto[EB /OL].[2015-12-1].https://prestodb.io/.[16] ZHANG G,JIA X.Simplified conditional random fields with class boundary constraint for spectral-spatial based remote sensing image classification[J].IEEE Geoscience and Remote Sensing Letters,2012,9(5):856-860.[17] LEI T,JIA X,ZHANG Y,et al.Significantly fast and robust fuzzy c-means clustering algorithm based on morphological reconstruction and membership filtering[J].IEEE Transactions on Fuzzy Systems,2018,26(5):3027-3041.[18] WANG G,WANG Y,JIAO L.Adaptive spatial neighborhood analysis and Rayleigh-Gauss distribution fitting for change detection in multi-temporal remote sensingimages[J].Journal of Remote Sensing,2009,13(4):631-646.。

我国遥感技术的现状及发展趋势

我国遥感技术的现状及发展趋势

我国遥感技术的现状及发展趋势随着科技的不断进步和应用领域的不断扩大,遥感技术在国内外得到了广泛的应用和关注。

作为现代环境监测、自然资源管理和地理信息系统等领域的基础,遥感技术已经成为国家发展战略中的重要组成部分。

本文将从当前国内遥感技术的现状以及未来的发展趋势两个方面对其进行探讨。

一、我国遥感技术的现状我国的遥感技术发展始于20世纪60年代,经过近几十年的发展,现已成为全球遥感技术的重要力量。

在卫星、航空和地面遥感领域,我国都取得了较为显著的进步。

1. 卫星遥感卫星遥感是目前国内遥感技术研究的重点领域之一。

我国在该领域已经有了自主研发、自主发射和自主运行的遥感卫星,包括光谱卫星、雷达卫星和合成孔径雷达卫星等。

遥感卫星的发射和运行,改变了对地面信息的获取方式,为我国的环境监测和资源调查提供了更高效、精确、可靠的手段。

2. 航空遥感航空遥感技术是指利用飞机、直升机等载具进行遥感数据采集。

我国在该领域已经实现了高分辨率、高频次、大面积覆盖的目标,使得遥感技术在自然资源、城市更新、环境保护和灾害监测等方面发挥着重要作用。

3. 地面遥感地面遥感是指通过在地面接收、采集和处理卫星遥感数据,利用影像处理技术,进行地球观测。

这种方法是最常用的遥感技术手段之一,也是遥感技术的基础。

我国在这方面的研究也非常活跃,通过遥感技术的应用手段,对新能源、生态环境保护等方面进行研究。

二、我国遥感技术的发展趋势1. 遥感技术的智能化和可视化随着大数据、人工智能、云计算和物联网技术的发展,遥感技术在数据分析和处理方面将更加智能化。

未来的遥感技术将实现自动化、高精度、高效率的遥感数据分析,遥感数据的可视化处理也将变得更加人性化、直观和可操作。

2. 遥感技术的高精度化高精度化是遥感技术未来的发展趋势之一,其主要包括两个方面:一是遥感数据获取的精度水平将得到更高的提升,例如超高分辨率、高时空分辨率等;二是遥感影像处理和应用的精度和精细程度将得到更高的提升,例如大数据分析、精准测绘等。

农业科技利用遥感技术进行农情监测

农业科技利用遥感技术进行农情监测农业是国家经济的重要支柱,也是人民生活的基础。

随着科技的不断进步,农业生产方式也在不断地升级,其中遥感技术在农业科技中发挥着重要的作用。

遥感技术通过获取遥感图像和数据,可以提供种植者和政府监测农情的有效手段。

本文将重点探讨农业科技利用遥感技术进行农情监测的意义、方法以及展望。

一、农业科技利用遥感技术进行农情监测的意义1. 实时监测和预警传统的农情监测方式主要通过人工采集数据,耗费时间和人力物力较大。

而遥感技术能够快速获取大范围的土地信息,实时监测农情,并通过数据分析和算法预测可能出现的问题,提前采取措施进行防范,从而减轻损失和风险。

2. 精细化管理遥感技术可以提供高分辨率的图像和数据,帮助农民更准确地了解农田的生长状态、土壤肥力、病虫害情况等。

农民可以根据这些信息采取相应的农事措施,精细化管理作物,提高产量和质量。

3. 智能决策通过遥感技术获取的农情数据,可以进行大数据分析和机器学习,帮助农民和政府做出智能决策,例如确定最佳的农田利用方案、合理安排灌溉水源、调整农药使用等,以提高农业生产效益。

二、农业科技利用遥感技术进行农情监测的方法1. 多光谱遥感多光谱遥感利用不同波段的光谱信息来获取地表的农情数据。

通过分析植被指数等参数,可以了解农田的生长状态、病虫害情况等。

例如,通过监测NDVI(归一化植被指数),可以评估植物的健康状况和生长情况。

2. 雷达遥感雷达遥感可以不受天气和云层的影响,获取地表的反射率、干旱程度、土壤湿度等信息。

利用雷达数据,可以对农田进行全天候的监测和分析,提供决策支持。

3. 热红外遥感热红外遥感能够测量地表的温度分布,从而反映植被状态、土壤湿度等。

通过监测农田的热红外辐射,可以判断植被的生长情况和病虫害的存在与否。

4. 光学遥感光学遥感利用可见光、红外线等波段的光谱信息,获取地表和植被相关的参数,例如植被指数、叶面积指数等。

通过分析这些参数,可以了解农田的植被覆盖、生长状态等信息。

中国农业遥感行业发展现状分析

中国农业遥感行业发展现状分析农业遥感技术优势明显遥感以其快速、简便、宏观、无损及客观等优点,广泛应用于农业生产各个环节。

农田作物信息的快速获取与解析是开展精准农业实践的前提和基础,是突破制约中国现代农业应用发展瓶颈的关键,在农业田间信息获取上,遥感技术优势明显。

1、农业遥感行业四大应用领域分析遥感技术是在现代物理学、空间科学、电子计算机技术、数学方法和地球科学理论的基础上发展起来的一门新兴的、综合性的交叉学科,是一门先进的、实用的探测技术。

遥感技术从20世纪初的航空摄影技术为主到20世纪60年代进入到卫星遥感时代,已发展了多种不同平台不同方式的传感器,遥感探测地物的能力( 包括地物的性质和大小) 和应用范围得到了极大的拓展。

农业遥感监测主要以作物、土壤为对象,利用地物的光谱特性,进行作物长势、作物品质、作物病虫害等方面的监测,其应用可大致分为以下四类:1)农业资源调查耕地资源、土壤资源等现状资源的调查,以及土地荒漠化和盐渍、农田环境污染、水土流失等动态监测;提供各类资源的数量、分布和变化情况,以及基于调查的各类资源评价、相应对策,用于农业生产的组织和管理。

2)农作物估产:小麦、玉米、水稻、棉花等大宗农作物的长势监测和产量预测,以及牧草地产草量估测、果树长势监测等。

3)农业灾害预报农作物病虫害、冷冻害、洪涝旱灾、干热风等动态监测,以及灾后农田损毁、作物减产等损失的调查和评估。

4)精准农业主要利用高空间分辨率的卫星数据进行农田面积和分布的现状调查,以及针对农田精准化施肥、施药和灌溉进行农田尺度的作物长势、病虫害和土壤水分等信息的监测。

此外,针对不同应用场景,不同空间分辨率的光学遥感与微波遥感优势各异。

比如:高空间分辨率的遥感数据主要应用于田间尺度的精准农业,而高时间分辨率广覆盖遥感数据主要应用于大面积农作物长势监测。

2、农业遥感技术平台主要对应四大客户群体农业遥感技术平台主要对应四大客户群体,分别为农业资源监管部门、农业统计机构、农业保险机构和农业投资机构。

遥感卫星影像数据-遥感影像处理系统白皮书

XQSoftware 遥感影像处理系统XQSoftware Remote Sensing Image Processing System产品白皮书2019年3月目录1产品介绍 (3)2功能特点 (3)3 关键技术 (4)3.1高性能并行计算影像处理技术 (4)3.2稀少控制超大规模区域网平差技术 (4)3.3配准纠正技术 (4)3.4影像融合技术 (4)3.5匀光匀色技术 (5)4系统功能介绍 (5)4.1卫星影像区域网平差 (5)4.2DOM生产 (6)4.2.1正射纠正 (6)4.2.2影像融合 (7)4.2.3匀光匀色 (8)4.2.4镶嵌成图 (10)4.3业务工作流 (10)4.3.1配准纠正业务流 (10)4.3.2配准融合业务流 (12)4.4DSM/DEM生产 (13)4.5交互编辑工具软件 (14)4.5.1配准纠正工具软件 (14)4.6其他模块 (17)4.6.1金字塔创建 (17)4.6.2真彩色转换 (18)4.6.3影像增强 (19)4.6.4影像去雾 (20)4.6.5投影转换 (23)4.6.6格式转换 (24)4.6.7波段重组 (25)4.6.8影像云检测 (26)4.6.9水域检测 (28)4.6.10植被检测 (29)5系统界面 (30)5.1硬件系统外观 (30)5.2软件系统界面 (30)6应用领域 (33)7联系我们....................................................................................................错误!未定义书签。

1产品介绍XQSoftware遥感影像处理系统是一套自主研发、全流程、高效快速遥感数据处理平台,其核心部分是基于高性能集群/GPU计算环境的海量遥感影像自动处理算法。

系统采用先进的数字摄影测量技术、多任务调度技术、高性能计算技术,集数据生产、任务管理调度、成果质检为一体,通过合理调配计算资源与数据资源,实现规模化、快速、智能化的遥感数据处理流程。

棉花提取智能遥感解译系统的使用说明

棉花提取智能遥感解译系统的使用说明以棉花提取智能遥感解译系统的使用说明为标题智能遥感解译系统是一种利用人工智能技术对遥感图像进行解译的工具,可以帮助农业专家和农民快速准确地提取棉花信息。

本文将为您介绍如何使用这个系统来提取棉花信息。

一、系统介绍智能遥感解译系统是基于遥感图像处理技术和深度学习算法开发而成的一款软件工具。

该系统能够自动识别遥感图像中的棉花植株,并提取出相关的信息,如棉花的分布、生长状态等。

通过使用该系统,用户可以快速获取大量的棉花信息,为农业生产提供科学依据。

二、系统安装与配置1. 下载安装包:用户可以从官方网站上下载智能遥感解译系统的安装包。

2. 安装软件:双击安装包,按照提示完成软件的安装。

3. 系统配置:打开软件后,进入系统设置界面,设置相关参数,如图像处理算法、图像分辨率等。

三、图像导入与处理1. 图像导入:点击系统界面上的“导入图像”按钮,选择要处理的遥感图像文件。

2. 图像预处理:系统会自动对导入的图像进行预处理,包括去噪、增强等操作,以提高后续棉花信息提取的准确性。

四、棉花信息提取1. 选择提取算法:在系统界面上选择合适的棉花信息提取算法,如基于形态学的图像分割算法、基于深度学习的目标检测算法等。

2. 执行提取操作:点击系统界面上的“开始提取”按钮,系统将开始对图像进行棉花信息提取。

3. 提取结果展示:系统会将提取的棉花信息以图像或表格的形式展示给用户,用户可以查看提取结果并进行分析。

五、结果分析与应用1. 结果分析:用户可以根据提取结果进行相关分析,如棉花的分布情况、生长状态等。

2. 应用建议:根据分析结果,系统可以给出相应的农业生产建议,如施肥、浇水等。

六、系统优势1. 高效准确:智能遥感解译系统利用人工智能技术,能够快速、准确地提取棉花信息,大大节省了人力成本和时间成本。

2. 大数据处理:系统可以处理大规模的遥感图像数据,可以应对不同地区、不同时间段的棉花信息提取需求。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
相关文档
最新文档