为了账号安全,请及时绑定邮箱和手机立即绑定

空间统计的几点想法

标签:
Oracle

文章版权由作者李晓晖和博客园共有,若转载请于明显处标明出处:http://www.cnblogs.com/naaoveGIS/

1. 背景

         在上一篇博客中提到了用ES来做搜索和统计,多个同行留言提醒用PG效率也可以很不错。自己查了些资料和文章,尤其是博友“遥想公瑾当年”一些列关于PG的文章,受益匪浅。综合公司目前的实际情况,总结几点想法。

       由于公司项目太广(每年大于500个项目现场在实施、维护),对于数据库和地理服务器根据甲方现场环境很难统一要求,按地理服务器主要分为:ArcGIS、SuperMap、Geoserver;按数据库主要分为:Oracle、Mysql、Postgresql。介于此,我们之前将空间分析等逻辑通过适配三大地理服务器(OGC标准)来完成各项目的兼容,缺少直接对数据库层面的操作。通过开发一些维护工具来进行统计类业务的预处理。

  考虑到实时(或伪实时)空间统计的需求越来越多,将目标转向数据库层面是一个必然的趋势。尤其是现在数据库对于空间索引、各类坐标系的广泛支持,其稳定性、规避传输层问题、效率等都有明显优势。

2. 采用PG进行统计

       a.首先要解决PG能通用于所有项目,可以提出项目实施规范,基于docker快速搭建PG环境。在甲方采购用Oracle等数据库时,依然基于规范要求必须部署PG以存储空间数据(业务数据可依然存放于Oracle)。

       b.基于区划信息统计一般分为网格、社区、街道、区、市等等。按照GIST索引的特性(类R树索引),其要素的四角范围对索引性能影响特别大。对于大范围查询,将大范围切分为小范围可以非常明显的优化查询效率。这里,我们直接采用网格作为查询单元,通过网格查询结果构造社区、街道、区的查询结果,则会效率更好。

       c.空间数据来源于多种SHP数据,为了便于数据检索、查询、和效率的优化,设计空间信息目录表(资源关键信息整合表),基于该表进行统一的空间查询。

以2300个网格和260000个部件点要素进行效率验证,获取各网格中各类部件的数目,一共耗时5.6S:

 

3. 统计与数据更新如何同步的方案讨论

       空间数据并不是一成不变的。由于统计数据来源于空间数据汇总表,而所有更新并不是针对汇总表的更新,而是针对具体空间表(如井盖表)等的更新。如何能将更新数据实时同步至汇总表,统计表如何同步更新,是一个值得讨论的问题。

       真实项目中,数据统计的准确性并没有要求完全实时,这块可以作伪实时理解。所以问题可以简化为,每天(或几小时)空间统计表数据更新至最新统计结果。

       对应,这里给出四种方案:

3.1定时重新生成汇总表,重新统计

       这是思维上最简单的一种方案,即用定时任务每次重新生成汇总表(将空间数据采集汇总),然后再重新生成统计表。此方案虽然简单,但是代价太大,尤其是所有数据的重新采集是一个比统计本身耗时太多的工作。

3.2利用触发器

       给每一个空间数据表建立一个触发器,当数据表变更时,同步触发对汇总表的操作。对于空间统计表定时更新。

       此方案也比较简单,但是考虑到对所有空间表建立触发器,当更新频繁时对数据库性能有一定影响,还需慎重。

3.3利用中间件cannal进行数据库操作监听

       通过部署cannal监听数据库的操作,对符合定义的操作进行日志记录,定时更新至汇总表中。统计表定时更新。

       该方案的优点是不需要对所有表创建触发器,更为简洁优美,并且通过定时更新的方案,也能避免高频度操作时同步更新对数据库造成的压力。但是由于需要部署cannal,增加了项目的部署难度。

3.4系统操作日志记录

       在系统层面对数据库的操作进行单独日志记录。定时解析该日志文件,并更新汇总表。统计表定时更新。

       该方案无需特殊配置,只需通过代码完成日志写入和解析即可,部署简单,开发难度也不高。

       其中日志记录可以借用Log4j来快速完成,其支持对指定代码类生成独立日志。可以对数据库操作类进行独立设置,即可:

 

原文出处: https://www.cnblogs.com/naaoveGIS/p/10208769.html  

点击查看更多内容
TA 点赞

若觉得本文不错,就分享一下吧!

评论

作者其他优质文章

正在加载中
  • 推荐
  • 评论
  • 收藏
  • 共同学习,写下你的评论
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦
今天注册有机会得

100积分直接送

付费专栏免费学

大额优惠券免费领

立即参与 放弃机会
意见反馈 帮助中心 APP下载
官方微信

举报

0/150
提交
取消