震惊,PostGIS还可以这样用!!!

原创
2021/05/31 14:46
阅读数 1K
AI总结

摘要:PostGISPostgreSQL提供了空间数据库分析能力,是目前业界主流的地理数据库之一,提供如下空间信息服务功能:空间对象、空间索引、空间操作函数和空间操作符等。在GaussDB 中,目前已支持PostGIS地理数据库扩展,并已广泛应用于国内外公安、农业、安平等政企客户。

本文分享自华为云社区《震惊,PostGIS还可以这样用!!!》,原文作者:秋之语 

一、地理数据库能做什么

地理数据库属于空间数据库,为地理数据提供了标准的格式和存贮方法,能够方便迅速地进行检索、更新和数据分析,最终达到为多种应用服务的目的。地理数据则包括观测数据、分析测定数据、遥感数据和统计调查数据。地理数据库已广泛的应用于单车、导航,旅游、水利,农业、安平城市等应用场景,渗透到人民生活点点滴滴中。

https://bbs-img.huaweicloud.com/blogs/img/1595920768419011877.jpg

图1. 地理数据库典型应用场景

二、PostGIS功能介绍

对于如上介绍的使用场景中,地理数据通常存储为点、线或者多边形的集合。在PostgreSQL中,已经提供了点、线、多边形等空间数据类型,但其提供的数据处理方法和性能很难达到GIS的要求,主要表现在缺乏复杂的空间类型没有提供空间分析没有提供投影变换功能。为了使得PostgreSQL更好的提供空间信息服务,PostGIS也就应运而生。

2.1 PostGIS支持数据类型

PostGIS完全遵循OpenGIS规范,支持OpenGIS中所有空间数据类型:

  • aPOINT, LINESTRING, POLYGON, MULTI-POINT,
  • bMULTI-LINESTRING, MULTI-POLYGON,
  • cGEOMETRY COLLECTION

除了OpenGIS定义的地理数据类型之外,PostGIS还对数据类型进行了扩展,在WKTWKB数据类型基础上扩展出EWKTEWKB数据类型:

  • aEWKT, EWKB(包含了SRID信息的WKT/WKB
  • bSRID(Spatial Referencing System Identifier):每个空间实例都有一个空间引用标识符 (SRID)SRID 对应于基于特定椭圆体的空间引用系统,可用于平面球体映射或圆球映射。

此外,PostGIS还支持栅格数据raster分析,可以基于已有的影像或者卫星数据,实现影像或者卫星数据不同类别的统计分析。

2.2 PostGIS支持函数类型

PostGIS常见函数大致可以分为以下六类,对于各函数具体用法参考PostGIS使用手册》

1.    字段处理函数

  • aAddGeometryColumn为已有的数据表增加一个地理几何数据字段;
  • bDropGeometryColumn删除一个地理数据字段的;
  • cST_SetSRID设置SRID

2.    几何关系函数

这类函数描述几何对象的距离、包含、范围、相等等几何关系,常见函数如下:ST_DistanceST_EqualsST_DisjointST_IntersectsST_TouchesST_Within ST_OverlapsST_Contains

3.    读写函数

这类函数主要用于各种数据类型之间的转换,尤其是Geometry数据类型与其他字符型等数据类型之间的转换,如ST_AsTextST_GeomFromTextST_AsGeoJSON ST_AsHEXEWKBST_AsKML ST_AsLatLonText

4.    几何对象创建函数

这类函数用于点、线、多变形等几何对象创建,如ST_GeomFromEWKTST_GeomFromEWKBST_MakePointST_MakeBox2DST_LineFromTextST_Polygon

5.    几何对象编辑函数

这类函数提供对几何图像的平移、翻转、旋转、放大等功能,如ST_AddPointST_ReverseST_RotateST_ScaleST_SnapST_TransformST_TranslateST_TransScale

6.    空间关系及测量函数

这类函数实现几何对象最远、最近、长度、面积等计算,如ST_3DClosestPointST_3DDistance ST_3DDWithinST_3DDFullyWithinST_3DIntersectsST_3DLongestLineST_3DMaxDistanceST_3DShortestLineST_Area

三、PostGIS的安装:

3.1 基础编译环境准备:

GaussDB(DWS)中的PostGIS Extension需使用GCCG++工具进行编译安装。安装前需确认GCCG++版本号大于等于4.8.5,且两个工具可正常使用。具体可通过gcc -vg++ -v查看相关版本。

https://bbs-img.huaweicloud.com/blogs/img/1619678618156027343.png

如上图所示环境gccg++版本为4.3.4,不满足版本要求,需使用源码安装方式进行升级。若集群中没有低版本gccg++编译器,可以通过挂载操作系统镜像进行安装,这里不做赘述。如需要升级则可从如下网站获取GCC相关安装包:

https://ftp.gnu.org/gnu/gcc/gcc-5.4.0/gcc-5.4.0.tar.gz

https://ftp.gnu.org/gnu/gmp/gmp-4.3.2.tar.gz

https://ftp.gnu.org/gnu/mpfr/mpfr-2.4.2.tar.gz

https://ftp.gnu.org/gnu/mpc/mpc-1.0.3.tar.gz

此外PostGIS安装还需要确保zlibautoconfautomake等工具已正确安装。

3.2 PostGIS依赖库安装:

PostGIS依赖Geos Proj JSON-C Libxml2 Gdal第三方开源工具。安全前首先需要下载Geos Proj JSON-C Libxml2 Gdal PostGIS源码至$GAUSSHOME目录。

安装时需切换至omm用户,并检查GaussDB环境变量已正确加载,且可正常登录和使用GaussDB环境。具体安装命令可参考产品文档,且确保安装路径与文档中给定路径完全一致,自定义路径会导致最终库文件分发失败。

在整个安装过程中,可使用make -sjmake install -sj命令并行加速编译,-sj命令极低概率性出现安装错误,如果安装失败则请使用makemake install进行串行安装。此外对于ARM物理机,在每个安装包configure时需要增加如下编译参数: --build=aarch64-unknown-linuxgnu,否则会出现安装失败。同时,在三方开源库proj的安装过程中,可能会报错$GAUSSHOME/install/proj/bin目录不存在,可手动创建该目录再执行proj的安装。

安装成功后截图大致如下,其中关于get_PlatForm_str.sh不存在的提示信息可直接忽略。

https://bbs-img.huaweicloud.com/blogs/img/1619678763187094670.png

安装完成后则需要使用PostGIS_install.sh工具完成PostGIS相关动态链接库在集群节点中的分发。执行方式为:

sh $GAUSSHOME/share/postgis/PostGIS_install.sh

如若失败,可打开PostGIS_install.sh文件分别执行分发命令,确定是哪个文件不存在而导致分发失败,并进一步分析该库文件编译失败原因。

四、PostGIS使用:

目前GaussDBPostGIS中绝大多数函数均已支持下推至DN处理。因此对于绝大多数地理数据运算,都可以充分利用GaussDB的分布式计算优势,带来相比于PostgreSQL近似线性扩展比的性能加速。

4.1 地理数据的导入:

PostGIS支持shape格式地理数据导入。因此对于其它地理数据库平台数据,如Oracle或者ArcGIS中的地理数据,可先将其导出为shape格式文件,然后使用$GAUSSHOME/bin目录下的shp2pgsql工具将shape文件转换为sql文件并进一步导入GaussDB。如果生成sql文件中的地理表定义缺少分布键的话,可以手动增加一个id自增的分布键,使地理数据均匀分布到各个DN,进而充分利用GaussDB的分布式计算优势。

4.2 GIS函数使用demo

对于GaussDB支持各GIS函数的具体使用方法,请参考 PostGIS-2.4.2用户手册》。这里给一个简单的使用demo

示例:几何表的创建。
CREATE TABLE cities ( id integer, city_name varchar(50) );
SELECT AddGeometryColumn('cities', 'position', 4326, 'POINT', 2);

示例2:几何数据的插入。
INSERT INTO cities (id, position, city_name) VALUES (1,ST_GeomFromText('POINT(-9.5 23)',4326),'CityA');
INSERT INTO cities (id, position, city_name) VALUES (2,ST_GeomFromText('POINT(-10.6 40.3)',4326),'CityB');
INSERT INTO cities (id, position, city_name) VALUES (3,ST_GeomFromText('POINT(20.8 30.3)',4326), 'CityC');

示例3:计算三个城市间任意两个城市距离。
SELECT p1.city_name,p2.city_name,ST_Distance(p1.position,p2.position) FROM cities AS p1, cities AS p2 WHERE p1.id > p2.id;

执行结果为:

https://bbs-img.huaweicloud.com/blogs/img/1619678877904075252.png  

示例4:查询query执行计划,发现执行过程中p1表是广播到全部DN节点的,因此对于每个DN,其只需要处理自己节点上的p2数据,通过对比本地p2数据与全局p1数据即可完成整个分析,这也是分布式数据库的优势所在。

https://bbs-img.huaweicloud.com/blogs/img/1619678899578064661.png

五、PostGIS性能介绍

目前市场上的空间数据库包括MySQLSpatial ExtensionPostgreSQLPostGISOracle SpatialArcGISArcSDEMongoDB等。对于这几款数据库的性能对比,之前有一篇文档《常用地理数据库对比测试》有一个比较详细的对比和介绍。

从图2至图5中的测试数据可以看出,对于点数据,在相同查询条件下,PostGIS数据库的空间查询速度最快。对于线数据,PostGIS则相比于其它数据库要慢一些,这可能与不同地理数据库使用不同索引技术有关。

https://bbs-img.huaweicloud.com/blogs/img/1595920768451002963.jpg

 

 

 

 

图2. 第一次点查数据结果

https://bbs-img.huaweicloud.com/blogs/img/1595920768546038154.jpg

 

 

 

 

图3. 第二次点查数据结果

https://bbs-img.huaweicloud.com/blogs/img/1595920769019073515.jpg

 

 

 

 

图4. 第一次线查数据结果

https://bbs-img.huaweicloud.com/blogs/img/1595920769132062581.jpg

 

 

 

 

图5. 第二次线查数据结果

GaussDB作为分布式数据库,对PostGIS做了深度适配。目前GaussDBPostGIS中绝大多数函数均已支持下推至DN处理。因此对于绝大多数地理数据运算,都可以充分利用GaussDB的分布式计算优势,带来相比于PostgreSQL近似线性扩展比的性能加速,满足客户在大数据场景的地理数据处理和分析需求。

六、总结

本篇博文简单介绍了GaussDBPostgis的安装和使用,欢迎广大读者收藏和讨论。

想了解GuassDB(DWS)更多信息,欢迎微信搜索“GaussDB DWS”关注微信公众号,和您分享最新最全的PB级数仓黑科技,后台还可获取众多学习资料~

 

点击关注,第一时间了解华为云新鲜技术~

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
0 评论
2 收藏
0
分享
AI总结
返回顶部
顶部