摘要:PostGIS为PostgreSQL提供了空间数据库分析能力,是目前业界主流的地理数据库之一,提供如下空间信息服务功能:空间对象、空间索引、空间操作函数和空间操作符等。在GaussDB 中,目前已支持PostGIS地理数据库扩展,并已广泛应用于国内外公安、农业、安平等政企客户。
本文分享自华为云社区《震惊,PostGIS还可以这样用!!!》,原文作者:秋之语 。
一、地理数据库能做什么
地理数据库属于空间数据库,为地理数据提供了标准的格式和存贮方法,能够方便迅速地进行检索、更新和数据分析,最终达到为多种应用服务的目的。地理数据则包括观测数据、分析测定数据、遥感数据和统计调查数据。地理数据库已广泛的应用于单车、导航,旅游、水利,农业、安平城市等应用场景,渗透到人民生活点点滴滴中。
图1. 地理数据库典型应用场景
二、PostGIS功能介绍
对于如上介绍的使用场景中,地理数据通常存储为点、线或者多边形的集合。在PostgreSQL中,已经提供了点、线、多边形等空间数据类型,但其提供的数据处理方法和性能很难达到GIS的要求,主要表现在:缺乏复杂的空间类型;没有提供空间分析;没有提供投影变换功能。为了使得PostgreSQL更好的提供空间信息服务,PostGIS也就应运而生。
2.1 PostGIS支持数据类型
PostGIS完全遵循OpenGIS规范,支持OpenGIS中所有空间数据类型:
- a.POINT, LINESTRING, POLYGON, MULTI-POINT,
- b.MULTI-LINESTRING, MULTI-POLYGON,
- c.GEOMETRY COLLECTION
除了OpenGIS定义的地理数据类型之外,PostGIS还对数据类型进行了扩展,在WKT和WKB数据类型基础上扩展出EWKT和EWKB数据类型:
- a.EWKT, EWKB(包含了SRID信息的WKT/WKB)
- b.SRID(Spatial Referencing System Identifier):每个空间实例都有一个空间引用标识符 (SRID)。SRID 对应于基于特定椭圆体的空间引用系统,可用于平面球体映射或圆球映射。
此外,PostGIS还支持栅格数据raster分析,可以基于已有的影像或者卫星数据,实现影像或者卫星数据不同类别的统计分析。
2.2 PostGIS支持函数类型
PostGIS常见函数大致可以分为以下六类,对于各函数具体用法参考《PostGIS使用手册》:
1. 字段处理函数
- a.AddGeometryColumn为已有的数据表增加一个地理几何数据字段;
- b.DropGeometryColumn删除一个地理数据字段的;
- c.ST_SetSRID设置SRID值
2. 几何关系函数
这类函数描述几何对象的距离、包含、范围、相等等几何关系,常见函数如下:ST_Distance、ST_Equals、ST_Disjoint、ST_Intersects、ST_Touches、ST_Within、 ST_Overlaps、ST_Contains。
3. 读写函数
这类函数主要用于各种数据类型之间的转换,尤其是Geometry数据类型与其他字符型等数据类型之间的转换,如ST_AsText、ST_GeomFromText、ST_AsGeoJSON ST_AsHEXEWKB、ST_AsKML、 ST_AsLatLonText。
4. 几何对象创建函数
这类函数用于点、线、多变形等几何对象创建,如ST_GeomFromEWKT、ST_GeomFromEWKB、ST_MakePoint、ST_MakeBox2D、ST_LineFromText、ST_Polygon。
5. 几何对象编辑函数
这类函数提供对几何图像的平移、翻转、旋转、放大等功能,如ST_AddPoint、ST_Reverse、ST_Rotate、ST_Scale、ST_Snap、ST_Transform、ST_Translate、ST_TransScale。
6. 空间关系及测量函数
这类函数实现几何对象最远、最近、长度、面积等计算,如ST_3DClosestPoint、ST_3DDistance、 ST_3DDWithin、ST_3DDFullyWithin、ST_3DIntersects、ST_3DLongestLine、ST_3DMaxDistance、ST_3DShortestLine、ST_Area。
三、PostGIS的安装:
3.1 基础编译环境准备:
GaussDB(DWS)中的PostGIS Extension需使用GCC和G++工具进行编译安装。安装前需确认GCC和G++版本号大于等于4.8.5,且两个工具可正常使用。具体可通过gcc -v和g++ -v查看相关版本。
如上图所示环境gcc和g++版本为4.3.4,不满足版本要求,需使用源码安装方式进行升级。若集群中没有低版本gcc和g++编译器,可以通过挂载操作系统镜像进行安装,这里不做赘述。如需要升级则可从如下网站获取GCC相关安装包:
https://ftp.gnu.org/gnu/gcc/gcc-5.4.0/gcc-5.4.0.tar.gz
https://ftp.gnu.org/gnu/gmp/gmp-4.3.2.tar.gz
https://ftp.gnu.org/gnu/mpfr/mpfr-2.4.2.tar.gz
https://ftp.gnu.org/gnu/mpc/mpc-1.0.3.tar.gz
此外PostGIS安装还需要确保zlib、autoconf和automake等工具已正确安装。
3.2 PostGIS依赖库安装:
PostGIS依赖Geos、 Proj、 JSON-C、 Libxml2、 Gdal第三方开源工具。安全前首先需要下载Geos、 Proj、 JSON-C、 Libxml2、 Gdal、 PostGIS源码至$GAUSSHOME目录。
安装时需切换至omm用户,并检查GaussDB环境变量已正确加载,且可正常登录和使用GaussDB环境。具体安装命令可参考产品文档,且确保安装路径与文档中给定路径完全一致,自定义路径会导致最终库文件分发失败。
在整个安装过程中,可使用make -sj和make install -sj命令并行加速编译,-sj命令极低概率性出现安装错误,如果安装失败则请使用make和make install进行串行安装。此外对于ARM物理机,在每个安装包configure时需要增加如下编译参数: --build=aarch64-unknown-linuxgnu,否则会出现安装失败。同时,在三方开源库proj的安装过程中,可能会报错$GAUSSHOME/install/proj/bin目录不存在,可手动创建该目录再执行proj的安装。
安装成功后截图大致如下,其中关于get_PlatForm_str.sh不存在的提示信息可直接忽略。
安装完成后则需要使用PostGIS_install.sh工具完成PostGIS相关动态链接库在集群节点中的分发。执行方式为:
sh $GAUSSHOME/share/postgis/PostGIS_install.sh
如若失败,可打开PostGIS_install.sh文件分别执行分发命令,确定是哪个文件不存在而导致分发失败,并进一步分析该库文件编译失败原因。
四、PostGIS使用:
目前GaussDB对PostGIS中绝大多数函数均已支持下推至DN处理。因此对于绝大多数地理数据运算,都可以充分利用GaussDB的分布式计算优势,带来相比于PostgreSQL近似线性扩展比的性能加速。
4.1 地理数据的导入:
PostGIS支持shape格式地理数据导入。因此对于其它地理数据库平台数据,如Oracle或者ArcGIS中的地理数据,可先将其导出为shape格式文件,然后使用$GAUSSHOME/bin目录下的shp2pgsql工具将shape文件转换为sql文件并进一步导入GaussDB。如果生成sql文件中的地理表定义缺少分布键的话,可以手动增加一个id自增的分布键,使地理数据均匀分布到各个DN,进而充分利用GaussDB的分布式计算优势。
4.2 GIS函数使用demo:
对于GaussDB支持各GIS函数的具体使用方法,请参考《 PostGIS-2.4.2用户手册》。这里给一个简单的使用demo。
示例1 :几何表的创建。
CREATE TABLE cities ( id integer, city_name varchar(50) );
SELECT AddGeometryColumn('cities', 'position', 4326, 'POINT', 2);
示例2:几何数据的插入。
INSERT INTO cities (id, position, city_name) VALUES (1,ST_GeomFromText('POINT(-9.5 23)',4326),'CityA');
INSERT INTO cities (id, position, city_name) VALUES (2,ST_GeomFromText('POINT(-10.6 40.3)',4326),'CityB');
INSERT INTO cities (id, position, city_name) VALUES (3,ST_GeomFromText('POINT(20.8 30.3)',4326), 'CityC');
示例3:计算三个城市间任意两个城市距离。
SELECT p1.city_name,p2.city_name,ST_Distance(p1.position,p2.position) FROM cities AS p1, cities AS p2 WHERE p1.id > p2.id;
执行结果为:
示例4:查询query执行计划,发现执行过程中p1表是广播到全部DN节点的,因此对于每个DN,其只需要处理自己节点上的p2数据,通过对比本地p2数据与全局p1数据即可完成整个分析,这也是分布式数据库的优势所在。
五、PostGIS性能介绍
目前市场上的空间数据库包括MySQL的Spatial Extension、PostgreSQL的PostGIS、Oracle Spatial、ArcGIS的ArcSDE及MongoDB等。对于这几款数据库的性能对比,之前有一篇文档《常用地理数据库对比测试》有一个比较详细的对比和介绍。
从图2至图5中的测试数据可以看出,对于点数据,在相同查询条件下,PostGIS数据库的空间查询速度最快。对于线数据,PostGIS则相比于其它数据库要慢一些,这可能与不同地理数据库使用不同索引技术有关。
图2. 第一次点查数据结果
图3. 第二次点查数据结果
图4. 第一次线查数据结果
图5. 第二次线查数据结果
GaussDB作为分布式数据库,对PostGIS做了深度适配。目前GaussDB对PostGIS中绝大多数函数均已支持下推至DN处理。因此对于绝大多数地理数据运算,都可以充分利用GaussDB的分布式计算优势,带来相比于PostgreSQL近似线性扩展比的性能加速,满足客户在大数据场景的地理数据处理和分析需求。
六、总结
本篇博文简单介绍了GaussDB中Postgis的安装和使用,欢迎广大读者收藏和讨论。
想了解GuassDB(DWS)更多信息,欢迎微信搜索“GaussDB DWS”关注微信公众号,和您分享最新最全的PB级数仓黑科技,后台还可获取众多学习资料~