Python爬虫:Xpath语法笔记
博客专区 > j_hao104 的博客 > 博客详情
Python爬虫:Xpath语法笔记
j_hao104 发表于2年前
Python爬虫:Xpath语法笔记
  • 发表于 2年前
  • 阅读 5062
  • 收藏 62
  • 点赞 1
  • 评论 0

移动开发云端新模式探索实践 >>>   

摘要: XPath 是一门在 XML 文档中查找信息的语言。XPath 用于在 XML 文档中通过元素和属性进行导航。 同时Xpath在做爬虫时也是一款利器

一、选取节点

常用的路劲表达式:

 

表达式 描述 实例  
nodename 选取nodename节点的所有子节点 xpath('//div') 选取了div节点的所有子节点
/ 从根节点选取 xpath('/div') 从根节点上选取div节点
// 选取所有的当前节点,不考虑他们的位置 xpath('//div') 选取所有的div节点
. 选取当前节点 xpath('./div') 选取当前节点下的div节点
.. 选取当前节点的父节点 xpath('..') 回到上一个节点
@ 选取属性 xpath('//@calss') 选取所有的class属性

 

二、谓语

谓语被嵌在方括号内,用来查找某个特定的节点或包含某个制定的值的节点

实例:

 

表达式 结果
xpath('/body/div[1]') 选取body下的第一个div节点
xpath('/body/div[last()]') 选取body下最后一个div节点
xpath('/body/div[last()-1]') 选取body下倒数第二个div节点
xpath('/body/div[positon()<3]') 选取body下前两个div节点
xpath('/body/div[@class]') 选取body下带有class属性的div节点
xpath('/body/div[@class="main"]') 选取body下class属性为main的div节点
xpath('/body/div[price>35.00]') 选取body下price元素值大于35的div节点

 

三、通配符

Xpath通过通配符来选取未知的XML元素

 

表达式 结果
xpath('/div/*') 选取div下的所有子节点
xpath('/div[@*]') 选取所有带属性的div节点

 

四、取多个路径

使用“|”运算符可以选取多个路径

 

表达式 结果
xpath('//div|//table') 选取所有的div和table节点

 

五、Xpath轴

轴可以定义相对于当前节点的节点集

轴名称 表达式 描述
ancestor xpath('./ancestor::*') 选取当前节点的所有先辈节点(父、祖父)
ancestor-or-self xpath('./ancestor-or-self::*') 选取当前节点的所有先辈节点以及节点本身
attribute xpath('./attribute::*') 选取当前节点的所有属性
child xpath('./child::*') 返回当前节点的所有子节点
descendant xpath('./descendant::*') 返回当前节点的所有后代节点(子节点、孙节点)
following xpath('./following::*') 选取文档中当前节点结束标签后的所有节点
following-sibing xpath('./following-sibling::*') 选取当前节点之后的兄弟节点
parent xpath('./parent::*') 选取当前节点的父节点
preceding xpath('./preceding::*') 选取文档中当前节点开始标签前的所有节点

 

preceding-sibling xpath('./preceding-sibling::*') 选取当前节点之前的兄弟节点
self xpath('./self::*') 选取当前节点

 

六、功能函数    

使用功能函数能够更好的进行模糊搜索

 

函数 用法 解释
starts-with xpath('//div[starts-with(@id,"ma")]') 选取id值以ma开头的div节点
contains xpath('//div[contains(@id,"ma")]') 选取id值包含ma的div节点
and xpath('//div[contains(@id,"ma") and contains(@id,"in")]') 选取id值包含ma和in的div节点
text() xpath('//div[contains(text(),"ma")]') 选取节点文本包含ma的div节点
     

 

scrapy xpath文档:http://doc.scrapy.org/en/0.14/topics/selectors.html 

标签: xpath python 爬虫
  • 打赏
  • 点赞
  • 收藏
  • 分享
共有 人打赏支持
粉丝 182
博文 66
码字总数 97704
作品 2
×
j_hao104
如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
* 金额(元)
¥1 ¥5 ¥10 ¥20 其他金额
打赏人
留言
* 支付类型
微信扫码支付
打赏金额:
已支付成功
打赏金额: