SeimiCrawler v0.24发布了

原创
2015/12/15 22:35
阅读数 235

简介

SeimiCrawler是一个敏捷的,支持分布式的爬虫开发框架,希望能在最大程度上降低新手开发一个可用性高且性能不差的爬虫系统的门槛,以及提升开发爬虫系统的开发效率。在SeimiCrawler的世界里,绝大多数人只需关心去写抓取的业务逻辑就够了,其余的Seimi帮你搞定。设计思想上SeimiCrawler受Python的爬虫框架Scrapy启发很大,同时融合了Java语言本身特点与Spring的特性,并希望在国内更方便且普遍的使用更有效率的XPath解析HTML,所以SeimiCrawler默认的HTML解析器是JsoupXpath(独立扩展项目,非jsoup自带),默认解析提取HTML数据工作均使用XPath来完成(当然,数据处理亦可以自行选择其他解析器)。

Change log

   v0.2.4

  • 自动跳转增强,除301,302外增加支持识别通过meta refresh方式的页面跳转

  • Response对象增加通过getRealUrl()获取内容对应重定向以及跳转后的真实连接

  • 通过注解@Crawler中'useUnrepeated'属性控制是否启用系统级去重机制,默认开启

   v0.2.3

  • 支持自定义动态代理 开发者可以通过覆盖BaseSeimiCrawler.proxy()来自行决定每次请求所使用的代理,覆盖该方法并返回有效代理地址则@Crawler proxy属性失效。

  • 添加动态代理,动态User-Agent使用demo

   v0.2.2

  • 增强对不规范网页的编码识别与兼容能力

   v0.2.1

  • 优化黑白名单正则过滤机制

   v0.2.0

  • 增加支持内嵌http服务API提交json格式的Request请求

  • 增加针对请求URL进行校验的allowRulesdenyRules的自定义设置,即白名单规则和黑名单规则,格式均为正则表达式。默认为null不进行检查

  • 增加对Request的合法性的统一校验

  • 增加支持请求间的delay时间设置

项目地址:GitHub


展开阅读全文
打赏
0
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部