如何使用HttpClient和Jsoup抓取网页及分析网页
如何使用HttpClient和Jsoup抓取网页及分析网页
Miracle_lucy 发表于4年前
如何使用HttpClient和Jsoup抓取网页及分析网页
  • 发表于 4年前
  • 阅读 84
  • 收藏 1
  • 点赞 0
  • 评论 0

【腾讯云】如何购买服务器最划算?>>>   

最近在写一个小爬虫,准备爬一部分网页数据,来做模型训练,在考虑如何抓取网页及分析网页时,参考了OSC站中一些项目,特别是@黄亿华写的《webmagic的设计机制及原理-如何开发一个Java爬虫》这篇文章给了不少启发,webmagic是一个垂直的爬虫,而我要写的是一个比较通用的爬虫,主要爬起中文的网站的内容,对于HTTP协议及报文的处理,没有比HttpClient组件更好的选择了,对于HTML代码的解析,在比较HTMLParser和Jsoup后,后者在API的使用上优势明显,简洁易懂。所使用的开源组件定下来后,接着开始思考如何抓取和解析这两个基本功能。

对于我的爬虫抓取这部分功能来说,只要根据网页的URL抓取HTML代码,再从HTML代码中的解析出链接和<p>标签的文本即可以,因此解析的结果可以用一个Page类来表示,这个类纯粹是一个POJO,那么如何使用HttpClient和Jsoup直接解析成Page对象?

在HttpClient 4.2中,提供了ResponseHandler<T>这个接口来负责处理HttpResponse,因此,借助实现这个接口,可以所返回的HTML代码解析成所需要的Page对象,主要的思路是先把HttpResponse中的数据读出来,变换成HTML代码,然后再用jsoup解析<p>标签和<a>标签。代码如下,

01 public class PageResponseHandler implements ResponseHandler<Page> {
02  
03     private Page page;
04  
05     public PageResponseHandler(Page page) {
06     this.page = page;
07     }
08  
09     public void setPage(Page page) {
10     this.page = page;
11     }
12  
13     public Page getPage() {
14     return page;
15     }
16  
17     @Override
18     public Page handleResponse(HttpResponse response) throws ClientProtocolException, IOException {
19  
20     StatusLine statusLine = response.getStatusLine();
21     HttpEntity entity = response.getEntity();
22  
23     if (statusLine.getStatusCode() >= 300) {
24         EntityUtils.consume(entity);
25         throw new HttpResponseException(statusLine.getStatusCode(), statusLine.getReasonPhrase());
26     }
27  
28     if (entity == null)
29         return null;
30  
31     // 利用HTTPClient自带的EntityUtils把当前HttpResponse中的HttpEntity转化成HTML代码
32     String html = EntityUtils.toString(entity);
33  
34  
35     Document document = Jsoup.parse(html);
36     Elements links = document.getElementsByTag("a");
37  
38     for (int i = 0; i < links.size(); i++) {
39         Element link = links.get(i);
40         page.addAnchor(link.attr("href"), link.text());
41     }
42  
43     // parse context of plain text from HTML code,
44     Elements paragraphs = document.getElementsByTag("p");
45     StringBuffer plainText = new StringBuffer(html.length() / 2);
46     for (int i = 0; i < paragraphs.size(); i++) {
47         Element paragraph = paragraphs.get(i);
48         plainText.append(paragraph.text()).append("\n");
49     }
50     page.setPlainText(plainText.toString());
51  
52     return page;
53     }
54  
55 }
代码不超过40行,非常简单,现在可以直接返回Page对象了,写一个测试类,来测试这个PageResponseHandler.测试这个类的功能也不需要复杂的代码。
01 public class PageResponseHandlerTest {
02  
03     HttpClient httpclient;
04  
05     PageResponseHandler pageResponseHandler;
06  
07     final String url = "http://news.163.com/13/0903/11/97RHS2NS0001121M.html";
08  
09     Page page = new Page(url);
10  
11     @Before
12     public void setUp() throws Exception {
13     httpclient = new DefaultHttpClient();
14     HttpGet httpget = new HttpGet(url);
15     pageResponseHandler = new PageResponseHandler(page);
16     httpclient.execute(httpget, pageResponseHandler);
17     }
18  
19     @After
20     public void tearDown() throws Exception {
21     httpclient.getConnectionManager().shutdown();
22     }
23  
24     @Test
25     public void test() {
26     System.out.println(page.getPlainText());
27     assertTrue(page.getPlainText().length() > 0);
28     assertTrue(page.getAnchors().size() > 0);
29     }
30 }
到目前为止,这个爬虫中的抓取和分析功能部分都工作的很好,对于中文,也能很好的解析,比较细心的读者会看到,这些代码中并没有设置字符集,也没有进行字符集进行转换,稍后会讲到HttpClient 4.2组件中字符集的处理。

先回顾一下关于HTTP协议的RFC规范中Content-Type作用,它指明发送给接收者Http Entity内容的媒介类型,对于文本类型的HttpEntity而言,它通常是下面的形式,指定HttpEntity的媒介类型,使用了何种字符集进行编码的,此外RFC规范还规定了,在Content-Type没有指定字符集的情况,默认使用ISO-8859-1字符集对Http Entity进行编码

1 Content-Type: text/html; charset=UTF-8
说到这里,大家应该能猜到HttpClient 4.2是如何能正确的进行编码的----就是利用Content-Type头中所包含的字符集作为编码的输入源。具体的代码可以看EntityUtils这个类的第212行开始的代码。EntityUtils首先从HttpEntity对象中获取Content-Type, 如果Content-Type的字符集不为空,则使用Content-Type对象中指定的字符集进行编码,否则使用开发者指定的字符集进行编码,如果开发者也没有指定字符集,使用默认的字符集iso-8859-1进行编码,当然编码实现,还是调用JDK的Reader类。
01 ContentType contentType = ContentType.getOrDefault(entity);
02             Charset charset = contentType.getCharset();
03             if (charset == null) {
04                 charset = defaultCharset;
05             }
06             if (charset == null) {
07                 charset = HTTP.DEF_CONTENT_CHARSET;
08             }
09             Reader reader = new InputStreamReader(instream, charset);
10             CharArrayBuffer buffer = new CharArrayBuffer(i);
11             char[] tmp = new char[1024];
12             int l;
13             while((l = reader.read(tmp)) != -1) {
14                 buffer.append(tmp, 0, l);
15             }
16             return buffer.toString();

开放的互联网造就繁荣的网站的同时,也给非遵循HTML规范的网站一些机会,有一些中文网站,没有正确的设置HTTP请求相应头中的Content-Type属性,导致HttpClient用默认的iso-8859-1字符集对Http Entity内进行编码,因此为了防止HttpClient在爬取中文网站出现乱码的问题,可以指定一个默认的GBK字符集,对原有的PageResponseHandler中的那行转换字符串的代码修改成

1 String html = EntityUtils.toString(entity, Charset.forName("gbk"));
至此,爬虫的爬取和解析功能都完成了,再也不怕没有正确设置Content-Type头的中文网站。希望这个篇文章能对读者有用。

@仪山湖

共有 人打赏支持
粉丝 0
博文 5
码字总数 0
×
Miracle_lucy
如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
* 金额(元)
¥1 ¥5 ¥10 ¥20 其他金额
打赏人
留言
* 支付类型
微信扫码支付
打赏金额:
已支付成功
打赏金额: