[Python]爬虫v0.1

2015/06/20 20:16
阅读数 18
#coding:utf-8
import urllib
######
#爬虫v0.1 利用urlib2 和 字符串内建函数
######

# 获取网页内容
def getHtml(url):
    page = urllib.urlopen(url)
    html = page.read()
    return html

def content(html):
    # 内容分割的标签
    str = '<article class="article-content">'
    content = html.partition(str)[2]
    str1 = '<div class="article-social">'
    content = content.partition(str1)[0]
    return content # 得到网页的内容
    
def title(content,beg = 0):
    # 思路是利用str.index()和序列的切片
    try:
        title_list = []
        while beg >=0:   
            num1 = content.index('',beg)
            num2 = content.index('</p>',num1)
            title_list.append(content[num1:num2])
            beg = num2
        
    except ValueError:
         return title_list
        
        
    
def get_title():
    # 利用循环更新num1和num2,从而匹配出全部title
    pass
    
content = content(getHtml("http://bohaishibei.com/post/10449/"))
#num = content.index('】')
title = title(content)
for i,e in enumerate(title):
    print '第%d个,title:%s' % (i,e)

# 今天爬的单个页面的title

只是粗略的记录写爬虫的过程和思路,本来打算直播的,但是我们十一点断电断网。明天续写这个文章,直播写爬虫。哈哈哈,虽然基础,但是也是写出来吧。

 

本文分享 CNBlog - 削微寒的程序员之路。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部