python re正则表达式模拟淘宝搜索商品信息
python re正则表达式模拟淘宝搜索商品信息
宝茜滴老公 发表于2个月前
python re正则表达式模拟淘宝搜索商品信息
  • 发表于 2个月前
  • 阅读 773
  • 收藏 30
  • 点赞 1
  • 评论 2

华为云·免费上云实践>>>   

摘要: 本文介绍一个利用Python re库利用正则表达来实现搜索淘宝商品信息的实例。本文不再阐述re库以及正则表达式。不怎么了解的同学可以先去查查资料哦。(本文代码与思路参照中国慕课课程)

1.开始前准备

1.1 python3,本文代码使用Python3来写。没有安装Python3的童鞋请先安装Python3哦

1.2 requests库,Requests 是用Python语言编写,基于 urllib,采用 Apache2 Licensed 开源协议的 HTTP 库。它比 urllib 更加方便,可以节约我们大量的工作,完全满足 HTTP 测试需求。

下载方法:

pip install requests

1.3 pycharm,一款功能强大的PythonIDE!下载官方版本后,使用license sever免费使用(同系列产品类似),具体参照http://www.cnblogs.com/hanggegege/p/6763329.html

2.爬取分析

我们的目标是实现一个能够代替淘宝搜索获取商品信息的脚本,那么我们先来分析分析具体应该如何实现吧!

我们尝试一下通过网页上的“搜索”按钮来获取一些信息。我们随便输入一个商品名称:电脑

重复几次相同操作查询不同名称商品后,我们发现了一些规律,通过观察url参数我们发现,只要在https://s.taobao.com/search?q=后面加上你需要查询的商品名称就能获取你想要的淘宝商品信息了!我们就以这个为突破口,去写目标脚本吧!

3.代码过程分析与演示

首先我们导入所需要的库:

import requests
import re

我们先来看看电脑信息页面的源代码,去发现其中商品信息的规律,再用正则表达式去实施全局匹配,右键上图页面查看源代码:

仔细观察这段代码,通过对一组数据的分析得到:商品名称在raw_title当中,商品价格view_price当中,通过这个规律 ,我们来写两个正则表达式,匹配页面上的所有商品价格与名称!

我们先来写个函数获取网页代码信息:

def getHTMLText(url):
    try:
        r = requests.get(url)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text #这几行不懂的可以去查查requests库的文档哦
    except:
        return ""

接着,我们再写个函数把获取商品信息:

def parsePage(ilt, html):
    try:
        plt = re.findall(r'\"view_price\"\:\"[\d\.]*\"', html)  #本文代码的精髓就在这两行了
        tlt = re.findall(r'\"raw_title\"\:\".*?\"', html)
        for i in range(len(plt)):
            price = eval(plt[i].split(':')[1])
            title = eval(tlt[i].split(':')[1])
            ilt.append([price, title])
    except:
        print("")

最后,我们需要写个函数把商品信息列出来:

def printGoodsList(ilt):
    tplt = "{:4}\t{:8}\t{:16}"
    print(tplt.format("序号", "价格", "商品名称"))
    count = 0
    for g in ilt:
        count = count + 1
        print(tplt.format(count, g[0], g[1]))

现在我们来写个main()函数来测试我们的代码吧!

def main():
    goods = input('请输入要查找的商品名称:')
    depth = 3             #爬取的页码深度,可以自己调哦
    start_url = 'https://s.taobao.com/search?q=' + goods
    infoList = []
    for i in range(depth):
        try:
            url = start_url + '&s=' + str(44 * i)  #去翻页看看url的变化就知道为什么这么些了
            html = getHTMLText(url)
            parsePage(infoList, html)
        except:
            continue
    printGoodsList(infoList)

项目完整代码:

import requests
import re
def getHTMLText(url):
    try:
        r = requests.get(url, timeout=30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ""
def parsePage(ilt, html):
    try:
        plt = re.findall(r'\"view_price\"\:\"[\d\.]*\"', html)
        tlt = re.findall(r'\"raw_title\"\:\".*?\"', html)
        for i in range(len(plt)):
            price = eval(plt[i].split(':')[1])
            title = eval(tlt[i].split(':')[1])
            ilt.append([price, title])
    except:
        print("")
def printGoodsList(ilt):
    tplt = "{:4}\t{:8}\t{:16}"
    print(tplt.format("序号", "价格", "商品名称"))
    count = 0
    for g in ilt:
        count = count + 1
        print(tplt.format(count, g[0], g[1]))
def main():
    goods = input('请输入要查找的商品名称:')
    depth = 3
    start_url = 'https://s.taobao.com/search?q= 

' + goods
    infoList = []
    for i in range(depth):
        try:
            url = start_url + '&s=' + str(44 * i)
            html = getHTMLText(url)
            parsePage(infoList, html)
        except:
            continue
    printGoodsList(infoList)
main()

我们来看看运行效果图:

大功告成!

(ps:本文代码参照中国慕课网课程)

谢谢观看!

共有 人打赏支持
粉丝 6
博文 3
码字总数 3299
评论 (2)
洋葱拉面
大量稳定供应国内个人终端代理IP,可对公签合同,价格含税。

寻合作对象:大数据爬虫、自媒体补量、广告联盟。Q3500891807
qycms_cn

引用来自“洋葱拉面”的评论

大量稳定供应国内个人终端代理IP,可对公签合同,价格含税。

寻合作对象:大数据爬虫、自媒体补量、广告联盟。Q3500891807
真及时,精准投放。
×
宝茜滴老公
如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
* 金额(元)
¥1 ¥5 ¥10 ¥20 其他金额
打赏人
留言
* 支付类型
微信扫码支付
打赏金额:
已支付成功
打赏金额: