一、爬取案例-豆瓣读书TOP250
上一期给大家分享了个python爬虫案例:豆瓣电影TOP250的排行榜数据爬取
【python爬虫案例】利用python爬虫爬取豆瓣电影评分TOP250排行数据!
今天再给大家分享一下:豆瓣读书排行榜TOP250的python爬虫案例!
因为是同一个网站,所以流程和逻辑上都是差不多的。
这次爬取的目标网址是:https://book.douban.com/top250
老规矩!咱们以目标为驱动,以兴趣为导向,先来看下爬虫程序运行后得到的excel文档数据
那代码是如何实现豆瓣读书TOP250数据爬取的了?下面逐一讲解一下python实现。
二、豆瓣读书TOP250网站分析
通过浏览器F12查看所有请求,发现他并没有发送ajax请求,那说明我们要的TOP250的排行榜数据大概率是在html页面内容上。
于是我们 点击右键->查看网页源代码 ,发现我们需要的豆瓣读书评分的排行榜数据都在html页面里
这就简单了,我们直接往下看,上代码。
三、python爬虫代码详解
首先,导入我们需要用到的库
import requests # 发请求
from lxml import etree # 解析html
import pandas as pd # 存取csv
然后,向豆瓣读书TOP250的网页发起请求,获得html页面内容
page_source = requests.get(page_url, headers=headers).text
用lxml库解析html页面
tree = etree.HTML(page_source)
使用xpath来提取我们需要的书籍排行榜数据内容
# 获得数据
tables = tree.xpath('//div[@id="content"]/div/div[1]/div/table')
for table in tables:
top = table.xpath(".//td[@valign='top']")[-1]
# 书名
book_name = extract_first(top.xpath("./div/a/text()")).strip()
# 豆瓣链接
url = extract_first(top.xpath("./div/a/@href")).strip()
# 作者、译者、出版社、出版日期、价格
info = extract_first(top.xpath("./p[@class='pl']/text()")).strip()
# 评分
score = extract_first(top.xpath("./div[@class='star clearfix']/span[@class='rating_nums']/text()")).strip()
# 评分人数
star_people = extract_first(top.xpath("./div[@class='star clearfix']/span[@class='pl']/text()")).strip()
star_people_num = re.search("\d+", star_people).group()
# 一句话评价
one_evaluate = extract_first(top.xpath("./p[@class='quote']/span/text()")).strip()
其中,需要特殊说明的是,上面的info变量。
他里面会包含:作者、译者、出版社、出版日期、价格等信息,提取的时候会有多种格式。
为了应对书籍信息中列表的不同长度,所以会有如下应对不同格式的处理代码
infos = info.split("/")
if len(infos) == 5:
author = infos[0]
translator = infos[1]
publish = infos[2]
publish_date = infos[3]
price = infos[4]
elif len(infos) == 4:
author = infos[0]
publish = infos[1]
publish_date = infos[2]
price = infos[3]
elif len(infos) == 6 : # 有2个价格 第1页:福尔摩斯探案全集
author = infos[0]
translator = infos[1]
publish = infos[2]
publish_date = infos[3]
price = str(infos[4]) + "/" + str(infos[5])
elif len(infos) == 3: # 没有作者,且没有译者 第5页:十万个为什么
publish = infos[0]
publish_date = infos[1]
price = infos[2]
else:
print(f"未匹配到的格式 书名={book_name}", infos)
最后,我们将爬虫爬取的数据保存到csv文档里
def save_to_csv(csv_name):
"""
数据保存到csv
@param csv_name: csv文件名字
@return:
"""
df = pd.DataFrame() # 初始化一个DataFrame对象
df['书名'] = book_names
df['豆瓣链接'] = book_urls
df['作者'] = authors
df['译者'] = translators
df['出版社'] = publishers
df['出版日期'] = publish_dates
df['价格'] = prices
df['评分'] = scores
df['评分人数'] = star_peoples
df['一句话评价'] = one_evaluates
df.to_csv(csv_name, encoding='utf8') # 将数据保存到csv文件
上面的book_names、book_urls等变量都是使用的list来进行存储的,这样才能符合pandas导出数据时的需要,最后调用to_csv()方法即可导出豆瓣读书的排行榜数据到文档里了。
四、python爬虫源代码获取
爱学习的小伙伴,想获取完整python代码文件,请关注我的微信公众号”程序员王哪跑“,回复关键字”豆瓣读书250“,即可获取完整python爬虫源码及豆瓣读书评分TOP250的csv表格数据。