今天我们要爬取的是动漫壁纸图片,来看今天的主角:
在浏览的时候,当滑到底部时,壁纸会刷新加载,所以我们可以知道,壁纸是动态加载的。
打开开发者模式,观察HTML的动态变化。
点击NetWork,XHR,我们就可以发现,
图片地址是通过JSON数据传输过来的,所以,我们不就知道了每张壁纸对应的url了吗O(∩_∩)O
找到对应数据接口,开始代码的干活!
通过输入指定页数,遍历循环:
import requests import jsonpath import json import os page = input("请输入需要下载的页数:") if not os.path.exists('img'): os.mkdir('img') for i in range(int(page)): num = 1 url = f'https://rt.huashi6.com/front/index/load_pc_data?_ts_=1634131862878&cursor=' + str(i) + '-1634130800452' headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:92.0) Gecko/20100101 Firefox/92.0' } path = f'img\\第{i+1}页' if not os.path.exists(path): os.mkdir(path) else: print(path + '已存在') continue html = requests.get(url, headers=headers).content.decode("utf-8") data = json.loads(html) img = jsonpath.jsonpath(data, '$..path') print(f"开始下载第{i+1}页...") for j in img: with open(path+ '\\' + str(num) + os.path.splitext(j)[1], 'wb') as f: print(f"第{i+1}页 正在下载第{num}张...") f.write(requests.get('https://img2.huashi6.com/' + j, headers=headers).content) num += 1
三十行代码不到,就可以搞定啦
代码运行:
结果:
额,突然发现,第一页和第二页是一样的, ̄□ ̄||
不慌,我们可以选择过滤掉第一页
把代码for i in range(int(page))
改成for i in range(1,int(page)+1)
再把后面三个地方的 i+1
改成 i
即可(〃'▽'〃)
注:如果有对Json和JsonPath模块不懂的,可以点击下面链接查看:
Python | JSON 数据解析(Json & JsonPath)