Java教程

amazon爬取流程与思路

本文主要是介绍amazon爬取流程与思路，对大家解决编程问题具有一定的参考价值，需要的程序猿们随着小编来一起学习吧！

第一步:访问分类页面

https://www.amazon.in//gp/site-directory?ref=nav_em_ajax_fail  #抓包获得

第二步:获取分类页面下各个分类的url

如 :https://www.amazon.in/gp/browse.html?node=1389401031&ref_=nav_em_T1_0_4_NaN_1_sbc_mobcomp_all_mobiles
        
 由于对方网站也是迭代的出来的这里有很多信息需要自己过滤排查

第三步:翻页的处理

import time

https://www.amazon.in/gp/browse.html?node=1389401031&ref_=nav_em_T1_0_4_NaN_1_sbc_mobcomp_all_mobiles&page=1&qid={int(time.time())}&ref=sr_pg_1
    
翻页主要2个参数控制
#page=页码
#qid=十位的当前时间戳
#如果页码超过最大页码不会报错就是现实最后一页内容

第四步:详情页内容获取

#内容都在
#正则匹配格式
jQuery.parseJSON\('(.*?)'\);
这篇关于amazon爬取流程与思路的文章就介绍到这儿，希望我们推荐的文章对大家有所帮助，也希望大家多多支持为之网！
您可能喜欢
栏目导航