DDR爱好者之家

通过抓取淘宝评论为例讲解Python爬取ajax动态生成的数据(经典)
站长资源 2024/11/25 佚名
77 1538
DDR爱好者之家 Design By 杰米

在学习python的时候，一定会遇到网站内容是通过 ajax动态请求、异步刷新生成的json数据 的情况，并且通过python使用之前爬取静态网页内容的方式是不可以实现的，所以这篇文章将要讲述如果在python中爬取ajax动态生成的数据。

至于读取静态网页内容的方式，有兴趣的可以查看本文内容。

这里我们以爬取淘宝评论为例子讲解一下如何去做到的。

这里主要分为了四步：

一 获取淘宝评论时，ajax请求链接（url）

二 获取该ajax请求返回的json数据

三 使用python解析json数据

四 保存解析的结果

步骤一：

获取淘宝评论时，ajax请求链接（url）这里我使用的是Chrome浏览器来完成的。打开淘宝链接，在搜索框中搜索一个商品，比如“鞋子”，这里我们选择第一项商品。

通过抓取淘宝评论为例讲解Python爬取ajax动态生成的数据(经典) 

然后跳转到了一个新的网页中。在这里由于我们需要爬取用户的评论，所以我们点击累计评价。

通过抓取淘宝评论为例讲解Python爬取ajax动态生成的数据(经典) 

然后我们就可以看到用户对该商品的评价了，这时我们在网页中右击选择审查元素（或者直接使用F12打开）并且选中Network选项，如图所示：

通过抓取淘宝评论为例讲解Python爬取ajax动态生成的数据(经典) 

我们在用户评论中，翻到底部 点击下一页或者第二页，我们在Network中看到动态添加了几项，我们选择开头为list_detail_rate.htm"text-align: center">通过抓取淘宝评论为例讲解Python爬取ajax动态生成的数据(经典) 

然后点击该选项，我们可以在右边选项框中看到有关该链接的信息，我们要复制Request URL中的链接内容。

通过抓取淘宝评论为例讲解Python爬取ajax动态生成的数据(经典) 

我们在浏览器的地址栏中输入刚才我们获得url链接，打开后我们会发现页面返回的是我们所需要的数据，不过显得很乱，因为这是json数据。

通过抓取淘宝评论为例讲解Python爬取ajax动态生成的数据(经典) 

二 获取该ajax请求返回的json数据

下一步，我们就要获取url中的json数据了。我所使用的python编辑器是pycharm，下面看一下python代码：

# -*- coding: utf-8 -*-
import sys
reload(sys)
sys.setdefaultencoding('utf-8')
import requests
url='https://rate.tmall.com/list_detail_rate.htm"color: #0000ff">三 使用python解析json数据





# -*- coding: utf-8 -*-
import sys
reload(sys)
sys.setdefaultencoding('utf-8')
import requests
import json
import re
url='https://rate.tmall.com/list_detail_rate.htm"gbk")
count=len(con['rateDetail']['rateList'])
for i in xrange(count):
  print con['rateDetail']['rateList'][i]['appendComment']['content']





通过抓取淘宝评论为例讲解Python爬取ajax动态生成的数据(经典)  


解析：


这里需要导入所要的包，re为正则表达式需要的包，解析json数据需要import json


cont=requests.get(url).content #获取网页中json数据


rex=re.compile(r'\w+[(]{1}(.*)[)]{1}') #正则表达式去除cont数据中多余的部分，是数据成为真正的json格式的数据{“a”:”b”,”c”:”d”}


con=json.loads(content,”gbk”) 使用json的loads函数 将content内容转化为json库函数可以处理的数据格式，”gbk”为数据的编码方式，由于win系统默认为gbk


count=len(con[‘rateDetail'][‘rateList']) #获取用户评论的个数（这里只是当前页的）


for i in xrange(count):


print con[‘rateDetail'][‘rateList'][i][‘appendComment']


#循环遍历用户的评论 并输出（也可以根据需求保存数据，可以查看第四部分）


这里的难点是在杂乱的json数据中查找用户评论的路径


四 保存解析的结果


这里用户可以将用户的评论信息保存到本地，如保存为csv格式。


以上就是本文的全部所述，希望大家喜欢。
DDR爱好者之家 Design By 杰米
广告合作：本站广告合作请联系QQ：858582 申请时备注：广告合作（否则不回）
免责声明：本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除！
DDR爱好者之家 Design By 杰米
ddrfans.com DDR爱好者之家
8,675无损音乐
1,324高清电影
213破解软件
70,141收录资讯

更新日志

友情链接

杰晶网络 DDR爱好者之家 南强小屋 黑松山资源网 白云城资源网
DDR爱好者之家 Design By 杰米