十年网站开发经验 + 多家企业客户 + 靠谱的建站团队
量身定制 + 运营维护+专业推广+无忧售后,网站问题一站解决
本篇文章为大家展示了如何用Fiddler爬取APP的评论,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。
站在用户的角度思考问题,与客户深入沟通,找到孝感网站设计与孝感网站推广的解决方案,凭借多年的经验,让设计与互联网技术结合,创造个性化、用户体验好的作品,建站类型包括:成都网站设计、成都网站建设、企业官网、英文网站、手机端网站、网站推广、主机域名、虚拟空间、企业邮箱。业务覆盖孝感地区。
如果你不是个足球迷,但你也可以看看,可以学习下如何去抓APP的数据。好了,废话不多说,开始抓取!
1.抓包分析请求
手机抓包我们可以用 Fiddler 软件来抓取,如果不懂怎样抓的话,可以看看这篇文章抓包软件 Fiddler 了解一下?
配置好之后,开始抓包。
首先找到需要爬取的文章
懂球帝app截图
文章链接为:https://m.dongqiudi.com/article_share/896482.html
在配置好抓包之后,点击下方的评论,可以看到
评论截图
抓包截图
很容易就找到文章评论的请求,就是下面这个
可以看到请求的链接为:https://api.dongqiudi.com/v2/article/896482/comment?sort=down&version=177,
请求方法为GET,接下来就好办了,我们再看看滑下去查看更多的评论的请求。
可以看到,向下翻页多了两个参数,不过容易知道,next参数就是一个时间戳,而 pn参数就是页数吧,从 0开始的。
但是怎样判断所有评论已经爬完了呢?我们可以看看数据的详情,下面将 json 数据格式化,在下图可以看到在 data 里面有下一页的数据,那这就容易了,哈哈
分析了,接下来就是代码部分了。
2.代码部分
这是主体部分,先从第一个评论链接中爬取评论以及找出下一页的评论地址进而继续爬取。这里是把数据库存进 MongoDB 中。
主要的爬取逻辑,可以看出来是比较简单的,因为没有涉及到什么加密参数之类的,但是有一个问题,每一次进行请求的时候,有时候是会返回带有相同的评论的,所以我们也需要在数据库简单地进行去重。
下面是入库和去重的代码部分
剩下的就没有了。
3.查看所得的数据
由于数据分析还不熟悉,所以暂时只制作词云图。
需要先将数据写到文本上
词云图是:
可以看出,昨晚国足输一场,也被很多人喷了,但是还是有很多人是一直支持的,永远都为国足加油,里面也说到了,中国和韩国是有一定差距的,而且还有点大,输了也正常不过了,没必要喷,再说我觉得昨晚的比赛已经比第一场的比赛好很多(第二次没看),还是有进步的,我对国足未来淘汰赛也是充满期望的,我相信能走得更远!
上述内容就是如何用Fiddler爬取APP的评论,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注创新互联行业资讯频道。