Python爬虫天气预报实例详解（小白入门）
17 浏览量
2020-09-20
20:35:16
上传
评论 5
收藏 257KB PDF 举报
Python爬虫天气预报实例详解（小白入门）爬虫天气预报实例详解（小白入门）
主要介绍了Python爬虫天气预报实例详解（小白入门），详细介绍了整个爬虫建立的流程，最后分享了实现代码，很简洁，小编觉得还是挺不错的，具有一
定借鉴价值，需要的朋友可以参考下
本文研究的主要是Python爬虫天气预报的相关内容，具体介绍如下。
这次要爬的站点是这个：http://www.weather.com.cn/forecast/
要求是把你所在城市过去一年的历史数据爬出来。
分析网站分析网站
首先来到目标数据的网页 http://www.weather.com.cn/weather40d/101280701.shtml
我们可以看到，我们需要的天气数据都是放在图表上的，在切换月份的时候，发现只有部分页面刷新了，就是天气数据的那块，而URL没有变化。
这是因为网页前端使用了JS异步加载的技术，更新时不用加载整个页面，从而提升了网页的加载速度。
对于这种非静态页面，我们在请求数据时，就不能简单的通过替换URL来请求不同的页面。
着眼点要放在Network，观察整个请求的过程，从中寻找突破口。
老规矩按下F12 > network，切换下页面，发现多了一些东西，这就是切换月份，浏览器发出的请求，可以很清楚的看到请求头和请求参数。
再来看看Response是怎样的吧
真是没想到，返回的居然是json格式的天气数据！直接做 json 反序化就能变成字典的形式，省掉了我们解析 html 的麻烦呀。既然找到了数据所在的地方，就可以开始尝试构建
请求了。
构建请求构建请求
先直接copy上面的Request URL，试下请求。http://d1.weather.com.cn/calendar_new/2017/101280701_201706.html?_=1495720234075
然后发现报错了，先把请求头全部满上怼进去，发现可以正常的响应。
但是我们还要分析下到底哪个参数不对出了问题。经过尝试，发现请求头里的Referer的原因，去掉就会报错。
这是因为这是浏览器发出请求时，会通过Referer告诉服务器我是从哪个页面链接过来的，有些网站会对这个做验证，主要时为了防止别人盗链的问题。
这个中国天气网，就是验证了Referer里的域名是不是自己的，不是的话就会403禁止访问服务器。
评论0
最新资源