没有合适的资源?快使用搜索试试~ 我知道了~
Scrapy中如何向Spider传入参数的方法实现
1 下载量 95 浏览量
2021-01-19
23:35:16
上传
评论
收藏 58KB PDF 举报
温馨提示
试读
3页
在使用Scrapy爬取数据时,有时会碰到需要根据传递给Spider的参数来决定爬取哪些Url或者爬取哪些页的情况。 例如,百度贴吧的放置奇兵吧的地址如下,其中 kw参数用来指定贴吧名称、pn参数用来对帖子进行翻页。 https://tieba.baidu.com/f?kw=放置奇兵&ie=utf-8&pn=250 如果我们希望通过参数传递的方式将贴吧名称和页数等参数传给Spider,来控制我们要爬取哪一个贴吧、爬取哪些页。遇到这种情况,有以下两种方法向Spider传递参数。 方式一 通过 scrapy crawl 命令的 -a 参数向 spider 传递参数。 # -*- coding: u
资源推荐
资源评论
资源评论
weixin_38508497
- 粉丝: 7
- 资源: 932
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功