### 知乎回答多线程爬虫
**模式**
1. 单问题爬取模式
2. 相似问题爬取模式
**输出**
**文件名** 问题题目
**文件内容**
1. 问题
2. 问题id
3. 回答者昵称
4. 回答者空间id
5. 回答者id
6. 回答者内容
**单问题爬取模式**
**功能** 主要通过用户提供的问题id,爬取单个问题下的所有回答
**相似问题爬取模式**
**功能** 通过用户提供的起始问题id,以及相关内容爬取数量,利用知乎的**相关问题**进行自动检索,并不断递归至用户提供的爬取数量(默认数量为20)。
**bug** 由于知乎具有一定的反爬,所以在相似问题检索时最大的检索量为400,如果到达500就会触发反爬机制,需要用户填写一个验证码才可以继续爬取。(也许未来有时间的话会把获取验证码的部分代码补全,但具体机器打码的实现还是太难了,所以还得自己手动输入验证码)
**优点** 简单,明了,使用requests库进行爬取,利用递归实现迭代检索,代码量不大。
**缺点** 功能较少,对线程的把握不够好,可能会出现数据少量缺失的情况。
**技术栈:**
1. requests
2. re
3. json
4. time
5. threading
**未来** 关于知乎的爬取,我这里还有一个存货——爬取知乎文章中的表情包(gif,png,jpg),这样就可以愉快的收集表情包了。同时我也尝试着去做了一下对知乎用户数据的爬取,但还为成功。
**更新**
- 2021.1.4
更新基础功能
- 2021.9.9
更新IP代理池,同时对原有代码进行了一点优化,修复原先的重复重复爬取问题,现版本对多问题爬取的最大数量已没有明确约束了,代理池的具体使用方法参考[这里](https://github.com/srx-2000/git_spider/tree/master/proxy_pool)
没有合适的资源?快使用搜索试试~ 我知道了~
python知乎回答多线程爬虫
共14个文件
xml:6个
py:3个
pyc:2个
1.该资源内容由用户上传,如若侵权请联系客服进行举报
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
版权申诉
5星 · 超过95%的资源 1 下载量 188 浏览量
2021-10-03
15:27:29
上传
评论 1
收藏 10KB RAR 举报
温馨提示
### 知乎回答多线程爬虫 **模式** 1. 单问题爬取模式 2. 相似问题爬取模式 **输出** **文件名** 问题题目 **文件内容** 1. 问题 2. 问题id 3. 回答者昵称 4. 回答者空间id 5. 回答者id 6. 回答者内容 **单问题爬取模式** **功能** 主要通过用户提供的问题id,爬取单个问题下的所有回答 **相似问题爬取模式** **功能** 通过用户提供的起始问题id,以及相关内容爬取数量,利用知乎的**相关问题**进行自动检索,并不断递归至用户提供的爬取数量(默认数量为20)。 **bug** 由于知乎具有一定的反爬,所以在相似问题检索时最大的检索量为400,如果到达500就会触发反爬机制,需要用户填写一个验证码才可以继续爬取。(也许未来有时间的话会把获取验证码的部分代码补全,但具体机器打码的实现还是太难了,所以还得自己手动输入验证码) **优点** 简单,明了,使用requests库进行爬取,利用递归实现迭代检索,代码量不大。 **缺点** 功能较少,对线程的把握不够好,可能会出现数据少量缺失的情况。 **技术栈:** 1. requests 2. re 3. json 4. time 5. threading **未来** 关于知乎的爬取,我这里还有一个存货——爬取知乎文章中的表情包(gif,png,jpg),这样就可以愉快的收集表情包了。同时我也尝试着去做了一下对知乎用户数据的爬取,但还为成功。
资源推荐
资源详情
资源评论
收起资源包目录
zhihuAnswerSpider.rar (14个子文件)
zhihuAnswerSpider
.idea
misc.xml 288B
workspace.xml 8KB
inspectionProfiles
Project_Default.xml 581B
profiles_settings.xml 174B
modules.xml 286B
zhihuAnswerSpider.iml 402B
vcs.xml 183B
README.md 2KB
spider
Proxy_pool.py 2KB
__init__.py 0B
config.yaml 611B
__pycache__
Proxy_pool.cpython-37.pyc 2KB
__init__.cpython-37.pyc 150B
zhihu_answer.py 10KB
共 14 条
- 1
资源评论
- weixin_385928292022-03-08用户下载后在一定时间内未进行评价,系统默认好评。
Mrrunsen
- 粉丝: 8312
- 资源: 473
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功