# weibo-topic-spyder
微博超级话题爬虫,微博词频统计+情感分析+简单分类
新增微博普通话题爬取,其中讨论和阅读数量的爬取待完善
爬取数据展示
![](img/fy.png)
![](img/weibo.png)
### 使用方法
爬虫主文件:
微博普通话题:normal-topic-spyder.py
微博超级话题:super-topic-spyder.py
在爬虫主文件中的主函数中输入账号、密码和想要爬取的超话名称即可开始爬取,需要提前安装所需的python库和chromedriver驱动
爬取结束后数据会自动保存在当前目录下的excel文件中,每行为一个微博数据。
提示:普通的话题爬取需要添加#,例如#话题#,超级话题无需添加;一般而言,在微博中超级话题前带有钻石标志,普通话题为#话题#的格式
### 超级话题爬虫
使用了selenium模拟浏览器登陆进行爬取,具体话题爬取数量受微博限制,目前单个话题最大获取微博数量为8000条左右,选择了使用手机网页模式爬取,以获得最佳的爬取效果。
账号与IP数量对单个超话的爬取帮助不大,就只设置了单账号和ip模式,若需多超话同时爬取可以自行添加。
如需爬取多个超话,可以选择使用cookie登陆,最为方便
### 词频统计
使用了jieba库进行分词,最后对分词结果进行简单统计并且存储到txt中
### 情感分析
调用了百度大脑的api接口,可以自行注册获取key,平台不限调用次数,详细接口见[百度大脑](https://ai.baidu.com/tech/nlp_apply/sentiment_classify)
### 其他
欢迎大家参与和完善:如有其他问题,欢迎提交issue
没有合适的资源?快使用搜索试试~ 我知道了~
温馨提示
爬虫(Web Crawler)是一种自动化程序,用于从互联网上收集信息。其主要功能是访问网页、提取数据并存储,以便后续分析或展示。爬虫通常由搜索引擎、数据挖掘工具、监测系统等应用于网络数据抓取的场景。 爬虫的工作流程包括以下几个关键步骤: URL收集: 爬虫从一个或多个初始URL开始,递归或迭代地发现新的URL,构建一个URL队列。这些URL可以通过链接分析、站点地图、搜索引擎等方式获取。 请求网页: 爬虫使用HTTP或其他协议向目标URL发起请求,获取网页的HTML内容。这通常通过HTTP请求库实现,如Python中的Requests库。 解析内容: 爬虫对获取的HTML进行解析,提取有用的信息。常用的解析工具有正则表达式、XPath、Beautiful Soup等。这些工具帮助爬虫定位和提取目标数据,如文本、图片、链接等。 数据存储: 爬虫将提取的数据存储到数据库、文件或其他存储介质中,以备后续分析或展示。常用的存储形式包括关系型数据库、NoSQL数据库、JSON文件等。 遵守规则: 为避免对网站造成过大负担或触发反爬虫机制,爬虫需要遵守网站的robots.txt协议,限制访问频率和深度,并模拟人类访问行为,如设置User-Agent。 反爬虫应对: 由于爬虫的存在,一些网站采取了反爬虫措施,如验证码、IP封锁等。爬虫工程师需要设计相应的策略来应对这些挑战。 爬虫在各个领域都有广泛的应用,包括搜索引擎索引、数据挖掘、价格监测、新闻聚合等。然而,使用爬虫需要遵守法律和伦理规范,尊重网站的使用政策,并确保对被访问网站的服务器负责。
资源推荐
资源详情
资源评论
收起资源包目录
微博超级话题爬虫,微博词频统计+情感分析+简单分类,新增肺炎超话爬取数据.zip (30个子文件)
SJT-code
weibodata
edg.xls 1.07MB
theshy.xls 146KB
IG+rng.xls 2.7MB
igbanlan.xls 189KB
jackeylove.xls 676KB
mlxg.xls 709KB
teamwe.xls 289KB
肺炎.xls 183KB
英雄联盟.xls 351KB
uzi.xls 1.11MB
super-topic-spyder.py 11KB
LICENSE 1KB
excelSave.py 3KB
analysis.py 1KB
seg_result
edg.txt 2KB
teamwe.txt 2KB
uzi.txt 2KB
jackeylove.txt 2KB
英雄联盟.txt 2KB
igbanlan.txt 2KB
result.txt 2KB
theshy.txt 2KB
mlxg.txt 2KB
IG+rng.txt 2KB
img
fy.png 222KB
weibo.png 259KB
seg.png 26KB
normal-topic-spyder.py 8KB
seg.py 1KB
README.md 2KB
共 30 条
- 1
资源评论
- m0_749614562024-03-21资源很不错,内容和描述一致,值得借鉴,赶紧学起来!
- m0_654162192024-03-14感谢资源主的分享,很值得参考学习,资源价值较高,支持!
JJJ69
- 粉丝: 5965
- 资源: 5593
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功