没有合适的资源?快使用搜索试试~ 我知道了~
vertical_search:垂直领域搜索==>app,movie,music,book
共34个文件
py:29个
pyc:2个
gitignore:2个
需积分: 9 0 下载量 102 浏览量
2021-06-19
13:37:28
上传
评论
收藏 24KB ZIP 举报
温馨提示
## movie 垂直领域搜索:app,movie,music,book 垂直搜索爬虫(所有抓取数据英文统一转化为小写入库,已完成自动化工作,分布在mdev由crontab控制): 由mdev crontab执行(spider_name)_fab.py,scp 文件到s3指定目录下, 执行抓取操作(s3_remote_path = '/home/ferrero/wanghuafeng/(spider_name)_spider') 1)app (360全站游戏、软件) 爬虫路径:mdev:/home/mdev/wanghuafeng/app_spider 1、爬虫抓取360网站数据(app_name,download_count) 2、基于指定规则对抓取数据进行清洗 (忽略括号中的内容,含英文、数字组合将空格保留, 只含有汉字的数据按空格进行切割,切割后数据保留相同
资源推荐
资源详情
资源评论
收起资源包目录
vertical_search-master.zip (34个子文件)
vertical_search-master
movie_spider
douban.py 2KB
souhu.py 2KB
vedio_360.py 2KB
main.py 3KB
local_fab.py 310B
movie_fab.py 3KB
__init__.py 37B
fabfile.py 90B
aiqiyi.py 2KB
__init__.py 37B
README.md 2KB
music_spider
music_fab.py 624B
baidu_music.py 10KB
main.py 3KB
local_fab.py 325B
__init__.py 37B
fabfile.pyc 288B
.gitignore 25B
fabfile.py 93B
book_jd
main.py 3KB
book_fab.py 622B
local_fab.py 378B
__init__.py 23B
book_jd.py 4KB
fabfile.py 90B
.gitignore 11B
fabfile.py 90B
app
app_360.py 3KB
main.py 5KB
local_fab.py 350B
__init__.py 37B
fabfile.pyc 275B
app_fab.py 620B
fabfile.py 90B
共 34 条
- 1
资源评论
孤单的宇航员
- 粉丝: 34
- 资源: 4580
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功