python网页文本爬虫.pdf
版权申诉
76 浏览量
2022-05-29
03:46:08
上传
评论
收藏 146KB PDF 举报
Python 爬虫
1，python 爬虫介绍：、
网络爬虫（又被称为网页蜘蛛，网络机器人），是一种按照一定的规则，自动的抓取万维网
信息的程序或者脚本。各大搜索引擎都用爬虫缓存各种 url，提供搜索服务。高级爬虫技术
难度是很高的，要考虑很多，比如连接优化，代理服务器，大数据量下爬取优化，站点爬取
规则设计，但是基础爬虫重点只是实现信息抓取保存和处理，爬取规则通常很简单。
以小说网站爬取为例，首先需要掌握 python 基础，比如 urllib 使用，python 进行字符串操
作，复杂一点使用正则表达式。还有就是基本的程序逻辑。具备这三点就能开始爬小说。
爬虫代码示例
首先贴上完整代码：
importurllib
import urllib2
importos
import time
import sys
defgetHtml(url):
page = urllib.urlopen(url)
html = page.read()
returnhtml.decode('gbk').encode('utf-8') + ''
definterstr(src, begin, end):
index1 = src.find(begin)
if index1 is -1:
return None
index1 += len(begin)
tmp = src[index1:]
index2 = tmp.find(end)
if index2 is -1:
return None
dst = tmp[:index2]
returndst
资源评论
春哥111
- 粉丝: 1w+
- 资源: 5万+
最新资源
- Win64OpenSSL-3-3-0.exe
- 课高分程设计-基于C++实现的民航飞行与地图简易管理系统-南京航空航天大学
- 航天器遥测数据故障检测系统python源码+文档说明+数据库(课程设计)
- 北京航空航天大学操作系统课设+ppt+实验报告
- 基于Vue+Echarts实现风力发电机中传感器的数据展示监控可视化系统+源代码+文档说明(高分课程设计)
- 基于单片机的风力发电机转速控制源码
- 基于C++实现的风力发电气动平衡监测系统+源代码+测量数据(高分课程设计)
- 毕业设计- 基于STM32F103C8T6 单片机，物联网技术的太阳能发电装置+源代码+文档说明+架构图+界面截图
- 基于 LSTM（长短期记忆）（即改进的循环神经网络）预测风力发电厂中风力涡轮机产生的功率+源代码+文档说明
- 基于stm32f103+空心杯电机+oled按键+运动算法
资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！
点击此处反馈
