**SpringBoot入门爬虫项目实战**
> 个人博客:[https://www.xmlvhy.com](https://www.xmlvhy.com "https://www.xmlvhy.com"),Java技术交流,技术分享以及经验总结和资源分享。欢迎来访~
##### 一、介绍
本项目作为SpringBoot入门实战项目,主要实现异步任务定时爬取**百思不得姐**数据,并将数据解析入库,提供给前端页面展示。前端采用LayUI相关组件,界面算美观。项目代码没有过度封装(注释详细)。对于刚入门SpringBoot的童鞋,上手这个实战项目还是不错的哈~~ 另外,项目还整合了第三方授权登录(QQ和微信),感兴趣的也可以看看。
##### 二、技术选型
###### 2.1、技术组合
- 数据库:Mysql
- 技术组合:SpringBoot、SpringMvc、Mybatis、PageHelper、Thymeleaf
- 前端框架:Layui
- Lombok、okHttp、jwt、gson序列化与反序列化、ognl(对象图导航,简化json对象解析)
- 其它:QQ登录、微信扫码登录
##### 三、开发环境
###### 3.1、工具与环境
- IDEA 2018.3.5
- Maven 3
- JDK8
- Mysql 5.7+
- Win10 64位系统
##### 四、项目演示
###### 4.1、相关页面截图
1. 注册登录页,管理页面,包括查询、删除、浏览
![](http://static.xmlvhy.com/sb-crawler/crawler-login.png)
![](http://static.xmlvhy.com/sb-crawler/crawler1.png)
![](http://static.xmlvhy.com/sb-crawler/crawler5.png)
![](http://static.xmlvhy.com/sb-crawler/crawler4.png)
2. 预览页面,基本上将解析的数据,如视频、图片、动态图、文字都展示出来
![](http://static.xmlvhy.com/sb-crawler/crawler-video.png)
![](http://static.xmlvhy.com/sb-crawler/crawler-gif.png)
![](http://static.xmlvhy.com/sb-crawler/crawler-img.png)
![](http://static.xmlvhy.com/sb-crawler/crawler-story.png)
#####五、启动
- main 方法运行
```
1. 主配置文件:application.properties,可以选择生效的配置文件(dev,pro),先导入数据库脚本,然后配置你本地数据库的账户密码
2. 其它配置:config.properties,这个文件主要配置QQ、微信授权登录相关。若使用,需要修改为你相关的信息
3. com.xmlvhy.crawler.CrawlerBsbdjApplication:主函数入口,点击运行
4. 访问:http://localhost:8081/crawler
5. 账户密码:admin/123456
tips:项目中使用了lombok插件,IDE得装lombok插件
```
**备注:**
- 项目中用的接口,使用Charles 抓包工具抓取分析获取,接口可能会出现用不了的情况,需要自己抓取分析。但是至今,这几个接口还是可以正常爬取内容的。
- crawler-nodata.sql,数据库脚本是没有任何数据的,因为当前本地数据有几百M大小就不上传了,需要的前往我的 [个人博客](https://www.xmlvhy.com) 留言,打包发给您!
##### 特别说明
**本项目涉及到的内容以及数据仅供学习交流使用,不得用以其它非法用途!!!**
没有合适的资源?快使用搜索试试~ 我知道了~
温馨提示
项目工程资源经过严格测试可直接运行成功且功能正常的情况才上传,可轻松copy复刻,拿到资料包后可轻松复现出一样的项目,本人系统开发经验充足(全栈开发),有任何使用问题欢迎随时与我联系,我会及时为您解惑,提供帮助 【资源内容】:项目具体内容可查看/点击本页面下方的*资源详情*,包含完整源码+工程文件+说明(若有)等。【若无VIP,此资源可私信获取】 【本人专注IT领域】:有任何使用问题欢迎随时与我联系,我会及时解答,第一时间为您提供帮助 【附带帮助】:若还需要相关开发工具、学习资料等,我会提供帮助,提供资料,鼓励学习进步 【适合场景】:相关项目设计中,皆可应用在项目开发、毕业设计、课程设计、期末/期中/大作业、工程实训、大创等学科竞赛比赛、初期项目立项、学习/练手等方面中 可借鉴此优质项目实现复刻,也可基于此项目来扩展开发出更多功能 #注 1. 本资源仅用于开源学习和技术交流。不可商用等,一切后果由使用者承担 2. 部分字体及插图等来自网络,若是侵权请联系删除,本人不对所涉及的版权问题或内容负法律责任。收取的费用仅用于整理和收集资料耗费时间的酬劳 3. 积分资源不提供使用问题指导/解答
资源推荐
资源详情
资源评论
收起资源包目录
springboot入门,爬虫项目实战.zip (210个子文件)
Source.java.bak 678B
SourceMapper.xml.bak 640B
SourceDao.java.bak 239B
layui.css 68KB
font-awesome.min.css 30KB
layer.css 14KB
layui.mobile.css 10KB
laydate.css 7KB
crawler.css 2KB
code.css 1KB
login.css 846B
me.css 824B
error.css 701B
fontawesome-webfont.eot 162KB
iconfont.eot 40KB
59.gif 10KB
22.gif 10KB
24.gif 8KB
13.gif 7KB
16.gif 7KB
39.gif 6KB
64.gif 6KB
63.gif 6KB
50.gif 6KB
loading-0.gif 6KB
4.gif 6KB
1.gif 5KB
42.gif 5KB
71.gif 5KB
21.gif 5KB
20.gif 5KB
29.gif 5KB
70.gif 4KB
5.gif 4KB
17.gif 4KB
27.gif 4KB
9.gif 4KB
44.gif 4KB
11.gif 4KB
8.gif 4KB
3.gif 4KB
23.gif 4KB
34.gif 4KB
41.gif 4KB
38.gif 4KB
65.gif 3KB
32.gif 3KB
45.gif 3KB
7.gif 3KB
12.gif 3KB
26.gif 3KB
60.gif 3KB
2.gif 3KB
40.gif 3KB
25.gif 3KB
19.gif 3KB
66.gif 3KB
18.gif 3KB
46.gif 3KB
10.gif 3KB
28.gif 3KB
51.gif 3KB
57.gif 3KB
67.gif 3KB
0.gif 3KB
48.gif 3KB
43.gif 3KB
30.gif 2KB
61.gif 2KB
33.gif 2KB
69.gif 2KB
14.gif 2KB
47.gif 2KB
36.gif 2KB
49.gif 2KB
58.gif 2KB
6.gif 2KB
54.gif 2KB
53.gif 2KB
56.gif 2KB
62.gif 2KB
31.gif 2KB
55.gif 2KB
35.gif 2KB
15.gif 2KB
loading-2.gif 2KB
37.gif 1KB
68.gif 1KB
52.gif 777B
loading-1.gif 701B
manage_center.html 10KB
login.html 9KB
register.html 6KB
preview.html 3KB
5xx.html 1KB
4xx.html 1KB
favicon.ico 4KB
DataProcessedServiceImpl.java 15KB
CustomerServiceImpl.java 7KB
CrawlerServiceImpl.java 6KB
共 210 条
- 1
- 2
- 3
资源评论
热爱技术。
- 粉丝: 2349
- 资源: 7862
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- R语言数据重塑,20种高效函数操作数据格式与管理
- R语言中数据预处理的技术方法及其应用场景
- 数据库自动清理:策略、技术与实践
- 计算机毕业设计-基于Python+Django的学生管理系统项目实战(源码+演示视频+说明).zip
- 计算机毕业设计-基于Python+Django的疫情数据可视化分析系统项目实战(源码+演示视频+说明).zip
- 泰尔指数模型(数据+stata代码).zip
- 在Python中为3D圣诞树添加阴影效果:技术详解与代码实现
- 基于VMware虚拟化技术的数据中心网络安全架构研究
- 地级市-资源错配指数、劳动和资本相对扭曲指数数据测算+stata代码(2006-2021年).zip
- 【源码+数据库+ppt】基于大数据Spark过滤引擎的电影推荐系统
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功