# Waterdrop [![Build Status](https://travis-ci.org/InterestingLab/waterdrop.svg?branch=master)](https://travis-ci.org/InterestingLab/waterdrop)
[![Join the chat at https://gitter.im/interestinglab_waterdrop/Lobby](https://badges.gitter.im/interestinglab_waterdrop/Lobby.svg)](https://gitter.im/interestinglab_waterdrop/Lobby?utm_source=badge&utm_medium=badge&utm_campaign=pr-badge&utm_content=badge)
Waterdrop 是一个`非常易用`,`高性能`、支持`实时流式`和`离线批处理`的`海量数据`处理产品,架构于`Apache Spark` 和 `Apache Flink`之上。
---
### 如果您没时间看下面内容,请直接进入正题:
请点击进入快速入门:https://interestinglab.github.io/waterdrop/#/zh-cn/quick-start
Waterdrop 提供可直接执行的软件包,没有必要自行编译源代码,下载地址:https://github.com/InterestingLab/waterdrop/releases
文档地址:https://interestinglab.github.io/waterdrop/
各种线上应用案例,请见: https://interestinglab.github.io/waterdrop/#/zh-cn/case_study/base
**如果你遇到任何问题,请联系项目负责人 Gary(微信: `garyelephant`) , RickyHuo(微信: `chodomatte1994`),加微信备注"waterdrop",我们把你拉到`Waterdrop & Spark & Flink 交流群`里,并为你提供全程免费服务,你也可以与其他伙伴交流大数据技术。扫码加我,拉你入群:**
<img src="./docs/images/wechat-qrcode/garyelephant.jpeg" height="240" width="240">
---
## 为什么我们需要 Waterdrop
Databricks 开源的 Apache Spark 对于分布式数据处理来说是一个伟大的进步。我们在使用 Spark 时发现了很多可圈可点之处,同时我们也发现了我们的机会 —— 通过我们的努力让Spark的使用更简单,更高效,并将业界和我们使用Spark的优质经验固化到Waterdrop这个产品中,明显减少学习成本,加快分布式数据处理能力在生产环境落地。
除了大大简化分布式数据处理难度外,Waterdrop尽所能为您解决可能遇到的问题:
* 数据丢失与重复
* 任务堆积与延迟
* 吞吐量低
* 应用到生产环境周期长
* 缺少应用运行状态监控
"Waterdrop" 的中文是“水滴”,来自中国当代科幻小说作家刘慈欣的《三体》系列,它是三体人制造的宇宙探测器,会反射几乎全部的电磁波,表面绝对光滑,温度处于绝对零度,全部由被强互作用力紧密锁死的质子与中子构成,无坚不摧。在末日之战中,仅一个水滴就摧毁了人类太空武装力量近2千艘战舰。
## Waterdrop 使用场景
* 海量数据ETL
* 海量数据聚合
* 多源数据处理
## Waterdrop 的特性
* 简单易用,灵活配置,无需开发
* 实时流式处理
* 离线多源数据分析
* 高性能
* 海量数据处理能力
* 模块化和插件化,易于扩展
* 支持利用SQL做数据处理和聚合
* 支持Spark Structured Streaming
* 支持Spark 2.x
## Waterdrop 的工作流程
<p align="center">
<img src="./docs/images/wd-workflow.png" height="460" width="280" >
</p>
```
Input[数据源输入] -> Filter[数据处理] -> Output[结果输出]
```
多个Filter构建了数据处理的Pipeline,满足各种各样的数据处理需求,如果您熟悉SQL,也可以直接通过SQL构建数据处理的Pipeline,简单高效。目前Waterdrop支持的[Filter列表](zh-cn/configuration/filter-plugin), 仍然在不断扩充中。您也可以开发自己的数据处理插件,整个系统是易于扩展的。
## Waterdrop 支持的插件
* Input plugin
Fake, File, Hdfs, Kafka, S3, Socket, 自行开发的Input plugin
* Filter plugin
Add, Checksum, Convert, Date, Drop, Grok, Json, Kv, Lowercase, Remove, Rename, Repartition, Replace, Sample, Split, Sql, Table, Truncate, Uppercase, Uuid, 自行开发的Filter plugin
* Output plugin
Elasticsearch, File, Hdfs, Jdbc, Kafka, Mysql, S3, Stdout, 自行开发的Output plugin
## 环境依赖
1. java运行环境,java >= 8
2. 如果您要在集群环境中运行Waterdrop,那么需要以下Spark集群环境的任意一种:
* Spark on Yarn
* Spark Standalone
* Spark on Mesos
如果您的数据量较小或者只是做功能验证,也可以仅使用`local`模式启动,无需集群环境,Waterdrop支持单机运行。
## 文档
关于Waterdrop的[详细文档](https://interestinglab.github.io/waterdrop/)
## 社区分享
* 2018-09-08 Elasticsearch 社区分享 [Waterdrop:构建在Spark之上的简单高效数据处理系统](https://elasticsearch.cn/slides/127#page=1)
* 2017-09-22 InterestingLab 内部分享 [Waterdrop介绍PPT](http://slides.com/garyelephant/waterdrop/fullscreen?token=GKrQoxJi)
## 应用案例
* [微博](https://weibo.com), 增值业务部数据平台
<img src="https://img.t.sinajs.cn/t5/style/images/staticlogo/groups3.png?version=f362a1c5be520a15" height="120" width="160" >
微博某业务有数百个实时流式计算任务使用内部定制版Waterdrop,以及其子项目[Guardian](https://github.com/InterestingLab/guardian)做Waterdrop On Yarn的任务监控。
* [新浪](http://www.sina.com.cn/), 大数据运维分析平台
<img src="./docs/images/sina-logo.png" height="60" width="120" >
新浪运维数据分析平台使用waterdrop为新浪新闻,CDN等服务做运维大数据的实时和离线分析,并写入Clickhouse。
* [字节跳动](https://bytedance.com/zh),广告数据平台
<img src="./docs/images/bytedance-logo.jpeg" height="90" width="150" >
字节跳动使用Waterdrop实现了多源数据的关联分析(如Hive和ES的数据源关联查询分析),大大简化了不同数据源之间的分析对比工作,并且节省了大量的Spark程序的学习和开发时间。
* [搜狗](http://agent.e.sogou.com/),搜狗奇点系统
<img src="./docs/images/sougou-logo.png" height="70" width="200" >
搜狗奇点系统使用 waterdrop 作为 etl 工具, 帮助建立实时数仓体系
* [趣头条](https://www.qutoutiao.net/),趣头条数据中心
<img src="./docs/images/qutoutiao-logo.jpg" height="90" width="90" >
趣头条数据中心,使用waterdrop支撑mysql to hive的离线etl任务、实时hive to clickhouse的backfill技术支撑,很好的cover离线、实时大部分任务场景。
* [一下科技](https://www.yixia.com/), 一直播数据平台
<img src="https://imgaliyuncdn.miaopai.com/static20131031/miaopai20140729/new_yixia/static/imgs/logo.png" height="60" width="120" >
* 永辉超市子公司-永辉云创,会员电商数据分析平台
<img src="./docs/images/yonghuiyunchuang-logo.png" height="60" width="120" >
Waterdrop 为永辉云创旗下新零售品牌永辉生活提供电商用户行为数据实时流式与离线SQL计算。
* 水滴筹, 数据平台
<img src="./docs/images/shuidichou-logo.jpg" height="60" width="120" >
水滴筹在Yarn上使用Waterdrop做实时流式以及定时的离线批处理,每天处理3~4T的数据量,最终将数据写入Clickhouse。
* 浙江乐控信息科技有限公司
<img src="./docs/images/zhejiang_lekong_xinxi_keji-logo.jpg" height="60" width="120" >
Watedrop 为浙江乐控信息科技有限公司旗下乐控智能提供物联网交互数据实时流sql分析(Structured Streaming 引擎)和离线数据分析。每天处理的数据量8千万到一亿条数据 最终数据落地到kafka和mysql数据库。
* [上海分蛋信息科技](https://91fd.com),大数据数据分析平台
<img src="./docs/images/fendan-keji-logo.jpeg" height="60" width="120" >
分蛋科技使用Waterdrop做数据仓库实时同步,近百个Pipeline同步处理;数据流实时统计,数据平台指标离线计算。
* 其他公司 ... 期待您的加入,请联系微信: garyelephant
## 项目Star增长趋势
```
Waterdrop已进入高速成长期,如果你支持此项目,请点Star.
```
[![Stargazers over time](https://starchart.cc/InterestingLab/w
没有合适的资源?快使用搜索试试~ 我知道了~
waterdrop-1.4.2.zip
共229个文件
md:133个
docs:40个
png:6个
需积分: 0 8 下载量 37 浏览量
2023-07-03
10:21:55
上传
评论
收藏 50.03MB ZIP 举报
温馨提示
waterdrop-1.4.2.zip
资源推荐
资源详情
资源评论
收起资源包目录
waterdrop-1.4.2.zip (229个子文件)
aws 2KB
bacula 5KB
bind 260B
bro 2KB
Table.docs 1KB
Date.docs 864B
Kv.docs 779B
Script.docs 699B
FakeStream.docs 659B
File.docs 610B
Grok.docs 562B
Json.docs 553B
Replace.docs 552B
Clickhouse.docs 540B
Split.docs 502B
Truncate.docs 495B
Stdout.docs 480B
Kudu.docs 469B
MongoDB.docs 457B
Jdbc.docs 456B
Drop.docs 446B
Elasticsearch.docs 435B
Uppercase.docs 432B
Lowercase.docs 432B
Kudu.docs 431B
Sample.docs 418B
Hive.docs 403B
Checksum.docs 398B
MySQL.docs 398B
MongoDB.docs 397B
KafkaStream.docs 389B
Sql.docs 338B
Rename.docs 336B
Convert.docs 329B
SocketStream.docs 324B
Add.docs 321B
Kafka.docs 314B
Uuid.docs 308B
Remove.docs 272B
Repartition.docs 269B
HdfsStream.docs 265B
S3Stream.docs 260B
FileStream.docs 258B
File.docs 252B
exim 879B
firewalls 10KB
.gitkeep 0B
grok-patterns 5KB
haproxy 3KB
index.html 2KB
httpd 987B
Waterdrop-1.4.2-2.11.8.jar 54.12MB
java 1KB
kid-xiong.jpeg 40KB
rickyhuo.jpeg 39KB
garyelephant.jpeg 22KB
bytedance-logo.jpeg 14KB
fendan-keji-logo.jpeg 7KB
hdfs2ch.jpg 874KB
qutoutiao-logo.jpg 14KB
zhejiang_lekong_xinxi_keji-logo.jpg 11KB
shuidichou-logo.jpg 7KB
demo.json 37B
junos 1KB
LICENSE 11KB
linux-syslog 1KB
maven 74B
mcollective 49B
mcollective-patterns 190B
5.md 11KB
developing-plugin.md 10KB
4.md 10KB
1.md 8KB
3.md 8KB
README.md 8KB
README.md 8KB
2.md 6KB
monitoring.md 5KB
_sidebar.md 4KB
Json.md 4KB
Clickhouse.md 4KB
Json.md 4KB
quick-start.md 4KB
MongoDB.md 3KB
README.md 3KB
KafkaStream.md 3KB
base.md 3KB
Kv.md 3KB
Opentsdb.md 3KB
Kv.md 3KB
Clickhouse.md 3KB
Grok.md 3KB
quick-start.md 3KB
Grok.md 3KB
_sidebar.md 3KB
Date.md 3KB
Kafka.md 2KB
contribution.md 2KB
Jdbc.md 2KB
Elasticsearch.md 2KB
共 229 条
- 1
- 2
- 3
资源评论
Fu笙
- 粉丝: 0
- 资源: 5
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- 5uonly.apk
- 2023-04-06-项目笔记 - 第一百十九阶段 - 4.4.2.117全局变量的作用域-117 -2024.04.30
- 2023-04-06-项目笔记 - 第一百十九阶段 - 4.4.2.117全局变量的作用域-117 -2024.04.30
- 前端开发技术实验报告:内含4四实验&实验报告
- Highlight Plus v20.0.1
- 林周瑜-论文.docx
- 基于MIC+NE555光敏电阻的声光控电路Multisim仿真原理图
- 基于JSP毕业设计-基于WEB操作系统课程教学网站的设计与实现(源代码+论文).zip
- 基于LM324和LM386的音响放大器Multisim仿真+PCB电路原理图
- Python机器学习与数据挖掘环境配置与库验证
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功