没有合适的资源?快使用搜索试试~ 我知道了~
RestCloud安装、使用调研
需积分: 1 2 下载量 92 浏览量
2024-02-27
10:18:41
上传
评论 1
收藏 58.24MB DOC 举报
温馨提示
试读
15页
RestCloud安装、使用调研
资源推荐
资源详情
资源评论
RestCloud安装、使用调研
https://www.sohu.com/a/559056328_121200771
ETLCloud为最新一代的数据集成平台,我们致力于打造一款集离线数据集成ETL、ELT
、CDC实时数据集成、编排调度、数据服务API为一体的数据集成平台(DataOps),一站式
满足企业的各种最为复杂的数据集成场景。提供私有化部署能力和云原生架构,满足企业
不同发展阶段的业务需求。 提供开放的组件市场,企业通过本平台可以快速构建大数据基
础底座,同时快速打通ERP、MES、OA、SaaS、API、MQ、IOT等数据构建数据仓库。
一、产品架构
RestCloud数据集成平台采用SprigCloud微服务架构技术开发,底层基于纯Java语言采用前
后端分离架构,前端采用React技术进行开发。 RestCloud数据集成平台是基于数据流+工
作流引擎的架构进行研发的。
其底层设计了一个专门为数据处理任务流而研发的工作流引擎用以支撑任意复杂的数据流
处理包括:串行、同步并行、异步并行、同步子流程、异步子流程、事务控制、循环任务
执行、多流合并、数据折分、数据流复制等。
而不是基于DAG这种简单的有向无环图的数据流程处理逻辑,得益于我们在工作流上面
集累的优势我们不但可以做DAG这种简单的依赖任务处理还可以做复杂的多层任务调度
能力,企业可以把数据处理任务分为原子层、逻辑组合层、调度层等方式来组合企业的复
杂任务调度需求,可以把一个复杂的数据集成流程拆分成多个可复用的子任务来进行调度
。
一、数据源管理
众所周知,数据源管理是数据平台的较为核心的功能,传统的方式都是以单一的数据源为
主,但是随着业务的逐步发展,已经很难于去满足。因此异构数据源集成是当下急需的业
务功能。
1.数据源统一管理:相比于Kettle需要在每个任务中单独维护和管理数据源的连接和认证
信息,这会增加管理的复杂性。相比之下,我们提供统一的多数据源管理能力可以简化数
据源管理和维护,减少错误和重复性工作。
2.多数据源支持:支持包括主流及国产关系型数据库、NoSQL数据库、文件系统、云存储
等,可以满足链接多种不同数据源的需求。
3.降低管理复杂性:统一界面管理多个数据源,降低了管理复杂性。开发人员可以在一个
流程中进行数据管理、转换和加载,而无需切换多个工具,从而减少了维护成本和错误率
。
4.增强数据安全性:统一数据源连接、数据加密和安全认证等功能,可以帮助保护数据的
安全性。开发人员可以在一个工具中配置和管理这些安全功能,从而提高了数据安全性和
可靠性。
二、离线数据集成
通过可视化的拖、拉、拽创建异构数据源之间的集成任务,对数据进行清洗、转换、传输
等操作。可以说这块功能是非常超前于其他开源的离线数据集成,其中最大的区别在于组
件的丰富多样,并且支持大数据组件。
1.平台提供ETL和ELT双引擎模块,用户可根据不同业务场景选择使用ETL或ELT组件。
2.ETL可为用户实现复杂的数据集成场景以及数仓反向集成业务系统的ETL过程。
3.ELT可为用户快速实现业务数据到数仓及数湖的抽取过程。
4.具有单项目上万数据管道的稳定调度实施经验,可为用户提供复杂的数据管道架构方案
,以及全球化的数据合规交换。
三、实时数据集成
实时数据集成,一般用于对时效性要求很高的场景,也可以用于离线数据集成里的数据增
量采集。
在ETLCloud数据集成平台里,支持异构数据源实时数据监听读取,实时数据通过经过清
选、转换后可以实时存储到数仓中并可立即发布成API服务。
� 1、能够自动根据不同的数据库类型捕获数据变化日志可实现数据表的实时毫秒级
同步,实时数据可同时并行分发到多个目标库或应用中。
� 2、支持实时数据传输到Hive、MongoDB 、Doris、MQ中,同时也支持从
MongoDB 、MQ、文件实时传输到SQL数据库中,支持一对多传输,支持多流合
并传输,传输过程中支持数据质量检查,能实时把脏数据分发到指定表中并发送告
警通知。
四、监控中心
剩余14页未读,继续阅读
资源评论
大数据侠客
- 粉丝: 711
- 资源: 76
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功