没有合适的资源?快使用搜索试试~ 我知道了~
数据中台标准技术方案.docx
资源详情
资源评论
资源推荐
数据中台标准技术方案
2021 年 1 月 9 日
目录
1 数据中台概述....................................................................................................................................................................................................................................................... 3
1.1 数据中台介绍.............................................................................................................................................................................................................................................. 3
1.2 数据中台的价值.......................................................................................................................................................................................................................................... 4
1.3 数据中台设计原则....................................................................................................................................................................................................................................... 8
1.3.1 数据的一致性与标准性........................................................................................................................................................................................................................ 8
1.3.2 数据的实用性与服务性........................................................................................................................................................................................................................ 8
1.3.3 数据的独立性与可扩展性..................................................................................................................................................................................................................... 8
1.3.4 数据安全性........................................................................................................................................................................................................................................ 8
1.3.5 数据分级管理机制............................................................................................................................................................................................................................ 10
1.4 数据中台设计方法..................................................................................................................................................................................................................................... 10
1.4.1 基千面向服务的架构方法 (SOA)......................................................................................................................................................................................................... 10
1.4.2 业务系统规划法 (BSP)...................................................................................................................................................................................................................... 10
1.4.3 系统工程理论................................................................................................................................................................................................................................... 11
2 数据中台核心功能.............................................................................................................................................................................................................................................. 12
2.1 技术架构.................................................................................................................................................................................................................................................. 12
2.1.1 层次架构......................................................................................................................................................................................................................................... 13
2.1.2 逻辑架构......................................................................................................................................................................................................................................... 14
2.1.3 数据架构......................................................................................................................................................................................................................................... 15
2.2 数据统一采集接入平台............................................................................................................................................................................................................................... 16
2.2.1 平台架构......................................................................................................................................................................................................................................... 16
2.2.2 数据流程......................................................................................................................................................................................................................................... 16
2.2.3 平台功能......................................................................................................................................................................................................................................... 16
2.3 数据集中处理平台..................................................................................................................................................................................................................................... 29
2.3.1 平台架构......................................................................................................................................................................................................................................... 29
2.3.2 数据流程......................................................................................................................................................................................................................................... 30
2.3.3 平台功能......................................................................................................................................................................................................................................... 30
2.4 数据组织管理平台..................................................................................................................................................................................................................................... 48
2.4.1 平台架构......................................................................................................................................................................................................................................... 48
2.4.2 数据流程......................................................................................................................................................................................................................................... 50
2.4.3 平台功能......................................................................................................................................................................................................................................... 50
2.5 数据全域治理平台..................................................................................................................................................................................................................................... 57
2.5.1 平台架构......................................................................................................................................................................................................................................... 57
2.5.2 数据流程......................................................................................................................................................................................................................................... 57
2.5.3 平台功能......................................................................................................................................................................................................................................... 57
2.6 数据质量管理平台..................................................................................................................................................................................................................................... 62
2.6.1 数据标准管理................................................................................................................................................................................................................................... 62
2.6.2 数据生命周期管理............................................................................................................................................................................................................................ 63
2.6.3 数据质量管理................................................................................................................................................................................................................................... 65
2.6.4 数据运维管理................................................................................................................................................................................................................................... 65
2.7 数据共享服务平台..................................................................................................................................................................................................................................... 66
2.7.1 平台架构......................................................................................................................................................................................................................................... 66
2.7.2 数据流程......................................................................................................................................................................................................................................... 66
2.7.3 平台功能......................................................................................................................................................................................................................................... 66
2.8 数据可视化平台........................................................................................................................................................................................................................................ 76
2.8.1 平台架构......................................................................................................................................................................................................................................... 76
2.8.2 数据流程......................................................................................................................................................................................................................................... 77
2.8.3 平台功能......................................................................................................................................................................................................................................... 77
3 主要关键技术..................................................................................................................................................................................................................................................... 85
3.1 内存级数据交换共享.................................................................................................................................................................................................................................. 85
3.2 一站式数据集成和数据管理......................................................................................................................................................................................................................... 87
3.3 数据分析模型............................................................................................................................................................................................................................................ 88
3.4 数据治理技术............................................................................................................................................................................................................................................ 88
3.5 数据挖掘技术............................................................................................................................................................................................................................................ 92
3.6 可视化建模技术........................................................................................................................................................................................................................................ 93
3.7 NLP 语义分析技术..................................................................................................................................................................................................................................... 95
3.8 知识图谱技术............................................................................................................................................................................................................................................ 96
3.9 数据交换共享技术指标............................................................................................................................................................................................................................... 97
3.10 应用系统技术指标................................................................................................................................................................................................................................... 97
3.11 数据加工分析技术指标............................................................................................................................................................................................................................. 97
数据中台标准方案
第 3
页 总
93
页
1
数据中台概述
1.1
数据中台介绍
因为在当今互联网时代
,用
户才是商业战场的中心,为了快速响应用
户的需求,借助平台化的力阰可以事半功倍。然而第一之前在传 统企业
信息化建设中企业为了满足单一业务场呆需求而搭建的传统 技术架构
,
其底层技术选型大都无法支撑现有大数据应用场呆。巾此形成的技术壁
垒,往往使得企业转型成本激增甚至无法实现转型;第 二在企业不断发
展的过程中伴随着业务的多兀化发展
,
企业信息部门 单独建设或重建全
新业务系统,逐渐形成了一个个相互独立的数据中 心,从而导致大贷系
统、功能和应用的垂复建设,更造成了计算存储 资源和人力资源的浪费
;
第三企业巾于业务发展带来的组织壁垒而形成的数据孤岛,是数据壁垒
最典型的场呆。它使得企业数据难以被全 局规划和定义,从曲导致数据
价值无法被充分挖掘。传统信息化建设 往往以满足业务流程结果做为唯
一标准,忽视了过程数据和关联数 据。传统的数据平台和其所诮的三
层技术架构
:
前端展示层、中间逻铅层、后端数据层
,
已经无法完善
的解决上述三个问题并实现以用户为中心的业务提升的。
当前企业数据的爆炸式增长以及价值的扩大化,数据将对企业未
来的发展产生深远的影响,数据将成为企业的核心资产。数据中台是
指通过数据技术
,对
海邸数据进行采朱、计算、存储、加工,同 时统
一标准和口径。
数据中台标准方案
第 4
页 总
93
页
数据中台把数据统一之后,会形成标准数据,再进行存储
,
形成
大数据资产层,进而为客户提供高效服务。这些服务跟企业的业务有
较强的关联性,是这个企业独有的且能复用的,它是企业业务和数据
的沉淀,其不仅能降低重复建设、减少烟 囡式协作的成本
, 也
是差异
化竞争优势所在。
1.2
数据中台的价值
中台从公司战略角度,将这些行为进行了规范化,公共的部分交
给公共系统部门去做。
中台实际上是通用业务的下沉
,
企业在一个行业耕耘多年之后,
一般都会形成一些公用的业务,而这些业务是可以像中间件那样进行
下沉共享的。
政府企业机构等对内对外有了统一的业务系统、管理平台等等,
就不会再有各种业务系统孤岛,不会有数据打通问题,不会有跨部门
的数据墙。
有了统一的中台, 也就有了统一的数据规范。
对千大数据相关的需求
,
可以从相对唯一的数据出口进行业务迭
代, 不需要为每一个部门进行定制开发, 浪费人力。
数据中台标准方案
苏
8
贞 从
93 "
1.3
数据中台设计原则
1.3.1
数据的一致性与标准性
除遴循数据库设计的软件行业标准外,还要遴循国家、地方标准
及行业的习惯性事实标准。此外,数据中 台的 建设中将充分考虑客户
已建系统的数据
,
确保与客户现有数据的一致性和标准性。
1.3.2
数据的实用性与服务性
数据中台设计充分考虑实际估况和应用特点,边循“服务性与实
用
性并重”的原则,通过数据整合与治理,数据,齿度可共享、和可根
据实
际需求不断灵活组合,为业务应用服务
,
数据质常高
,保 证
数据的实
用性。
1.3.3
数据的独立性与可扩展性
设计时需要做到数据中台的数据具有独立性, 独立于应用程序,
使数据中心的设计及结构的变化不影响程厅,反之亦然。另外
,数 据
库
设计要考虑其扩展性能,使得 系统增加新应用或新需求时
, 不 至
千
引起整个数据中心结构的大变动。
1.3.4
数据安全性
迎过设计合理和有效的备份和恢复策略,确保数据中心遭遇突发
事故时,能在蚊短的时间内恢复。同时
, 迎
过做好对数据中台的访问
剩余63页未读,继续阅读
司徒剑南
- 粉丝: 45
- 资源: 98
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0