没有合适的资源?快使用搜索试试~ 我知道了~
资源推荐
资源详情
资源评论
中培教育
大数据技术应用实践
--大数据Hadoop与Spark技术应用实践
2016年8月
中培教育
提纲
1. 大数据技术背景
2. 大数据的概念和基本特征
3. 大数据产业和思维改变
4. 大数据的产生和数据分类
5. 大数据带来的挑战
6. 大数据应用领域、行业需求和价值
7. 大数据存储管理与分析处理的总体架构以及关键技术
中培教育
培训目标
1. 掌握大数据的历史缘由、发展历程,有初步的感性认识;
2. 掌握大数据的应用场景以及应用边界,了解大数据适合做什么,不
适合做什么;
3. 掌握大数据技术架构、关键技术、现有技术的不足,以及发展中的
技术概况;
4. 了解大数据技术的难点,为什么会遇到大数据带来的挑战,以及可
能的解决方案是什么;
5. 了解大数据在行业的应用案例,得到一些启发和启示,逐步了解大
数据给行业带来的价值导向;
中培教育
大数据课程体系
中培教育
中培教育
大数据技术
• 大数据技术
– 就是从各种类型的数据中快速获得有价值信息的技术。大数据领域已经涌现出
了大量新的技术,它们成为大数据采集、存储、处理和呈现的有力武器。
• 大数据处理关键技术一般包括:
– 大数据采集、大数据预处理、大数据存储及管理、大数据分析及挖掘
– 大数据展现和应用(大数据检索、大数据可视化、大数据安全等)
中培教育
大数据采集技术
• 大数据采集是指:
– 通过RFID射频数据、传感器数据、社交网络交互数据及移动互联网数据等方式
获得的各种类型的结构化、半结构化(或称之为弱结构化)及非结构化的海量
数据,是大数据知识服务模型的根本
– 重点要突破分布式高速高可靠数据爬取或采集、高速数据全映像等大数据收集
技术;突破高速数据解析、转换与装载等大数据整合技术;设计质量评估模型
,开发数据质量技术
– 大数据智能感知层:主要包括数据传感体系、网络通信体系、传感适配体系、
智能识别体系及软硬件资源接入系统,实现对结构化、半结构化、非结构化的
海量数据的智能化识别、定位、跟踪、接入、传输、信号转换、监控、初步处
理和管理等。必须着重攻克针对大数据源的智能识别、感知、适配、传输、接
入等技术
– 基础支撑层:提供大数据服务平台所需的虚拟服务器,结构化、半结构化及非
结构化数据的数据库及物联网络资源等基础支撑环境。重点攻克分布式虚拟存
储技术,大数据获取、存储、组织、分析和决策操作的可视化接口技术,大数
据的网络传输与压缩技术,大数据隐私保护技术等
中培教育
大数据预处理技术
• 主要完成对已接收数据的辨析、抽取、清洗等操作。
– 抽取:因获取的数据可能具有多种结构和类型,数据抽取过程可以帮助我们将
这些复杂的数据转化为单一的或者便于处理的构型,以达到快速分析处理的目
的。
– 清洗:对于大数据,并不全是有价值的,有些数据并不是我们所关心的内容,
而另一些数据则是完全错误的干扰项,因此要对数据通过过滤“去噪”从而提
取出有效数据
中培教育
大数据存储及管理技术
• 大数据存储与管理要用存储器把采集到的数据存储起来,建立相应的
数据库,并进行管理和调用
– 重点解决复杂结构化、半结构化和非结构化大数据管理与处理技术。主要解决
大数据的可存储、可表示、可处理、可靠性及有效传输等几个关键问题。
– 开发可靠的分布式文件系统(DFS)、能效优化的存储、计算融入存储、大数
据的去冗余及高效低成本的大数据存储技术;突破分布式非关系型大数据管理
与处理技术,异构数据的数据融合、数据组织技术,研究大数据建模技术、大
数据索引技术;大数据移动、备份、复制等技术;开发大数据可视化技术
– 开发新型数据库技术,数据库分为关系型数据库、非关系型数据库以及数据库
缓存系统。其中,非关系型数据库主要指的是NoSQL数据库,分为:键值数据
库、列存数据库、图存数据库以及文档数据库等类型。关系型数据库包含了传
统关系数据库系统以及NewSQL数据库
中培教育
大数据分析及挖掘技术
• 大数据分析技术
– 改进已有数据挖掘和机器学习技术;开发数据网络挖掘、特异群组挖掘、图挖
掘等新型数据挖掘技术;突破基于对象的数据连接、相似性连接等大数据融合
技术;突破用户兴趣分析、网络行为分析、情感语义分析等面向领域的大数据
挖掘技术
– 数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据
中,提取隐含在其中的、事先不知道的、但又是潜在有用的信息和知识的过程
– 数据挖掘涉及的技术方法很多,有多种分类法
• 根据挖掘任务可分为分类或预测模型发现、数据总结、聚类、关联规则发现、序列
模式发现、依赖关系或依赖模型发现、异常和趋势发现等等;
• 根据挖掘对象可分为关系数据库、面向对象数据库、空间数据库、时态数据库、文
本数据源、多媒体数据库、异质数据库、遗产数据库以及环球网Web;
剩余299页未读,继续阅读
资源评论
qq_18282971
- 粉丝: 1
- 资源: 3
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功