没有合适的资源?快使用搜索试试~ 我知道了~
温馨提示
试读
14页
Hadoop 是Google MapReduce的一个Java开源软件实现。MapReduce是一种简化的分布式编程模式,让程序自动分布到一个由普通机器组成的超大集群上并发执行。就如同Java程序员可以不考虑内存泄露一样,MapReduce运行时系统会解决输入数据的并行分发,跨越机器集群的程序执行调度,处理服务器的失效,并且管理机器之间的通信请求。MapReduce计算框架允许程序员可以不需要并行处理或者分布式计算系统的编程经验,就可以利用超大规模的分布式系统资源处理问题。Cloudbase 是一个构建于Hadoop MapReduce计算模型基础之上的高性能数据挖掘软件,适应TB、PB规模的数据分析。Cloudbase的特征是允许程序员使用 ANSI SQL 直接对大规模海量日志文件进行很方便的查询。 以下提出了采用Hadoop云计算技术实现一种标准宽带数据增值业务系统——TelEye,该系统提供集企业数据源收集、数据存储、数据分析等为一体的一站式服务,旨在通过建设企业数据仓库以长期辅助企业分析决策,提升企业网站运营效果。
资源推荐
资源详情
资源评论
基于云计算的海量宽带业务运营数据分析系统
1 前言
Hadoop 是 Google MapReduce 的一个 Java 开源软件实现。MapReduce 是一种
简化的分布式编程模式,让程序自动分布到一个由普通机器组成的超大集群上并发执行。
就如同 Java 程序员可以不考虑内存泄露一样,MapReduce 运行时系统会解决输入数据
的并行分发,跨越机器集群的程序执行调度,处理服务器的失效,并且管理机器之间的通
信请求。MapReduce 计算框架允许程序员可以不需要并行处理或者分布式计算系统的编
程经验,就可以利用超大规模的分布式系统资源处理问题。Cloudbase 是一个构建于
Hadoop MapReduce 计算模型基础之上的高性能数据挖掘软件,适应 TB、PB 规模的数
据分析。Cloudbase 的特征是允许程序员使用 ANSI SQL 直接对大规模海量日志文件进
行很方便的查询。
以下提出了采用 Hadoop 云计算技术实现一种标准宽带数据增值业务系统——
TelEye,该系统提供集企业数据源收集、数据存储、数据分析等为一体的一站式服务,旨
在通过建设企业数据仓库以长期辅助企业分析决策,提升企业网站运营效果。
2 系统功能设计
当前,运营商控制通信复杂性、安全性的需求越来越高,需要更智能的业务系统实现
对网络的有效管理以及监测用户访问网络的行为。为了对网络流量进行精细的检查、监控
和分析,很多网络运营商在骨干网部署了 DPI 检测设备。DPI 设备能够按照指定的周期和
IP 地址空间采集网络中的数据包并进行拆包,提取有用信息,TelEye 系统采用的原始日
志数据来自中国电信某地市 DPI 设备采集的数据。该系统以宽带网络用户访问日志数据为
分析对象,结合企业电子渠道的运营特征,主要定义电子渠道分析功能、电子渠道对比功
能和 3G 移动互联网业务分析三大方面的用户功能需求,并将系统业务功能与系统管理功
能相结合,系统功能分解如图 1 所示。
随着移动通信用户、业务种类的不断增多,移动通信网络规模不断扩大,网络资源种
类、数量不断增加,终端客户对网络质量要求不断提高,网络运维面临前所未有的挑战和
压力。为适应日趋激烈的市场竞争环境,全面增强网管运维支撑水平和网络服务能力,全
面提高客户满意度,进而提升企业核心竞争力,在“质量领先、运行高效、支撑有力”战略
指导下,移动运营商需要建设一个面向维护、面向质量、面向经营的网络运营综合分析系
统。
网络运营综合分析系统面向网络的各级管理、规划、维护、优化及网络分析人员
以及希望了解网络数据的市场相关人员,充分利用现有业务系统产生的海量数据资源,通
过提取、整合专业网管、综合网管、业务管理、运维管理、市场支撑在内的各层面系统的
信息资源,实现短信、彩信、手机上网等重点业务端到端的质量分析;实现网络隐患的主
动发现与溯源;实现多专业的日常分析和跨专业的网络专题分析;打通与 BOSS 系统接口
实现数据跨域分析,利用先进科学技术手段,实现对信息深加工和智能化分析挖掘,为企
业运营决策和维护优化提供完整、及时、准确、科学的信息支撑。
1.1 背景
随着互联网业务的深入发展,特别是移动互联网时代的到来,流量激增对运营商
的传统管道模式运营提出了新的挑战,2012 年我国移动互联网用户将达到 5.2 亿,年复
合增长率超过 35%,并由此带动数据流量的大规模增长,这种基于数据流量的新应用和新
模式对运营商的运营能力提出了挑战。如何在提升管道宽带能力的同时提升网络智能性,
进而提升管道承载能力和管道价值,是摆在运营商面前的急迫问题
运营商如何在管道经营中获利,以创造网络更高的价值收益,是运营商网络实施
转型的核心出发点。网络运营综合分析系统能通过丰富的用户网络日志和用户时间与位置
信息的海量数据分析提供用户画像,识别和还原用户消费场景;灵活地设置条件实现目标
用户群的细分,主动针对用户特点推送差异化信息与内容,可对整个网络的资源实现合理
和充分的调度,进行流量经营管理,实现“哑管道”向“智能管道”的转变从而更加灵活地提供
业务创新空间。
目前在移动公司网络管理部门实际工作遇到的问题:
当前网络层面没有一个统一的数据存储中心,造成大量数据的流失;
当前还没有统一采集平台,只能从各个专业网管获取数据;但同时要兼顾后续的
发展;
1.2 目的
建设网络运营综合分析系统目的是:
实现不同专业统计类数据的统一存储,达到集中的、有序的组织、管理和利用;
统一数据模型,解决专业数据独立分散问题,达到 OSS 体系的数据集成与共享,
清洗转换不一致数据,最终向用户提供一致的数据;
建立元数据管理体系,规范业务元数据、技术元数据,统一业务指标定义;
实现跨专业灵活自定义报表和自定义分析,发挥用户自主的数据消费能力;
建立面向主题、面向分析的灵活数据模型,与在线事务系统分离,减轻在线业务
系统压力;
结合统计学分析方法,实现历史数据统计分析、同比分析、环比分析、分布分析、
趋势分析;
1.3 应用简介
广州从兴电子开发有限公司作为电信行业数据仓库系统的服务厂商,在电信行业
深耕多年,积累了深厚的行业经验,树立了良好的口碑,凭着对市场的敏锐嗅觉,率先把
握了这一市场变化趋势,为移动运营商开发出了网络运营综合分析系统,打通与 BOSS 系
剩余13页未读,继续阅读
资源评论
- jeff_right_feng2012-08-27如果只是作为需求分析和设计书籍的话,那还是写的不错的,图文并茂,但是作为一个系统的实现的话,这本书还是有点欠缺的,不过还是感谢楼主的精神,谢谢
hahadadao
- 粉丝: 1
- 资源: 18
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- springboot-mavenBaseDemo 内容包含:springboot的maven基础状态,1.8JDK可以直接运行
- otis rsl远程串行接口协议标准.pdf
- buildx构建镜像时所需的镜像文件
- F103-霸道开发板2.8寸电阻触摸屏例程.rar
- Google(高德)地图瓦片python代码下载
- Python实现输出杨辉三角形
- polsarpro官方教程、操作说明 PolSARpro v5.0 Software Training Course
- STM32 TouchGFX的使用二图片显示
- buildx镜像文件,也可以通过网上其他方式获取
- 【中级软件设计师】上午题12-软件工程(2):单元测试、黑盒测试、白盒测试、软件运行与维护
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功