如何处理海量数据.pdf
需积分: 0 51 浏览量
2012-12-05
15:35:49
上传
评论
收藏 542KB PDF 举报
海量的数据处理问题，对其进行处理是一项艰巨而复杂的任务。原因有以下几个方面：
一、数据量过大，数据中什么情况都可能存在。如果说有 10 条数据，那么大不了每条去逐一检查，人为处
理，如果有上百条数据，也可以考虑，如果数据上到千万级别，甚至过亿，那不是手工能解决的了，必须
通过工具或者程序进行处理，尤其海量的数据中，什么情况都可能存在，例如，数据中某处格式出了问题，
尤其在程序处理时，前面还能正常处理，突然到了某个地方问题出现了，程序终止了。
二、软硬件要求高，系统资源占用率高。对海量的数据进行处理，除了好的方法，最重要的就是合理使用
工具，合理分配系统资源。一般情况，如果处理的数据过 TB 级，小型机是要考虑的，普通的机子如果有
好的方法可以考虑，不过也必须加大 CPU 和内存，就象面对着千军万马，光有勇气没有一兵一卒是很难取
胜的。
三、要求很高的处理方法和技巧。这也是本文的写作目的所在，好的处理方法是一位工程师长期工作经验
的积累，也是个人的经验的总结。没有通用的处理方法，但有通用的原理和规则。那么处理海量数据有哪
些经验和技巧呢，我把我所知道的罗列一下，以供大家参考：
一、选用优秀的数据库工具现在的数据库工具厂家比较多，对海量数据的处理对所使用的数据库工具要求
比较高，一般使用 Oracle 或者 DB2，微软公司最近发布的 SQL Server 2005 性能也不错。另外在 BI 领域：
数据库，数据仓库，多维数据库，数据挖掘等相关工具也要进行选择，象好的 ETL 工具和好的 OLAP 工具
都十分必要，例如 Informatic，Eassbase 等。笔者在实际数据分析项目中，对每天 6000 万条的日志数据进
行处理，使用 SQL Server 2000 需要花费 6 小时，而使用 SQL Server 2005 则只需要花费 3 小时。
二、编写优良的程序代码处理数据离不开优秀的程序代码，尤其在进行复杂数据处理时，必须使用程序。
好的程序代码对数据的处理至关重要，这不仅仅是数据处理准确度的问题，更是数据处理效率的问题。良
好的程序代码应该包含好的算法，包含好的处理流程，包含好的效率，包含好的异常处理机制等。
三、对海量数据进行分区操作对海量数据进行分区操作十分必要，例如针对按年份存取的数据，我们可以
按年进行分区，不同的数据库有不同的分区方式，不过处理机制大体相同。例如 SQL Server 的数据库分区
是将不同的数据存于不同的文件组下，而不同的文件组存于不同的磁盘分区下，这样将数据分散开，减小
磁盘 I/O，减小了系统负荷，而且还可以将日志，索引等放于不同的分区下。
四、建立广泛的索引对海量的数据处理，对大表建立索引是必行的，建立索引要考虑到具体情况，例如针
对大表的分组、排序等字段，都要建立相应索引，一般还可以建立复合索引，对经常插入的表则建立索引
时要小心，笔者在处理数据时，曾经在一个 ETL 流程中，当插入表时，首先删除索引，然后插入完毕，建
立索引，并实施聚合操作，聚合完成后，再次插入前还是删除索引，所以索引要用到好的时机，索引的填
充因子和聚集、非聚集索引都要考虑。
五、建立缓存机制当数据量增加时，一般的处理工具都要考虑到缓存问题。缓存大小设置的好差也关系到
数据处理的成败，例如，笔者在处理 2 亿条数据聚合操作时，缓存设置为 100000 条/Buffer，这对于这个级
别的数据量是可行的。
六、加大虚拟内存如果系统资源有限，内存提示不足，则可以靠增加虚拟内存来解决。笔者在实际项目中
曾经遇到针对 18 亿条的数据进行处理，内存为 1GB，1 个 P4 2.4G 的 CPU，对这么大的数据量进行聚合操
作是有问题的，提示内存不足，那么采用了加大虚拟内存的方法来解决，在 6 块磁盘分区上分别建立了 6
个 4096M 的磁盘分区，用于虚拟内存，这样虚拟的内存则增加为 4096*6 + 1024 = 25600 M，解决了数据
处理中的内存不足问题。
七、分批处理 海量数据处理难因为数据量大，那么解决海量数据处理难的问题其中一个技巧是减少数据量。
可以对海量数据分批处理，然后处理后的数据再进行合并操作，这样逐个击破，有利于小数据量的处理，
不至于面对大数据量带来的问题，不过这种方法也要因时因势进行，如果不允许拆分数据，还需要另想办
法。不过一般的数据按天、按月、按年等存储的，都可以采用先分后合的方法，对数据进行分开处理。
八、使用临时表和中间表数据量增加时，处理中要考虑提前汇总。这样做的目的是化整为零，大表变小表，
分块处理完成后，再利用一定的规则进行合并，处理过程中的临时表的使用和中间结果的保存都非常重要，
如果对于超海量的数据，大表处理不了，只能拆分为多个小表。如果处理过程中需要多步汇总操作，可按
剩余13页未读，继续阅读
资源评论
cnbeta2012
- 粉丝: 5
- 资源: 43
最新资源
- 基于Python实现的自动化办公项目.zip
- 基于python实现的基于PyQt5和爬虫的小说阅读系统.zip
- 机械设计整经机上纱自动化sw20非常好的设计图纸100%好用.zip
- Screenshot_20240427_031602.jpg
- 网页PDF_2024年04月26日 23-46-14_QQ浏览器网页保存_QQ浏览器转格式(6).docx
- 直接插入排序，冒泡排序，直接选择排序.zip
- 在排序2的基础上，再次对快排进行优化，其次增加快排非递归，归并排序，归并排序非递归版.zip
- 实现了7种排序算法.三种复杂度排序.三种nlogn复杂度排序（堆排序，归并排序，快速排序）一种线性复杂度的排序.zip
- 冒泡排序 直接选择排序 直接插入排序 随机快速排序 归并排序 堆排序.zip
- 课设-内部排序算法比较 包括冒泡排序、直接插入排序、简单选择排序、快速排序、希尔排序、归并排序和堆排序.zip
资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！
点击此处反馈
