海量数据库的查询优化及分页算法方案

海量数据库的查询优化及分页算法方案

随着“金盾工程”建设的逐步深入和公安信息化的高速发展，公安计算机应用系统被广泛应

用在各警种、各部门。与此同时，应用系统体系的核心、系统数据的存放地――数据库也

随着实际应用而急剧膨胀，一些大规模的系统，如人口系统的数据甚至超过了 1000 万条，

可谓海量。那么，如何实现快速地从这些超大容量的数据库中提取数据（查询）、分析、

统计以及提取数据后进行数据分页已成为各地系统管理员和数据库管理员亟待解决的难题。

在以下的文章中，我将以“办公自动化”系统为例，探讨如何在有着 1000 万条数据的 MS

SQL SERVER 数据库中实现快速的数据提取和数据分页。以下代码说明了我们实例中数据

[fariqi] [datetime] NULL ,

--发布日期

[neibuYonghu] [varchar] (70) COLLATE Chinese_PRC_CI_AS NULL ,

--发布用户

[reader] [varchar] (900) COLLATE Chinese_PRC_CI_AS NULL ,

--需要浏览的用户。每个用户中间用分隔符“,”分开

) ON [PRIMARY] TEXTIMAGE_ON [PRIMARY]

GO

下面，我们来往数据库中添加 1000 万条数据：

declare @i int

set @i=@i+1

end

GO

declare @i int

set @i=1

while @i<=250000

begin

insert into Tgongwen(fariqi,neibuyonghu,reader,title) values('2004-9-16','办公室','办公室,通信

科,王局长,刘局长,张局长,admin,刑侦支队,特勤支队,交巡警支队,经侦支队,户政科,外事

科','这是中间的 25 万条记录')

begin

declare @i int

set @i=2002

while @i<=2003

declare @j int

while @j<50

begin

declare @k int

set @k=0

while @k<50

begin

insert into Tgongwen(fariqi,neibuyonghu,reader,title) values(cast(@i as varchar(4))+'-8-15

3:'+cast(@j as varchar(2))+':'+cast(@j as varchar(2)),'通信科','办公室,通信科,王局长,刘局长,张

set @j=@j+1

GO

declare @i int

set @i=1

while @i<=9000000

begin

insert into Tgongwen(fariqi,neibuyonghu,reader,title) values('2004-5-5','通信科','通信科,办公

室,王局长,刘局长,张局长,admin,刑侦支队,特勤支队,交巡警支队,经侦支队,户政科,治安支队,

外事科','这是最后添加的 900 万条记录')

GO

通过以上语句，我们创建了 25 万条由通信科于 2004 年 2 月 5 日发布的记录，25 万条由办

公室于 2004 年 9 月 6 日发布的记录，2002 年和 2003 年各 100 个 2500 条相同日期、不同分

记录，合计 1000 万条。

索引（index）是除表之外另一重要的、用户定义的存储在物理介质上的数据结构。当根据

索引码的值搜索数据时，索引提供了对数据的快速访问。事实上，没有索引,数据库也能根

据 SELECT 语句成功地检索到结果，但随着表变得越来越大，使用“适当”的索引的效果就

越来越明显。注意，在这句话中，我们用了“适当”这个词，这是因为，如果使用索引时不

认真考虑其实现过程，索引既可以提高也会破坏数据库的工作性能。

实际上，您可以把索引理解为一种特殊的目录。微软的 SQL SERVER 提供了两种索引：聚

集索引（clustered index，也称聚类索引、簇集索引）和非聚集索引（nonclustered index，

也称非聚类索引、非簇集索引）。下面，我们举例来说明一下聚集索引和非聚集索引的区

别：

部首”查到您要找的字，然后根据这个字后的页码直接翻到某页来找到您要找的字。但您结

合“部首目录”和“检字表”而查到的字的排序并不是真正的正文的排序方法，比如您查“张”字 ，

我们可以看到在查部首之后的检字表中“张”的页码是 672 页，检字表中“张”的上面是“驰”字，

但页码却是 63 页，“张”的下面是“弩”字，页面是 390 页。很显然，这些字并不是真正的分

别位于“张”字的上下方，现在您看到的连续的“驰、张、弩”三字实际上就是他们在非聚集索

引中的排序，是字典正文中的字在非聚集索引中的映射。我们可以通过这种方式来找到您

所需要的字，但它需要两个过程，先找到目录中的结果，然后再翻到您所需要的页码。

我们把这种目录纯粹是目录，正文纯粹是正文的排序方式称为“非聚集索引”。

通过以上例子，我们可以理解到什么是“聚集索引”和“非聚集索引”。

进一步引申一下，我们可以很容易的理解：每个表只能有一个聚集索引，因为目录只能按

（二）何时使用聚集索引或非聚集索引

下面的表总结了何时使用聚集索引或非聚集索引（很重要）。

动作描述

使用聚集索引

使用非聚集索引

列经常被分组排序

应

应

应

不应

一个或极少不同值

不应

大数目的不同值

应

不应

应

外键列

应

应

主键列

应

应

不应

范围内的数据一项。比如您的某个表有一个时间列，恰好您把聚合索引建立在了该列，这

因为您的这本字典正文是按日期进行排序的，聚类索引只需要找到要检索的所有数据中的

开头和结尾数据即可；而不像非聚集索引，必须先查到目录中查到每一项数据对应的页码

然后再根据页码查到具体内容。

（三）结合实际，谈索引使用的误区

理论的目的是应用。虽然我们刚才列出了何时应使用聚集索引或非聚集索引，但在实践中

1、主键就是聚集索引

这种想法笔者认为是极端错误的，是对聚集索引的一种浪费。虽然 SQL SERVER 默认是在

主键上建立聚集索引的。

显而易见，聚集索引的优势是很明显的，而每个表中只能有一个聚集索引的规则，这使得