大内高手调试手段及原理-50页.pdf

推荐精选

大内高手 --调试手段及原理

知其然也知其所以然，是我们《大内高手》系列一贯做法，本文亦是如此。这里我不打算讲

解如何使用 boundschecker 、purify 、valgrind 或者 gdb，使用这些工具非常简单，讲解它

们只是多此一举。相反，我们要研究一下这些工具的实现原理。

本文将从应用程序、 编译器和调试器三个层次来讲解，在不同的层次， 有不同的方法， 这些

方法有各自己的长处和局限。 了解这些知识， 一方面满足一下新手的好奇心， 另一方面也可

能有用得着的时候。

从应用程序的角度

的就是打内存管理器的主意。其实原理很简单：

对付内存泄露。 重载内存管理函数， 在分配时， 把这块内存的记录到一个链表中， 在释放时，

从链表中删除吧，在程序退出时，检查链表是否为空，如果不为空，则说明有内存泄露，否

则说明没有泄露。当然， 为了查出是哪里的泄露， 在链表还要记录是谁分配的，通常记录文

件名和行号就行了。

对付内存越界 / 野指针。对这两者，我们只能检查一些典型的情况，对其它一些情况无能为

推荐精选

力，但效果仍然不错。其方法如下 ( 源于《 Comparing and contrasting the runtime error

detection technologies 》) ：

推荐精选

l 首尾在加保护边界值

Header

Leading guard(0xFC)

User data(0xEB)

Tailing guard(0xFC)

断这个指针是否是野指针。

它同样有它的局限： 程序要主动判断才行。 如果野指针指向的内存立即被重新分配了， 它又

被填充成前面那个结构，这时也无法检查出来。

推荐精选

boundschecker 和 purify 的 实 现 都 可 以 归 于 编 译 器 一 级 。 前 者 采 用 一 种 称 为

CTI(compile-time instrumentation) 的 技 术 。 VC 的 编 译 不 是 要 分 几 个 阶 段 吗 ？

boundschecker 在预处理和编译两个阶段之间， 对源文件进行修改。 它对所有内存分配释放、

内存读写、 指针赋值和指针计算等所有内存相关的操作进行分析， 并插入自己的代码。 比如：

Before

if (m_hsession) gblHandles->ReleaseUserHandle( m_hsession );

if (m_dberr) delete m_dberr;

After

if (m_hsession) {

_Insight_ptra_check(1994, (void **) &m_dberr, (void *) m_dberr);

if (m_dberr) {

_Insight_deletea(1994, (void **) &m_dberr, (void *) m_dberr, 0);

delete m_dberr;

}

Purify 则采用一种称为 OCI(object code insertion) 的技术。不同的是，它对可执行文件

推荐精选

的每条指令进行分析， 找出所有内存分配释放、 内存读写、 指针赋值和指针计算等所有内存

相关的操作，用自己的指令代替原始的指令。