文档章节

用 C 语言编写一个简单的垃圾回收器

Jerikc
 Jerikc
发布于 2014/09/23 09:23
字数 4234
阅读 255
收藏 25

人们似乎认为编写垃圾回收机制是很难的,是一种只有少数智者和Hans Boehm(et al)才能理解的高深魔法。我认为编写垃圾回收最难的地方就是内存分配,这和阅读K&R所写的malloc样例难度是相当的。

在开始之前有一些重要的事情需要说明一下:第一,我们所写的代码是基于Linux Kernel的,注意是Linux Kernel而不是GNU/Linux。第二,我们的代码是32bit的。第三,请不要直接使用这些代码。我并不保证这些代码完全正确,可能其中有一些我 还未发现的小的bug,但是整体思路仍然是正确的。好了,让我们开始吧。

如果你看到任何有误的地方,请邮件联系我maplant2@illinois.edu

编写malloc

最开始,我们需要写一个内存分配器(memmory allocator),也可以叫做内存分配函数(malloc function)。最简单的内存分配实现方法就是维护一个由空闲内存块组成的链表,这些空闲内存块在需要的时候被分割或分配。当用户请求一块内存时,一 块合适大小的内存块就会从链表中被移除并分配给用户。如果链表中没有合适的空闲内存块存在,而且更大的空闲内存块已经被分割成小的内存块了或内核也正在请 求更多的内存(译者注:就是链表中的空闲内存块都太小不足以分配给用户的情况)。那么此时,会释放掉一块内存并把它添加到空闲块链表中。

在链表中的每个空闲内存块都有一个头(header)用来描述内存块的信息。我们的header包含两个部分,第一部分表示内存块的大小,第二部分指向下一个空闲内存块。

typedef struct header{
    unsigned int size;
    struct block  *next;
} header_t;

将头(header)内嵌进内存块中是唯一明智的做法,而且这样还可以享有字节自动对齐的好处,这很重要。

由于我们需要同时跟踪我们“当前使用过的内存块”和“未使用的内存块”,因此除了维护空闲内存的链表外,我们还需要一条维护当前已用内存块的链表 (为了方便,这两条链表后面分别写为“空闲块链表”和“已用块链表”)。我们从空闲块链表中移除的内存块会被添加到已用块链表中,反之亦然。

现在我们差不多已经做好准备来完成malloc实现的第一步了。但是再那之前,我们需要知道怎样向内核申请内存。

动态分配的内存会驻留在一个叫做堆(heap)的地方,堆是介于栈(stack)和BSS(未初始化的数据段-你所有的全局变量都存放在这里且具有 默认值为0)之间的一块内存。堆(heap)的内存地址起始于(低地址)BSS段的边界,结束于一个分隔地址(这个分隔地址是已建立映射的内存和未建立映 射的内存的分隔线)。为了能够从内核中获取更多的内存,我们只需提高这个分隔地址。为了提高这个分隔地址我们需要调用一个叫作 sbrk 的Unix系统的系统调用,这个函数可以根据我们提供的参数来提高分隔地址,如果函数执行成功则会返回以前的分隔地址,如果失败将会返回-1。

利用我们现在知道的知识,我们可以创建两个函数:morecore()和add_to_free_list()。当空闲块链表缺少内存块时,我们调 用morecore()函数来申请更多的内存。由于每次向内核申请内存的代价是昂贵的,我们以页(page-size)为单位申请内存。页的大小在这并不 是很重要的知识点,不过这有一个很简单解释:页是虚拟内存映射到物理内存的最小内存单位。接下来我们就可以使用add_to_list()将申请到的内存 块加入空闲块链表。

/*
 * Scan the free list and look for a place to put the block. Basically, we're
 * looking for any block the to be freed block might have been partitioned from.
 */
static void
add_to_free_list(header_t *bp)
{
    header_t *p;
 
    for(p = freep; !(bp > p && bp < p->next); p = p->next)
        if(p >= p->next && (bp > p || bp < p->next))
            break;
 
    if(bp + bp->size == p->next) {
        bp->size += p->next->size;
        bp->next = p->next->next;
    }else
        bp->next = p->next;
 
    if(p + p->size == bp) {
        p->size += bp->size;
        p->next = bp->next;
    }else
        p->next = bp;
 
    freep = p;
}
 
#define MIN_ALLOC_SIZE 4096 /* We allocate blocks in page sized chunks. */
 
/*
 * Request more memory from the kernel.
 */
static header_t *
morecore(size_t num_units)
{
    void *vp;
    header_t *up;
 
    if(num_units < MIN_ALLOC_SIZE)
        num_units = MIN_ALLOC_SIZE /sizeof(header_t);
 
    if((vp = sbrk(num_units *sizeof(header_t))) == (void*) -1)
        return NULL;
             
    up = (header_t *) vp;
    up->size = num_units;
    add_to_free_list (up);
    return freep;
}

现在我们有了两个有力的函数,接下来我们就可以直接编写malloc函数了。我们扫描空闲块链表当遇到第一块满足要求的内存块(内存块比所需内存大 即满足要求)时,停止扫描,而不是扫描整个链表来寻找大小最合适的内存块,我们所采用的这种算法思想其实就是首次适应(与最佳适应相对)。

注意:有件事情需要说明一下,内存块头部结构中size这一部分的计数单位是块(Block),而不是Byte。

static header_t base;/* Zero sized block to get us started. */
static header_t *usedp, *freep;
 
/*
 * Find a chunk from the free list and put it in the used list.
 */
void*
GC_malloc(size_t alloc_size)
{
    size_t num_units;
    header_t *p, *prevp;
 
    num_units = (alloc_size +sizeof(header_t) - 1) /sizeof(header_t) + 1; 
    prevp = freep;
 
    for(p = prevp->next;; prevp = p, p = p->next) {
        if(p->size >= num_units) {/* Big enough. */
            if(p->size == num_units)/* Exact size. */
                prevp->next = p->next;
            else{
                p->size -= num_units;
                p += p->size;
                p->size = num_units;
            }
 
            freep = prevp;
             
            /* Add to p to the used list. */
            if(usedp == NULL) 
                usedp = p->next = p;
            else{
                p->next = usedp->next;
                usedp->next = p;
            }
 
            return(void*) (p + 1);
        }
        if(p == freep) {/* Not enough memory. */
            p = morecore(num_units);
            if(p == NULL)/* Request for more memory failed. */
                return NULL;
        }
    }
}

注意这个函数的成功与否,取决于我们第一次使用时是否使 freep = &base 。这点我们会在初始化函数中进行设置。

尽管我们的代码完全没有考虑到内存碎片,但是它能工作。既然它可以工作,我们就可以开始下一个有趣的部分-垃圾回收!

标记和清扫

我们说过垃圾回收器会很简单,因此我们尽可能的使用简单的方法:标记和清除方式。这个算法分为两个部分:

首先,我们需要扫描所有可能存在指向堆中数据(heap data)的变量的内存空间并确认这些内存空间中的变量是否指向堆中的数据。为了做到这点,对于可能内存空间中的每个字长(word-size)的数据 块,我们遍历已用块链表中的内存块。如果数据块所指向的内存是在已用链表块中的某一内存块中,我们对这个内存块进行标记。

第二部分是,当扫描完所有可能的内存空间后,我们遍历已用块链表将所有未被标记的内存块移到空闲块链表中。

现在很多人会开始认为只是靠编写类似于malloc那样的简单函数来实现C的垃圾回收是不可行的,因为在函数中我们无法获得其外面的很多信息。例 如,在C语言中没有函数可以返回分配到堆栈中的所有变量的哈希映射。但是只要我们意识到两个重要的事实,我们就可以绕过这些东西:

第一,在C中,你可以尝试访问任何你想访问的内存地址。因为不可能有一个数据块编译器可以访问但是其地址却不能被表示成一个可以赋值给指针的整数。 如果一块内存在C程序中被使用了,那么它一定可以被这个程序访问。这是一个令不熟悉C的编程者很困惑的概念,因为很多编程语言都会限制程序访问虚拟内存, 但是C不会。

第二,所有的变量都存储在内存的某个地方。这意味着如果我们可以知道变量们的通常存储位置,我们可以遍历这些内存位置来寻找每个变量的所有可能值。另外,因为内存的访问通常是字(word-size)对齐的,因此我们仅需要遍历内存区域中的每个字(word)即可。

局部变量也可以被存储在寄存器中,但是我们并不需要担心这些因为寄存器经常会用于存储局部变量,而且当函数被调用的时候他们通常会被存储在堆栈中。

现在我们有一个标记阶段的策略:遍历一系列的内存区域并查看是否有内存可能指向已用块链表。编写这样的一个函数非常的简洁明了:

#define UNTAG(p) (((unsigned int) (p)) & 0xfffffffc)
 
/*
 * Scan a region of memory and mark any items in the used list appropriately.
 * Both arguments should be word aligned.
 */
static void
mark_from_region(unsigned int *sp, unsigned int *end)
{
    header_t *bp;
 
    for(; sp < end; sp++) {
        unsigned int v = *sp;
        bp = usedp;
        do{
            if(bp + 1 <= v &&
                bp + 1 + bp->size > v) {
                    bp->next = ((unsigned int) bp->next) | 1;
                    break;
            }
        }while((bp = UNTAG(bp->next)) != usedp);
    }
}

为了确保我们只使用头(header)中的两个字长(two words)我们使用一种叫做标记指针(tagged pointer)的技术。利用header中的next指针指向的地址总是字对齐(word aligned)这一特点,我们可以得出指针低位的几个有效位总会是0。因此我们将next指针的最低位进行标记来表示当前块是否被标记。

现在,我们可以扫描内存区域了,但是我们应该扫描哪些内存区域呢?我们要扫描的有以下这些:

  1. BBS(未初始化数据段)和初始化数据段。这里包含了程序的全局变量和局部变量。因为他们有可能应用堆(heap)中的一些东西,所以我们需要扫描BSS与初始化数据段。
  2. 已用的数据块。当然,如果用户分配一个指针来指向另一个已经被分配的内存块,我们不会想去释放掉那个被指向的内存块。
  3. 堆栈。因为堆栈中包含所有的局部变量,因此这可以说是最需要扫描的区域了。

我们已经了解了关于堆(heap)的一切,因此编写一个mark_from_heap函数将会非常简单:

/*
 * Scan the marked blocks for references to other unmarked blocks.
 */
static void
mark_from_heap(void)
{
    unsigned int *vp;
    header_t *bp, *up;
 
    for(bp = UNTAG(usedp->next); bp != usedp; bp = UNTAG(bp->next)) {
        if(!((unsigned int)bp->next & 1))
            continue;
        for(vp = (unsigned int*)(bp + 1);
             vp < (bp + bp->size + 1);
             vp++) {
            unsigned int v = *vp;
            up = UNTAG(bp->next);
            do{
                if(up != bp &&
                    up + 1 <= v &&
                    up + 1 + up->size > v) {
                    up->next = ((unsigned int) up->next) | 1;
                    break;
                }
            }while((up = UNTAG(up->next)) != bp);
        }
    }
}

幸运的是对于BSS段和已初始化数据段,大部分的现代unix链接器可以导出 etext 和 end 符号。etext符号的地址是初始化数据段的起点(the last address past the text segment,这个段中包含了程序的机器码),end符号是堆(heap)的起点。因此,BSS和已初始化数据段位于 &etext 与 &end 之间。这个方法足够简单,当不是平台独立的。

堆栈这部分有一点困难。堆栈的栈顶非常容易找到,只需要使用一点内联汇编即可,因为它存储在 sp 这个寄存器中。但是我们将会使用的是 bp 这个寄存器,因为它忽略了一些局部变量。

寻找堆栈的的栈底(堆栈的起点)涉及到一些技巧。出于安全因素的考虑,内核倾向于将堆栈的起点随机化,因此我们很难得到一个地址。老实说,我在寻找 栈底方面并不是专家,但是我有一些点子可以帮你找到一个准确的地址。一个可能的方法是,你可以扫描调用栈(call stack)来寻找 env 指针,这个指针会被作为一个参数传递给主程序。另一种方法是从栈顶开始读取每个更大的后续地址并处理inexorible SIGSEGV。但是我们并不打算采用这两种方法中的任何一种,我们将利用linux会将栈底放入一个字符串并存于proc目录下表示该进程的文件中这一 事实。这听起来很愚蠢而且非常间接。值得庆幸的是,我并不感觉这样做是滑稽的,因为它和Boehm GC中寻找栈底所用的方法完全相同。

现在我们可以编写一个简单的初始化函数。在函数中,我们打开proc文件并找到栈底。栈底是文件中第28个值,因此我们忽略前27个值。Boehm GC和我们的做法不同的是他仅使用系统调用来读取文件来避免让stdlib库使用堆(heap),但是我们并不在意这些。

/*
 * Find the absolute bottom of the stack and set stuff up.
 */
void
GC_init(void)
{
    static int initted;
    FILE *statfp;
 
    if(initted)
        return;
 
    initted = 1;
 
    statfp =fopen("/proc/self/stat","r");
    assert(statfp != NULL);
    fscanf(statfp,
           "%*d %*s %*c %*d %*d %*d %*d %*d %*u "
           "%*lu %*lu %*lu %*lu %*lu %*lu %*ld %*ld "
           "%*ld %*ld %*ld %*ld %*llu %*lu %*ld "
           "%*lu %*lu %*lu %lu", &stack_bottom);
    fclose(statfp);
 
    usedp = NULL;
    base.next = freep = &base;
    base.size = 0;

现在我们知道了每个我们需要扫描的内存区域的位置,所以我们终于可以编写显示调用的回收函数了:

/*
 * Mark blocks of memory in use and free the ones not in use.
 */
void
GC_collect(void)
{
    header_t *p, *prevp, *tp;
    unsigned long stack_top;
    extern char end, etext;/* Provided by the linker. */
 
    if(usedp == NULL)
        return;
     
    /* Scan the BSS and initialized data segments. */
    mark_from_region(&etext, &end);
 
    /* Scan the stack. */
    asm volatile("movl    %%ebp, %0":"=r"(stack_top));
    mark_from_region(stack_top, stack_bottom);
 
    /* Mark from the heap. */
    mark_from_heap();
 
    /* And now we collect! */
    for(prevp = usedp, p = UNTAG(usedp->next);; prevp = p, p = UNTAG(p->next)) {
    next_chunk:
        if(!((unsigned int)p->next & 1)) {
            /*
             * The chunk hasn't been marked. Thus, it must be set free.
             */
            tp = p;
            p = UNTAG(p->next);
            add_to_free_list(tp);
 
            if(usedp == tp) {
                usedp = NULL;
                break;
            }
 
            prevp->next = (unsigned int)p | ((unsigned int) prevp->next & 1);
            goto next_chunk;
        }
        p->next = ((unsigned int) p->next) & ~1;
        if(p == usedp)
            break;
    }
}

朋友们,所有的东西都已经在这了,一个用C为C程序编写的垃圾回收器。这些代码自身并不是完整的,它还需要一些微调来使它可以正常工作,但是大部分代码是可以独立工作的。

总结

从小学到高中,我一直在学习打鼓。每个星期三的下午4:30左右我都会更一个很棒的老师上打鼓教学课。

每当我在学习一些新的打槽(groove)或节拍时,我的老师总会给我一个相同的告诫:我试图同时做所有的事情。我看着乐谱,我只是简单地尝试用双 手将它全部演奏出来,但是我做不到。原因是因为我还不知道怎样打槽,但我却在学习打槽地时候同时学习其它东西而不是单纯地练习打槽。

因此我的老师教导我该如何去学习:不要想着可以同时做所有地事情。先学习用你地右手打架子鼓,当你学会之后,再学习用你的左手打小鼓。用同样地方式 学习贝斯、手鼓和其它部分。当你可以单独使用每个部分之后,慢慢开始同时练习它们,先两个同时练习,然后三个,最后你将可以可以同时完成所有部分。

我在打鼓方面从来都不够优秀,但我在编程时始终记着这门课地教训。一开始就打算编写完整的程序是很困难的,你编程的唯一算法就是分而治之。先编写内存分配函数,然后编写查询内存的函数,然后是清除内存的函数。最后将它们合在一起。

当你在编程方面克服这个障碍后,就再也没有困难的实践了。你可能有一个算法不太了解,但是任何人只要有足够的时间就肯定可以通过论文或书理解这个算 法。如果有一个项目看起来令人生畏,那么将它分成完全独立的几个部分。你可能不懂如何编写一个解释器,但你绝对可以编写一个分析器,然后看一下你还有什么 需要添加的,添上它。

本文转载自:http://blog.jobbole.com/77248/

共有 人打赏支持
上一篇: Understanding Docker
下一篇: Android L动画入门
Jerikc
粉丝 95
博文 246
码字总数 22757
作品 0
浦东
程序员
私信 提问
JVM(2)--一文读懂垃圾回收

与其他语言相比,例如c/c++,我们都知道,java虚拟机对于程序中产生的垃圾,虚拟机是会自动帮我们进行清除管理的,而像c/c++这些语言平台则需要程序员自己手动对内存进行释放。 虽然这种自动...

公众号_苦逼的码农
2018/08/12
0
0
java的gc(垃圾回收)

本文出自 “熔 岩” 博客,转载请与作者联系!:http://lavasoft.blog.51cto.com/62575/112126/ Java的垃圾回收总结 内存是稀缺的资源,哪怕内存一块钱一条!如果在编程中使用不当,再大的内存...

noteman
2016/08/25
44
0
为什么你需要近距离接触 Rust 1.0

在不背离安全或抽象的情况下,拥有极高的运行效率,能预防几乎所有的错误,提供优越的底层控制和性能——这些都是Rust1.0版本做出的承诺,而这仅仅是个开始。 经过几年的迭代改进,Rust编程语...

oschina
2015/08/13
3.5K
16
关于垃圾回收的一些基本原理及技术解析

关于垃圾回收的一些基本原理及技术解析 什么是垃圾,为什么要垃圾回收?   垃圾回收是很大一块,在java虚拟机一些资料描述中,jvm大致干三件大事儿,1>加载class 2>分配存储空间 3>执行垃圾...

€5è¬þxãÍ
2017/08/13
0
0
Go vs Erlang-两个语言在实战中的比较

因为 云巴 http://yunba.io 系统对高并发、低延迟的需求,我们对各个语言、平台做了很多的调研比较工作。这自然就包括致力于开发高并发应用的 Go 和 Erlang。 并发 Go 对高并发的支持通过 go...

Yunba
2015/03/05
405
1

没有更多内容

加载失败,请刷新页面

加载更多

Hibernate SQLite方言

以下代码有参考过github上国外某位大佬的,在发文的最新稳定版Hibernate上是可用的,有时间再仔细分析一下 import org.hibernate.dialect.Dialect;import org.hibernate.dialect.function.S...

CHONGCHEN
今天
3
0
CentOS 7 MariaDB搭建主从服务器

本文编写环境为CentOS7。确保关闭SELinux,关闭防火墙或者防打开指定端口。具体信息如下 #master[root@promote ~]# cat /etc/redhat-release CentOS Linux release 7.6.1810 (Core) [r...

白豆腐徐长卿
今天
10
0
介绍python中运算符优先级

下面这个表给出Python的运算符优先级,从最低的优先级(最松散地结合)到最高的优先级(最紧密地结合)。这意味着在一个表达式中,Python会首先计算表中较下面的运算符,然后在计算列在表上部...

问题终结者
今天
3
0
Spring Boot 2.x基础教程:快速入门

简介 在您第1次接触和学习Spring框架的时候,是否因为其繁杂的配置而退却了?在你第n次使用Spring框架的时候,是否觉得一堆反复黏贴的配置有一些厌烦?那么您就不妨来试试使用Spring Boot来让...

程序猿DD
昨天
10
0
SpringSecurity认证流程源码级详解

SpringSecurity认证流程源码级详解 认证流程说明 认证结果如何在多个请求之间共享 获取认证用户信息

chendom
昨天
2
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部