Linux内存管理之slab机制（概述）


通过前面所有代码的分析和总结，已经把各个部分熟悉了一遍，在此对Linux内核中slab机制做最后的总结。

伙伴系统算法采用页作为基本内存区，这适合于大块内存的请求。对于小内存区的申请，比如说几十或几百个字节，我们用slab机制。

Slab分配器把对象分组放进高速缓存。每个高速缓存都是同类型对象的一种“储备”。包含高速缓存的主内存区被划分为多个slab，每个slab由一个活多个连续的页组成，这些页中既包含已分配的对象，也包含空闲的对象。

相关阅读： 与

1，cache对象管理器

Cache对象管理器为kmem_cache结构，如下：

[cpp]

  1. /* 
  2.  * struct kmem_cache 
  3.  * 
  4.  * manages a cache. 
  5.  */  
  6.   
  7. struct kmem_cache {  
  8. /* 1) per-cpu data, touched during every alloc/free */  
  9.     struct array_cache *array[NR_CPUS];/*local cache*/  
  10. /* 2) Cache tunables. Protected by cache_chain_mutex */  
  11.     unsigned int batchcount;  
  12.     unsigned int limit;  
  13.     unsigned int shared;  
  14.   
  15.     unsigned int buffer_size;/*slab中对象大小*/  
  16.     u32 reciprocal_buffer_size;/*slab中对象大小的倒数*/  
  17. /* 3) touched by every alloc & free from the backend */  
  18.   
  19.     unsigned int flags;     /* constant flags */  
  20.     unsigned int num;       /* # of objs per slab */  
  21.   
  22. /* 4) cache_grow/shrink */  
  23.     /* order of pgs per slab (2^n) */  
  24.     unsigned int gfporder;  
  25.   
  26.     /* force GFP flags, e.g. GFP_DMA */  
  27.     gfp_t gfpflags;  
  28.   
  29.     size_t colour;/*着色块个数*/ /* cache colouring range */  
  30.     unsigned int colour_off;/* cache的着色块的单位大小 */    /* colour offset */  
  31.     struct kmem_cache *slabp_cache;  
  32.     unsigned int slab_size;/*slab管理区大小,包含slab对象和kmem_bufctl_t数组*/  
  33.     unsigned int dflags;        /* dynamic flags */  
  34.   
  35.     /* constructor func */  
  36.     void (*ctor)(void *obj);  
  37.   
  38. /* 5) cache creation/removal */  
  39.     const char *name;  
  40.     struct list_head next;  
  41.   
  42. /* 6) statistics */  
  43. #ifdef CONFIG_DEBUG_SLAB   
  44.     unsigned long num_active;  
  45.     unsigned long num_allocations;  
  46.     unsigned long high_mark;  
  47.     unsigned long grown;  
  48.     unsigned long reaped;  
  49.     unsigned long errors;  
  50.     unsigned long max_freeable;  
  51.     unsigned long node_allocs;  
  52.     unsigned long node_frees;  
  53.     unsigned long node_overflow;  
  54.     atomic_t allochit;/*cache命中计数，在分配中更新*/  
  55.     atomic_t allocmiss;/*cache未命中计数，在分配中更新*/  
  56.     atomic_t freehit;  
  57.     atomic_t freemiss;  
  58.   
  59.     /* 
  60.      * If debugging is enabled, then the allocator can add additional 
  61.      * fields and/or padding to every object. buffer_size contains the total 
  62.      * object size including these internal fields, the following two 
  63.      * variables contain the offset to the user object and its size. 
  64.      */  
  65.     int obj_offset;  
  66.     int obj_size;  
  67. #endif /* CONFIG_DEBUG_SLAB */   
  68.   
  69.     /* 
  70.      * We put nodelists[] at the end of kmem_cache, because we want to size 
  71.      * this array to nr_node_ids slots instead of MAX_NUMNODES 
  72.      * (see kmem_cache_init()) 
  73.      * We still use [MAX_NUMNODES] and not [1] or [0] because cache_cache 
  74.      * is statically defined, so we reserve the max number of nodes. 
  75.      */  
  76.     struct kmem_list3 *nodelists[MAX_NUMNODES];  
  77.     /* 
  78.      * Do not add fields after nodelists[] 
  79.      */  
  80. };  

在初始化的时候我们看到，为cache对象、三链结构、本地cache对象预留了三个cache共分配。其他为通用数据cache，整体结构如下图


其中，kmalloc使用的对象按照大小分属不同的cache，32、64、128、……，每种大小对应两个cache节点，一个用于DMA，一个用于普通分配。通过kmalloc分配的对象叫作通用数据对象。

可见通用数据cache是按照大小进行划分的，结构不同的对象，只要大小在同一个级别内，它们就会在同一个general cache中。专用cache指系统为特定结构创建的对象，比如struct file，此类cache中的对象来源于同一个结构。

2，slab对象管理器

Slab结构如下

[cpp]
  1. /* 
  2.  * struct slab 
  3.  * 
  4.  * Manages the objs in a slab. Placed either at the beginning of mem allocated 
  5.  * for a slab, or allocated from an general cache. 
  6.  * Slabs are chained into three list: fully used, partial, fully free slabs. 
  7.  */  
  8. struct slab {  
  9.     struct list_head list;  
  10.     /* 第一个对象的页内偏移，对于内置式slab，colouroff成员不仅包括着色区 
  11.     ，还包括管理对象占用的空间 
  12.     ，外置式slab，colouroff成员只包括着色区。*/  
  13.     unsigned long colouroff;  
  14.     void *s_mem;/* 第一个对象的虚拟地址 *//* including colour offset */  
  15.     unsigned int inuse;/*已分配的对象个数*/ /* num of objs active in slab */  
  16.     kmem_bufctl_t free;/* 第一个空闲对象索引*/  
  17.     unsigned short nodeid;  
  18. };  

关于slab管理对象的整体框架以及slab管理对象与对象、页面之间的联系在前面的slab创建一文中已经总结的很清楚了。

3，slab着色

CPU访问内存时使用哪个cache line是通过低地址的若干位确定的，比如cache line大小为32，那么是从bit5开始的若干位。因此相距很远的内存地址，如果这些位的地址相同，还是会被映射到同一个cache line。Slab cache中存放的是相同大小的对象，如果没有着色区，那么同一个cache内，不同slab中具有相同slab内部偏移的对象，其低地址的若干位是相同的，映射到同一个cache line。如图所示。


 如此一来，访问cache line冲突的对象时，就会出现cache miss，不停的在cache line和内存之间来回切换，与此同时，其他的cache line可能无所事事，严重影响了cache的效率。解决这一问题的方法是通过着色区使对象的slab内偏移各不相同，从而避免cache line冲突。

着色貌似很好的解决了问题，实质不然，当slab数目不多时，着色工作的很好，当slab数目很多时，着色发生了循环，仍然存在cache line冲突的问题。

相关内容