【原创】Linux Mutex机制分析，

背景

• Read the fucking source code! --By 鲁迅
• A picture is worth a thousand words. --By 高尔基

说明：

1. 概述

• Mutex互斥锁是Linux内核中用于互斥操作的一种同步原语；
• 互斥锁是一种休眠锁，锁争用时可能存在进程的睡眠与唤醒，context的切换带来的代价较高，适用于加锁时间较长的场景；
• 互斥锁每次只允许一个进程进入临界区，有点类似于二值信号量；
• 互斥锁在锁争用时，在锁被持有时，选择自选等待，而不立即进行休眠，可以极大的提高性能，这种机制（optimistic spinning）也应用到了读写信号量上；
• 互斥锁的缺点是互斥锁对象的结构较大，会占用更多的CPU缓存和内存空间；
• 与信号量相比，互斥锁的性能与扩展性都更好，因此，在内核中总是会优先考虑互斥锁；
• 互斥锁按为了提高性能，提供了三条路径处理：快速路径，中速路径，慢速路径；

前戏都已经讲完了，来看看实际的实现过程吧。

2. optimistic spinning

2.1 MCS锁

• 上文中提到过Mutex在实现过程中，采用了optimistic spinning自旋等待机制，这个机制的核心就是基于MCS锁机制来实现的；
• MCS锁机制是由John Mellor Crummey和Michael Scott在论文中《algorithms for scalable synchronization on shared-memory multiprocessors》提出的，并以他俩的名字来命名；
• MCS锁机制要解决的问题是：在多CPU系统中，自旋锁都在同一个变量上进行自旋，在获取锁时会将包含锁的cache line移动到本地CPU，这种cache-line bouncing会很大程度影响性能；
• MCS锁机制的核心思想：每个CPU都分配一个自旋锁结构体，自旋锁的申请者（per-CPU）在local-CPU变量上自旋，这些结构体组建成一个链表，申请者自旋等待前驱节点释放该锁；
• osq(optimistci spinning queue)是基于MCS算法的一个具体实现，并经过了迭代优化；

2.2 osq流程分析

optimistic spinning，乐观自旋，到底有多乐观呢？当发现锁被持有时，optimistic spinning相信持有者很快就能把锁释放，因此它选择自旋等待，而不是睡眠等待，这样也就能减少进程切换带来的开销了。

看一下数据结构吧：

osq_lock如下：

• osq加锁有几种情况：
• 加锁过程中使用了原子操作，来确保正确性；

osq_unlock如下：

• 解锁时也分为几种情况：
• 从解锁的情况可以看出，这个过程相当于锁的传递，从上一个节点传递给下一个节点；

在加锁和解锁的过程中，由于可能存在操作来更改osq队列，因此都调用了osq_wait_next来获取下一个确定的节点：

3. mutex

3.1 数据结构

终于来到了主题了，先看一下数据结构：

struct mutex {
	atomic_long_t		owner;           //原子计数，用于指向锁持有者的task struct结构
	spinlock_t		wait_lock;              //自旋锁，用于wait_list链表的保护操作
#ifdef CONFIG_MUTEX_SPIN_ON_OWNER
	struct optimistic_spin_queue osq; /* Spinner MCS lock */        //osq锁
#endif
	struct list_head	wait_list;          //链表，用于管理所有在该互斥锁上睡眠的进程
#ifdef CONFIG_DEBUG_MUTEXES
	void			*magic;
#endif
#ifdef CONFIG_DEBUG_LOCK_ALLOC
	struct lockdep_map	dep_map;
#endif
};

在使用mutex时，有以下几点需要注意的：

• 一次只能有一个进程能持有互斥锁；
• 只有锁的持有者能进行解锁操作；
• 禁止多次解锁操作；
• 禁止递归加锁操作；
• mutex结构只能通过API进行初始化；
• mutex结构禁止通过memset或者拷贝来进行初始化；
• 已经被持有的mutex锁禁止被再次初始化；
• mutex不允许在硬件或软件上下文（tasklets, timer）中使用；

3.2 加锁流程分析

从mutex_lock加锁来看一下大概的流程：

• mutex_lock为了提高性能，分为三种路径处理，优先使用快速和中速路径来处理，如果条件不满足则会跳转到慢速路径来处理，慢速路径中会进行睡眠和调度，因此开销也是最大的。

3.2.1 fast-path

• 快速路径是在__mutex_trylock_fast中实现的，该函数的实现也很简单，直接调用atomic_long_cmpxchg_release(&lock->owner, 0UL, curr)函数来进行判断，如果lock->owner == 0表明锁未被持有，将curr赋值给lock->owner标识curr进程持有该锁，并直接返回；
• lock->owner不等于0，表明锁被持有，需要进入下一个路径来处理了；

3.2.2 mid-path

• 中速路径和慢速路径的处理都是在__mutex_lock_common中实现的；
• __mutex_lock_common的传入参数为(lock, TASK_INTERRUPTIBLE, 0, NULL, _RET_IP_, false)，该函数中很多路径覆盖不到，接下来的分析也会剔除掉无效代码；

中速路径的核心代码如下：

• 当发现mutex锁的持有者正在运行（另一个CPU）时，可以不进行睡眠调度，而可以选择自选等待，当锁持有者正在运行时，它很有可能很快会释放锁，这个就是乐观自旋的原因；

• 自旋等待的条件是持有锁者正在临界区运行，自旋等待才有价值；

• __mutex_trylock_or_owner函数用于尝试获取锁，如果获取失败则返回锁的持有者。互斥锁的结构体中owner字段，分为两个部分：1）锁持有者进程的task_struct（由于L1_CACHE_BYTES对齐，低位比特没有使用）；2）MUTEX_FLAGS部分，也就是对应低三位，如下：

• mutex_optimistic_spin用于执行乐观自旋，理想的情况下锁持有者执行完释放，当前进程就能很快的获取到锁。实际需要考虑，如果锁的持有者如果在临界区被调度出去了，task_struct->on_cpu == 0，那么需要结束自旋等待了，否则岂不是傻傻等待了。

3.2.3 slow-path

慢速路径的主要代码流程如下：

• 从for(;;)部分的流程可以看到，当没有获取到锁时，会调用schedule_preempt_disabled将本身的任务进行切换出去，睡眠等待，这也是它慢的原因了；

3.3 释放锁流程分析

• 释放锁的流程相对来说比较简单，也分为快速路径与慢速路径，快速路径只有在调试的时候打开；
• 慢速路径释放锁，针对三种不同的MUTEX_FLAG来进行判断处理，并最终唤醒等待在该锁上的任务；

参考

Generic Mutex Subsystem
MCS locks and qspinlocks

欢迎关注个人公众号，持续分享内核相关文章