KGDB 中的死锁问题：原因分析和修复指南

2024-03-30 17:01:00

KGDB 中的死锁：深度解析与修复指南

引言

当 KGDB（内核 GDB）处理特定串口键时，它会触发一个死锁问题，使主 CPU 进入一个循环，无法处理用户命令。本文旨在深入探讨导致死锁的原因、分析问题所在，并提供详细的修复方法。

死锁问题

问题陈述

在 KGDB 中，当串口检测到特定键时，它将触发 kgdb_breakpoint，使主 CPU0 进入 kdb_main_loop 以循环处理用户命令。然而，当用户执行 KDB 命令 "go" 时，会出现死锁，导致主 CPU0 无法继续。

问题分析

死锁的根源在于主 CPU0 在退出时未能正确处理 CPU0 的 rq->lock 自旋锁。当 CPU0 的 rq->lock 被其他 CPU 占用时，主 CPU0 不应唤醒 system_wq 上的 worker。但是，在目前的实现中，主 CPU0 在退出时会尝试唤醒一个 worker，而此时 CPU1 正在持有 rq->lock，导致死锁。

修复方法

修改方案

为了解决此死锁问题，需要在主 CPU0 退出时检查 rq->lock 的状态，仅在未锁定时才唤醒 worker。具体修改如下：

diff --git a/drivers/tty/serial/kgdboc.c b/drivers/tty/serial/kgdboc.c
index 7ce7bb164..945318ef1 100644
--- a/drivers/tty/serial/kgdboc.c
+++ b/drivers/tty/serial/kgdboc.c
@@ -22,6 +22,9 @@
 #include <linux/module.h>
 #include <linux/platform_device.h>
 #include <linux/serial_core.h>
+#include <linux/smp.h>
+
+#include "../kernel/sched/sched.h"

@@ -399,7 +402,8 @@ static void kgdboc_post_exp_handler(void)
                dbg_restore_graphics = 0;
                con_debug_leave();
        }
-       kgdboc_restore_input();
+       if (!raw_spin_is_locked(&(cpu_rq(smp_processor_id())->lock)))
+               kgdboc_restore_input();
 }

 static struct kgdb_io kgdboc_io_ops = {
--