跳到主要内容

动态调试

动态调试​

静态分析看得到所有分支,但看不到运行时的数据。密钥在运行时才被解密出来,压缩包被脱壳到堆内存里,网络协议要跟服务端握手才能拿到会话密钥——这些场景只能靠 [[动态调试]] 推进。这一节我们讲清楚调试器背后是什么,以及 GDB、pwndbg、x64dbg 这些工具怎么用。

调试器是怎么工作的​

Linux 上一切调试功能的入口是 ptrace 系统调用。父进程通过 ptrace(PTRACE_ATTACH, pid, ...) 附加到子进程之后,能读写子进程的内存、寄存器,能拦截系统调用,能单步执行。GDB 只是把这套 API 包了一个交互式界面。

单步执行的机制值得多说一句。硬件级别有两种做法:一是设置 rflags 里的 TF(trap flag)标志位,CPU 每执行完一条指令就抛 SIGTRAP;二是把要停的地方那一字节改成 int3(编码 0xcc,一字节陷阱指令),CPU 执行到就陷进内核,内核把控制权交给调试器。前者叫 single step,后者叫 software breakpoint。

软件断点有个副作用:它改写了目标进程的内存,所以如果目标自己做代码校验(比如算 .text 段的哈希),就会发现被下过断。反调试样本经常干这件事。

硬件断点走 CPU 的 DR0-DR3 调试寄存器,不改内存,但数量有限,x86 只有 4 个。这也是为什么 GDB 里 hbreak(硬件断点)不能像 break 那样随便下几十个。

GDB 入门​

GDB 原生的 UI 简陋,但基本命令必须熟:

break main                 # 在 main 下断点
break *0x401234 # 在具体地址下断
run arg1 arg2 # 带参数运行
continue # 继续
stepi / si # 单步一条汇编指令
nexti / ni # 单步但不进入 call
info registers / i r # 看寄存器
x/32bx $rsp # 看栈上 32 字节
x/s 0x400500 # 看字符串
disas $rip, $rip+40 # 反汇编
print/x $rax # 打印寄存器值
set $rax = 0 # 改寄存器值
finish # 执行到当前函数返回

GDB 里 x 命令的语法要记住:x/[数量][格式][单位],比如 x/32bx 是 32 个字节按十六进制;x/16wu 是 16 个 32 位字按无符号十进制;x/i 是当成指令。这一套语法记住之后,大部分内存查看操作都能在一行里完成。

原生 GDB 的另一个坑是,汇编默认是 AT&T 语法(源在左目的在右,寄存器带 %,立即数带 $)。看不习惯的话,set disassembly-flavor intel 切成 Intel 语法。

pwndbg 和 GEF​

GDB 原生界面几乎没人直接用。业界的两个主流增强插件是 pwndbg 和 GEF,它们把断下来的现场自动展开成一个大屏,一次性看到寄存器、栈、代码、堆、反汇编。

git clone https://github.com/pwndbg/pwndbg
cd pwndbg && ./setup.sh

装完之后每次 gdb 启动会自动看到这样的布局:

─────────[ REGISTERS ]─────────
RAX 0x0
RBX 0x0
RCX 0x7ffff7fac560
...
─────────[ DISASM ]─────────
► 0x401136 <main> endbr64
0x40113a <main+4> push rbp
0x40113b <main+5> mov rbp, rsp
...
─────────[ STACK ]─────────
00:0000│ rsp 0x7fff... — 0x7ffff7dcb083
01:0008│ 0x7fff... — 0x1
...

pwndbg 额外提供一堆 pwn 场景常用命令:heap(查看 glibc 堆的 bin 结构)、bins(打印 tcache/fastbin/unsortedbin)、vmmap(内存段布局)、checksec(保护措施)、aslr(切换 ASLR 开关)、stack(格式化栈)。做堆利用几乎离不开这些命令。

GEF 是另一个选择,功能类似,风格略有差异。两个选一个用就行,团队协作时统一一下。

常用的调试思路​

在关键 API 上下断。想看程序解密数据的过程,就在 read、memcpy、AES_decrypt 这些库函数或 API 上下断,程序调这些函数时它们的参数就是我们要的数据。

break memcpy
commands
printf "memcpy: dst=%p src=%p n=%d\n", $rdi, $rsi, $rdx
x/32bx $rsi
continue
end

commands 让每次断下时执行一串命令,continue 让程序继续跑。这样就能在不停下来交互的情况下,把每一次 memcpy 的参数和源数据全部打印出来。这个模式在追流量、追加密、追系统调用时都极其管用。

watchpoint 监视内存。想知道谁改写了某个全局变量,watch *0x600da0 就好。程序一旦写到这个地址就断下,栈回溯直接告诉你调用链。这比在所有可能的写点下断有效得多。

改控制流跳过验证。逆向注册机的时候,如果只想让程序跳过序列号校验直接进入主功能,不需要真的破解算法,直接在校验函数返回前改 rax 为 1:

break *0x401450
commands
set $rax = 1
continue
end

或者更直接,改 rip 让程序跳过一整段。这类"打补丁"的思路在做题时非常实用,当然真的商业软件破解还是要保存补丁到文件里。

附加到已运行进程​

不是所有目标都能从头启动。对已经跑起来的进程,gdb -p <pid> 或在 GDB 里 attach <pid> 直接接上。要能附加需要目标进程被本用户所有,或者有 ptrace 权限;Linux 的 Yama 默认限制附加同源子进程,echo 0 | sudo tee /proc/sys/kernel/yama/ptrace_scope 可以放开。

Windows 上对应的是 x64dbg 里 File → Attach。macOS 上要处理代码签名和 SIP,csrutil disable 之后才能爽快调试系统进程。

x64dbg​

Windows 下的等价物是 x64dbg,开源、免费、界面比 OllyDbg 现代化。基本布局是四窗口:反汇编、寄存器、栈、内存。它没有 GDB 那种命令行主导的哲学,几乎所有操作都是右键菜单,对新手更友好。

x64dbg 一个非常好用的功能是 Trace,自动记录每一条指令的执行,可以设置条件("直到 EAX == 0" "直到执行到某个模块外")。做脱壳时这个功能是脱壳机制的核心——OEP(Original Entry Point)的常见特征是"从 packer 段跳到 image 段",配上条件 trace 就能自动定位。

反调试的常见套路​

调试样本最烦的一件事是反调试。样本自己检测有没有被调试,如果检测到就走不同分支——或者直接崩,或者进一个假逻辑忽悠你。常见几种:

PEB 上的 BeingDebugged 位。Windows 的进程环境块里有一个字节 PEB.BeingDebugged,被调试时是 1。样本读这个位判断。绕过方法是启动后手动改成 0,或者用 ScyllaHide 这类插件。

ptrace 只能被附加一次。Linux 样本一个流行做法是自己调 ptrace(PTRACE_TRACEME, ...),如果调用失败说明已经被别人附加。绕过方法是提前用 LD_PRELOAD hook 掉这个函数,或者在调试器里拦截返回值。

时间差。跑一段代码,前后测两次 rdtsc(读时间戳寄存器),如果差值远大于正常执行的时间,说明中间被单步或断点打断了。绕过方法是 hook rdtsc 或者不用单步。

int 3 扫描。样本自己扫描 .text 段有没有 0xcc 字节,发现就报警。绕过方法是全部用硬件断点。

我们在 [[反调试与加壳]] 那一节会更详细展开这些手法,以及主流工具怎么绕。

结合静态和动态​

真实的逆向工作流几乎从来不是"只静态"或"只动态",而是两者反复交叉:

  1. 静态过一遍,建立整体结构,找到关键函数
  2. 动态在关键函数下断,看运行时数据
  3. 拿到运行时观察到的类型/结构,回到静态里建结构体,重新读伪 C
  4. 遇到静态看不懂的间接跳转,动态跑一次看目标
  5. 找到疑点或漏洞,写利用脚本再动态验证

这五步循环下来,一份中等复杂度的样本通常几个小时到几天内能吃透。真正花时间的是"识别得快但看得慢"的复杂算法(自定义加密、反混淆),那些就没什么捷径了,只能一层层剥。