调用约定和上下文切换

编写协程库的时候,我常常在想,上下文切换的速度,受调用约定的影响非常大。 因为用户协程的上下文切换,本质上是调用一个 函数。而这个函数需要 “切换” 非易失性寄存器。 因此,在给定的调用约定下,非易失性寄存器越多,则上下文切换时需要保留和恢复的寄存器数量就越多。 而由内核进行上下文切换(也就是线程),所有寄存器都得保留。开销是最大的。何况还有执行特权级切换的巨大开销。 在知乎上发表的批评 云风的 coroutine 库的文章的评论区里,有个人提到了 这篇文章。 好家伙,他们对内联汇编玩出花来了。使用内联汇编的 clobbered registers 列表来自动生成寄存器的保存和恢复代码。 然后,他们给 clang 提了一个补丁,增加了一个叫 preserve_none 的调用约定。 所谓 preserve_none,顾名思义,就是这个调用约定下,尽可能啥寄存器都不保留,全是易失性寄存器。 于是,如果使用 preserve_none 的调用约定实现 zcontext_swap, 则代码里并不需要保留上下文。只需要切换 rsp 寄存器,然后调用下 hook 即可返回了。 zcontext_swap_preserve_none: // 保存frame寄存器 push %rbp // 切换栈指针 mov %rsp, (%r12) mov (%r13), %rsp // 恢复 frame 寄存器 pop %rbp // if(hook_function) hook_function(argument); test %r14, %r14 jne 1f // 返回 argument mov %r15, %rax // 返回 ret 1: // 如果有 hook ,则调用 hook 后返回 mov %r15, ARG1_REG mov %r15, %r12 // 同时兼容 preserve_none 调用约定 的 hook jmp * %r14 // 开启尾调用优化. 在 无 hook 的情况下,只需 8 条指令即完成上下文切换。 ...

January 3, 2025

boost.fcontext 为何快?

在 批评 libco 的 上下文切换代码的时候,我曾经说,协程的上下文切换代码,并不需要恢复所有的寄存器。 只需要恢复调用约定里规定的 “非易失性寄存器”。 只有操作系统进行抢占式调度的时候,才需要恢复所有的寄存器。因为抢占式调度,可以在任何时间任何地方中断线程。如果不恢复所有寄存器,则在线程的角度看来就是寄存器的值可以任何时间任何地方突然“自主改变”。 而由用户执行的协程调度则不然。上下文切换,一定是代码里“主动”调用某个控制权转移接口实现的。 而这个控制权转移接口,在编译器看来,不过是一次再正常不过的外部函数调用。只要按照约定,准备好寄存器。。 并且在它返回的时候,自主恢复易失性寄存器。 是的没错,调用它的地方,本来就假定易失性寄存器的数值会改变。 因此,在协程的上下文切换函数里,根本没有任何必要恢复易失性寄存器的内容。只需要恢复非易失性寄存器即可。 为了验证我的设想,我写了一个 zcontext 进行了验证。 这个 zcontext 已提交进 uasync 代码仓库,详情看 commit 不过我这上下文切换,只恢复了8个非易失性通用寄存器。对16 个 MMX 寄存器,还有 AVX 寄存器,都没有进行恢复。 不知道会不会出问题。于是就仔细的研读了 boost.context 的汇编代码。希望研究下怎么恢复 SSE 和 AVX 寄存器。 注:boost.context 里负责上下文切换的 汇编写的 api 叫 fcontext 。 结果发现 fcontext 的做法和我的不能说完全一样,简直是一模一样。 无非是我用了 一排 push + 一排 pop 做的切换,而它的代码使用了 mov 指令。但都是等价的。 也只恢复了非易失性通用寄存器和 2个 80387状态寄存器。 这下总算完全理解为啥 boost.context 称自己的性能天下无敌了。 因为确实没有比这更快的上下文切换方式了。 由此可见,libco 的作者还真是水货一个。他引以为傲的那段汇编代码,就是一坨羊粪。

December 18, 2024