Jkyo Chen Blog

读 Go 调度系列的笔记

Golang 自己维护线程池来对接 Goroutine，降低系统的调度成本。

程序性能差的原因 #

  1. 线程处于 Waiting 状态。由于等待硬件（disk, network）操作系统（system calls）同步调用（atomic, mutexes）导致线程处于 Waiting 状态。
  2. Context Switching。大量的线程处在 Runnable 状态争抢时间片导致的 Context Switching。
  3. Cache-Coherency problem。由于每个核心都有 Cache Lines 的副本（3～40个时钟周期），并行运行的多个线程读写相同或相邻的 Cache Lines 数据时，会导致脏页的产生，进而导致其他线程读写时需要去主存储器访问（100〜300个时钟周期）才能获取缓存行的新副本。

调度名词 #

P(Processor) logical processors

M(Machine) OS Thread

G(Goroutine) application-level threads

GRQ Global Run Queue

LRQ Local Run Queue

允许调度器做出调度决策的事件 #

  1. go 关键字
  2. Garbage collection
  3. System calls
  4. Synchronization and Orchestration

如何调度来保证程序性能 #

协作式调度（Cooperating Scheduler）

一, 通过轮询器进行异步系统调用 #

  1. 通过使用网络轮询器（network poller）进行网络系统调用，调度程序可以防止 Goroutine 在进行这些系统调用时阻止 M。 这有助于使 M 保持可用以执行 P 的 LRQ 中的其他 Goroutine，而无需创建新的 M。这有助于减少 OS 上的调度负载。
  2. 其次把该 Goroutine 移回 该 P 的 LRQ 中。

二, 通过分离 M 和 P 进行同步系统调用 #

  1. 调度程序能够识别 Goroutine-1 导致 M 阻塞。 此时，调度程序将 M1 与 P 分离，而阻塞 Goroutine-1 仍然处于连接状态。 然后，调度程序引入一个新的 M2 来为 P 服务。此时，可以从 LRQ 中选择 Goroutine-2，并在 M2 上进行上下文切换。
  2. Goroutine-1 完成了阻塞系统调用。此时，Goroutine-1 可以移回 LRQ 并再次由 P 提供服务。将 M1 放在一边以备将来使用。

三, 窃取工作（Work Stealing） #

  1. P1 没有更多的 Goroutines 要执行，P1 需要检查 P2 在其 LRQ 中是否有 Goroutines，并取它找到的一半。
  2. P2 完成了所有工作。首先，它将查看 P1 的 LRQ，但找不到任何 Goroutine。 接下来，将查看 GRQ。

编写并发程序需要考虑的问题 #

  1. 确定工作负载是否适合并发
  2. 确定必须使用正确语义的工作负载类型（CPU-Bound / IO-Bound）非常重要。

References #

Scheduling In Go : Part I - OS Scheduler ｜ Archive

Scheduling In Go : Part II - Go Scheduler ｜ Archive

Scheduling In Go : Part III - Concurrency ｜ Archive