1210 分享：CPU 与上下文切换

[arthur-zhang]

systemtap 脚本

global csw_count
global idle_count
global csw_total

probe scheduler.cpu_off {
      csw_count[task_prev, task_next]++
      csw_total+=1
      idle_count+=idle
}

function fmt_task(task_prev, task_next) {
   return sprintf("tid(%d)->tid(%d)", task_tid(task_prev), task_tid(task_next))
}

function print_cswtop () {
  printf ("%45s %10s\n", "Context switch", "COUNT")
  foreach ([task_prev, task_next] in csw_count- limit 5) {
    printf("%45s %10d\n", fmt_task(task_prev, task_next), csw_count[task_prev, task_next])
  }
  printf("%45s %10d\n", "csw_total", csw_total)
  printf("%45s %10d\n", "idle", idle_count)

  delete csw_total
  delete csw_count
  delete idle_count
}

probe timer.s($1) {
  print_cswtop ()
  printf("--------------------------------------------------------------\n")
}

[IKNOWLJT]

[TOC]

CPU上下文切换

CPU上下文：CPU执行任务前必须依赖的环境

• CPU寄存器
• 程序计数器

上下文切换的类型

• 进程上下文切换（每次进程上下文的切换需要几十纳秒到数微妙的CPU时间）
  • 保存当前进程的内核堆栈和CPU寄存器
  • 保存当前进程的虚拟内存和栈
  • 加载新进程的内核堆栈和寄存器
  • 刷新进程的虚拟内存和用户栈
• 线程上下文切换
• 中断上下文切换（响应硬件的时间，中断处理会打断进程的正常调度和执行，转而调用中断处理程序，响应设备事件）

系统调用的过程中是有上下文切换的，并且发生了两次上下文切换（保存用户的指令位置，保存寄存器的值），一次用户态切换到内核态，一次内核态切回用户态

分析进程对CPU的占用：

• 内核中用就绪队列来维护所有处于可运行状态的进程，可运行状态不包括等待IO、休眠等状态的进程。

• 进程调度器负责从就绪队列中选择处于可运行状态的进程来执行。

• 而所有不处于可运行状态的进程，并不占用CPU资源，这些进程都等待被相关的事件比如网络IO唤醒，唤醒之后的进程更改状态为可运行状态，同时加入到就绪队列中，然后才能被调度器算法选择执行。

  因此在一个进程的整个生命周期中，虽然进程看上去一直存在，但是并不是所有时候都在占用CPU，根据占用CPU与否分为on cpu 和 off cpu。

  

  进程因为各种原因（被其他进程抢占、自己调用了sleep系统调用主动进入睡眠状态、等待网络IO等）被剥夺了执行权的时候，首先会调用deactivate_task函数从就绪队列中删除，接下来调用context_switch函数进行进程的上下文切换，这个时候旧的进程失去CPU的执行权，此时正式进入off cpu时间中

  其实火焰图就是分析on cpu和off cpu的时间，如果on cpu或者off cpu的时间过长，就要看看为什么进程一直持有cpu，或者进程一直拿不到cpu

观测CPU上下文切换：

systemtap 观测:

• systemap :

  systemtap 自带的tapset (systemtap 提供的一个探针和函数的内置库，可以在我们编写的 systemtap 脚本中复用他们 ，类似于C语言的库函数) 中，有一个scheduler.stp文件，里面定义了与调度器相关的一些probe https://github.com/jav/systemtap/blob/master/tapset/scheduler.stp

  probe scheduler.cpu_off =
  kernel.trace("sched_switch") !,
  kernel.function("context_switch")
  {
    name = "cpu_off"
    task_prev = $prev
    task_next = $next
    idle = __is_idle()
  }

  在该probe事件中，能获取到的参数是：

  • task_prev：保存切换之前的进程task_struct结构体。
  • task_next：保存切换之后的进程task_struct结构体。
  • idle：表示当前CPU是否空闲。

• 测试代码：cswstap.stap

  global csw_count
  global idle_count
  global csw_total
  
  probe scheduler.cpu_off {
      csw_count[task_prev, task_next]++
      csw_total+=1
      idle_count+=idle
  }
  
  function fmt_task(task_prev, task_next) {
   return sprintf("tid(%d)->tid(%d)", task_tid(task_prev), task_tid(task_next))
  }
  
  function print_cswtop () {
  printf ("%45s %10s\n", "Context switch", "COUNT")
  foreach ([task_prev, task_next] in csw_count- limit 5) {
    printf("%45s %10d\n", fmt_task(task_prev, task_next), csw_count[task_prev, task_next])
  }
  printf("%45s %10d\n", "csw_total", csw_total)
  printf("%45s %10d\n", "idle", idle_count)
  
  delete csw_total
  delete csw_count
  delete idle_count
  }
  
  probe timer.s($1) {
  print_cswtop ()
  printf("--------------------------------------------------------------\n")
  }

• 执行 fake_make 程序./fake_make -j4

• systemtap 查看上下文切换次数 stap cswstap.stap 1

  

vmstat 观测：

pidstat：

• PID:进程id
• Cswch/s:每秒自愿任务上下文切换数量 （自愿上下文切换变多了，说明进程都在等待资源，有可能发生了 I/O 等其他问题；）
• Nvcswch/s:每秒被动任务上下文切换数量 （非自愿上下文切换变多了，说明进程都在被强制调度，也就是都在争抢 CPU，说明 CPU 的确成了瓶颈）
• Command:命令名