利用blktrace分析IO性能

本文转载自一位专家朋友（微博@vmunix）的博客，他从事UNIX性能方面的工作近十年，今年来开始研究Linux。原文地址：http://linuxperf.com/?p=161

iostat等最常用的工具肯定是指望不上的，【容易被误读的iostat】一文中解释过await表示单个I/O所需的平均时间，但它同时包含了I/O
Scheduler所消耗的时间和硬件所消耗的时间，所以不能作为硬件性能的指标，至于iostat的svctm更是一个废弃的指标，手册上已经明确说明了的。blktrace在这种场合就能派上用场，因为它能记录I/O所经历的各个步骤，从中可以分析是IO Scheduler慢还是硬件响应慢。


blktrace的原理

一个I/O请求进入block layer之后，可能会经历下面的过程：

Remap: 可能被DM(Device Mapper)或MD(Multiple Device, Software RAID) remap到其它设备

Split: 可能会因为I/O请求与扇区边界未对齐、或者size太大而被分拆(split)成多个物理I/O

Merge: 可能会因为与其它I/O请求的物理位置相邻而合并(merge)成一个I/O

被IO Scheduler依照调度策略发送给driver

被driver提交给硬件，经过HBA、电缆（光纤、网线等）、交换机（SAN或网络）、最后到达存储设备，设备完成IO请求之后再把结果发回。

blktrace能记录I/O所经历的各个步骤，来看一下它记录的数据，包含9个字段，下图标示了其中8个字段的含义，大致的意思是“哪个进程在访问哪个硬盘的哪个扇区，进行什么操作，进行到哪个步骤，时间戳是多少”：



第7个字段在上图中没有标出来，它表示操作类型，具体含义是：”R” for Read, “W” for Write, “D” for block, “B” for Barrier operation。

第6个字段是Event，代表了一个I/O请求所经历的各个阶段，具体含义在blkparse的手册页中有解释，其中最重要的几个阶段如下：

Q – 即将生成IO请求

|
G – IO请求生成

|
I – IO请求进入IO Scheduler队列

|
D – IO请求进入driver

|
C – IO请求执行完毕

根据以上步骤对应的时间戳就可以计算出I/O请求在每个阶段所消耗的时间：

Q2G – 生成IO请求所消耗的时间，包括remap和split的时间；

G2I – IO请求进入IO Scheduler所消耗的时间，包括merge的时间；

I2D – IO请求在IO Scheduler中等待的时间；

D2C – IO请求在driver和硬件上所消耗的时间；

Q2C – 整个IO请求所消耗的时间(Q2I + I2D + D2C = Q2C)，相当于iostat的await。

如果I/O性能慢的话，以上指标有助于进一步定位缓慢发生的地方：

D2C可以作为硬件性能的指标；

I2D可以作为IO Scheduler性能的指标。


blktrace的用法

使用blktrace需要挂载debugfs：

$ mount -t debugfs debugfs /sys/kernel/debug

利用blktrace查看实时数据的方法，比如要看的硬盘是sdb：

$ blktrace -d /dev/sdb -o – | blkparse -i –

需要停止的时候，按Ctrl-C。

以上命令也可以用下面的脚本代替：

$ btrace /dev/sdb

利用blktrace把数据记录在文件里，以供事后分析：

$ blktrace -d /dev/sdb

缺省的输出文件名是 sdb.blktrace.，每个CPU对应一个文件。

你也可以用-o参数指定自己的输出文件名。

利用blkparse命令分析blktrace记录的数据：

$ blkparse -i sdb



注：

在以上数据中，有一些记录的event类型是”m”，那是IO Scheduler的调度信息，对研究IO Scheduler问题有意义：

cfq18166S – cfq是IO Scheduler的名称，18166是进程号，”S”表示Sync(同步IO)，如果异步IO则用“A”表示(Async)；

它们的第三列sequence number都是0；

它们表示IO Scheduler内部的关键函数，上例中是cfq，代码参见block/cfq-iosched.c，以下是各关键字所对应的内部函数：

alloced <<< cfq_find_alloc_queue()

insert_request <<< cfq_insert_request()

add_to_rr <<< cfq_add_cfqq_rr()

cfq workload slice:300 <<< choose_wl_class_and_type()

set_active wl_class:0 wl_type:2 <<< __cfq_set_active_queue()

fifo= (null) <<< cfq_check_fifo()

dispatch_insert <<< cfq_dispatch_insert()

dispatched a request <<< cfq_dispatch_requests()

activate rq, drv=1 <<< cfq_activate_request()

complete rqnoidle 0 <<< cfq_completed_request()

set_slice=100 <<< cfq_set_prio_slice()

arm_idle: 8 group_idle: 0 <<< cfq_arm_slice_timer()

cfq schedule dispatch <<< cfq_schedule_dispatch()


利用btt分析blktrace数据

blkparse只是将blktrace数据转成可以人工阅读的格式，由于数据量通常很大，人工分析并不轻松。btt是对blktrace数据进行自动分析的工具。

btt不能分析实时数据，只能对blktrace保存的数据文件进行分析。使用方法：

把原本按CPU分别保存的文件合并成一个，文件名为sdb.bin：

$ blkparse -i sdb -d sdb.blktrace.bin

$ btt -i sdb.blktrace.bin

下面是一个btt实例：



我们看到93.7461%的时间消耗在D2C，也就是硬件层，这是正常的，我们说过D2C是衡量硬件性能的指标，这里单个IO平均0.129201毫秒，已经是相当快了，单个IO最慢14.246176 毫秒，不算坏。Q2G和G2I都很小，完全正常。I2D稍微有点大，应该是cfq scheduler的调度策略造成的，你可以试试其它scheduler，比如deadline，比较两者的差异，然后选择最适合你应用特点的那个。