Extremely slow results in fio testing for sequence read

Please acknowledge the following before creating a ticket

[x] I have read the GitHub issues section of REPORTING-BUGS.

Description of the bug:

Hi everyone, recently I've been testing the IOPS of a RAID 6 system(with 8G HDD * 9), starting with a sequence read. The configuration file is as follows:

[common]
rw=read
bs=64k
iodepth=64
directory=/volume3
ioengine=libaio
time_based=1
group_reporting=1
direct=1
thread=1
norandommap=1
randrepeat=0
log_avg_msec=1000
blockalign=4k
ramp_time=10s
size=64M
numjobs=100
runtime=50s
#fsync=64
fallocate=native

When I executed it, I noticed that initially, fio printed out a large number of job indications. I'm unsure if this is related to the issue.

fio fio_config_read
common: (g=0): rw=read, bs=(R) 64.0KiB-64.0KiB, (W) 64.0KiB-64.0KiB, (T) 64.0KiB-64.0KiB, ioengine=libaio, iodepth=64
...
fio-3.33
Starting 100 threads
Jobs: 100 (f=7): [/(9),R(1),/(6),R(1),/(4),R(1),/(29),R(1),/(9),R(1),/(5),R(1),/(27),R(1),/(4)][18.0%]Jobs: 100 (f=7): [/(9),R(1),/(6),R(1),/(4),R(1),/(29),R(1),/(9),R(1),/(5),R(1),/(27),R(1),/(4)][18.0%]Jobs: 100 (f=9): [/(9),R(1),/(6),R(1),/(4),R(1),/(18),R(1),/(10),R(1),/(4),R(1),/(4),R(1),/(5),R(1),/(Jobs: 100 (f=9): [/(9),R(1),/(6),R(1),/(4),R(1),/(18),R(1),/(10),R(1),/(4),R(1),/(4),R(1),/(5),R(1),/(Jobs: 100 (f=11): [/(9),R(1),/(6),R(2),/(3),R(1),/(18),R(1),/(10),R(1),/(4),R(1),/(4),R(1),/(5),R(1),/Jobs: 100 (f=11): [/(9),R(1),/(6),R(2),/(3),R(1),/(18),R(1),/(10),R(1),/(4),R(1),/(4),R(1),/(5),R(1),/Jobs: 100 (f=12): [/(9),R(1),/(1),R(1),/(4),R(2),/(3),R(1),/(18),R(1),/(10),R(1),/(4),R(1),/(4),R(1),/Jobs: 100 (f=14): [/(9),R(1),/(1),R(1),/(4),R(2),/(2),R(2),/(18),R(1),/(10),R(1),/(4),R(1),/(4),R(1),/Jobs: 100 (f=14): [/(9),R(1),/(1),R(1),/(4),R(2),/(2),R(2),/(18),R(1),/(10),R(1),/(4),R(1),/(4),R(1),/Jobs: 100 (f=16): [/(9),R(1),/(1),R(1),/(4),R(2),/(2),R(2),/(18),R(1),/(10),R(1),/(4),R(1),/(4),R(1),/Jobs: 100 (f=16): [/(9),R(1),/(1),R(1),/(4),R(2),/(2),R(2),/(18),R(1),/(10),R(1),/(4),R(1),/(4),R(1),/Jobs: 100 (f=17): [/(9),R(1),/(1),R(1),/(4),R(2),/(2),R(2),/(18),R(1),/(6),R(1),/(3),R(1),/(4),R(1),/(Jobs: 100 (f=18): [/(9),R(1),/(1),R(1),/(4),R(2),/(2),R(2),/(17),R(2),/(6),R(1),/(3),R(1),/(4),R(1),/(Jobs: 100 (f=20): [/(9),R(1),/(1),R(1),/(4),R(2),/(2),R(2),/(17),R(2),/(6),R(1),/(3),R(1),/(4),R(1),/(4),R(1),/(5),R(1),/(10),R(1),/(1),R(1),/(3),R(1),/(2),R(1),/(3),R(1),/(2),R(2),/(4)][18.0%][eta 00m:50Jobs: 100 (f=20): [/(9),R(1),/(1),R(1),/(4),R(2),/(2),R(2),/(17),R(2),/(6),R(1),/(3),R(1),/(4),R(1),/(4),R(1),/(5),R(1),/(10),R(1),/(1),R(1),/(3),R(1),/(2),R(1),/(3),R(1),/(2),R(2),/(4)][18.0%][eta 00m:50Jobs: 100 (f=22): [/(9),R(1),/(1),R(1),/(4),R(3),/(1),R(2),/(17),R(2),/(6),R(1),/(1),R(1),/(1),R(1),/(4),R(1),/(4),R(1),/(5),R(1),/(10),R(1),/(1),R(1),/(3),R(1),/(2),R(1),/(3),R(1),/(2),R(2),/(4)][18.0%][Jobs: 100 (f=22): [/(9),R(1),/(1),R(1),/(4),R(3),/(1),R(2),/(17),R(2),/(6),R(1),/(1),R(1),/(1),R(1),/(4),R(1),/(4),R(1),/(5),R(1),/(10),R(1),/(1),R(1),/(3),R(1),/(2),R(1),/(3),R(1),/(2),R(2),/(4)][18.0%][Jobs: 100 (f=25): [/(9),R(1),/(1),R(1),/(4),R(3),/(1),R(2),/(8),R(1),/(8),R(2),/(6),R(1),/(1),R(1),/(1),R(1),/(4),R(1),/(4),R(1),/(5),R(1),/(8),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(2),R(1),/(3),R(1),/(2),Jobs: 100 (f=25): [/(9),R(1),/(1),R(1),/(4),R(3),/(1),R(2),/(8),R(1),/(8),R(2),/(6),R(1),/(1),R(1),/(1),R(1),/(4),R(1),/(4),R(1),/(5),R(1),/(8),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(2),R(1),/(3),R(1),/(2),Jobs: 100 (f=25): [/(9),R(1),/(1),R(1),/(4),R(3),/(1),R(2),/(8),R(1),/(8),R(2),/(6),R(1),/(1),R(1),/(1),R(1),/(4),R(1),/(4),R(1),/(5),R(1),/(8),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(2),R(1),/(3),R(1),/(2),Jobs: 100 (f=26): [/(9),R(1),/(1),R(1),/(4),R(3),/(1),R(2),/(8),R(1),/(8),R(2),/(6),R(1),/(1),R(3),/(4),R(1),/(4),R(1),/(5),R(1),/(8),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(2),R(1),/(3),R(1),/(2),R(3),/(3)]Jobs: 100 (f=27): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(8),R(2),/(6),R(1),/(1),R(3),/(4),R(1),/(4),R(1),/(5),R(1),/(8),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(2),R(1),/(3),R(1),/(2),R(3),/(3)]Jobs: 100 (f=28): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(7),R(3),/(6),R(1),/(1),R(3),/(4),R(1),/(4),R(1),/(5),R(1),/(8),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(2),R(1),/(3),R(1),/(2),R(3),/(3)]Jobs: 100 (f=29): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(7),R(3),/(3),R(1),/(2),R(1),/(1),R(3),/(4),R(1),/(4),R(1),/(5),R(1),/(8),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(2),R(1),/(3),R(1),/(2),Jobs: 100 (f=31): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(7),R(3),/(3),R(1),/(2),R(1),/(1),R(3),/(4),R(1),/(4),R(1),/(5),R(1),/(6),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(1),R(2),/(3),Jobs: 100 (f=31): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(7),R(3),/(3),R(1),/(2),R(1),/(1),R(3),/(4),R(1),/(4),R(1),/(5),R(1),/(6),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(1),R(2),/(3),Jobs: 100 (f=33): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(7),R(3),/(3),R(2),/(1),R(1),/(1),R(3),/(4),R(1),/(4),R(1),/(5),R(1),/(6),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(1),R(2),/(3),Jobs: 100 (f=33): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(7),R(3),/(3),R(2),/(1),R(1),/(1),R(3),/(4),R(1),/(4),R(1),/(5),R(1),/(6),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(1),R(2),/(3),Jobs: 100 (f=34): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(7),R(3),/(3),R(2),/(1),R(1),/(1),R(3),/(4),R(1),/(1),R(1),/(2),R(1),/(5),R(1),/(6),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(1),Jobs: 100 (f=36): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(7),R(3),/(3),R(2),/(1),R(1),/(1),R(3),/(4),R(1),/(1),R(1),/(2),R(1),/(5),R(2),/(5),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(1),Jobs: 100 (f=36): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(7),R(3),/(3),R(2),/(1),R(1),/(1),R(3),/(4),R(1),/(1),R(1),/(2),R(1),/(5),R(2),/(5),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(1),Jobs: 100 (f=37): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(7),R(4),/(2),R(2),/(1),R(1),/(1),R(3),/(4),R(1),/(1),R(1),/(2),R(1),/(5),R(2),/(5),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(3),R(1),/(1),Jobs: 100 (f=38): [/(9),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(2),R(1),/(4),R(4),/(2),R(2),/(1),R(1),/(1),R(3),/(4),R(1),/(1),R(1),/(2),R(1),/(5),R(2),/(5),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(3),Jobs: 100 (f=40): [/(6),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(2),R(1),/(4),R(4),/(2),R(2),/(1),R(1),/(1),R(3),/(4),R(1),/(1),R(1),/(2),R(1),/(5),R(2),/(5),R(1),/(1),R(1),/(1),R(1),/(1),Jobs: 100 (f=40): [/(6),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(2),R(1),/(4),R(4),/(2),R(2),/(1),R(1),/(1),R(3),/(4),R(1),/(1),R(1),/(2),R(1),/(5),R(2),/(5),R(1),/(1),R(1),/(1),R(1),/(1),Jobs: 100 (f=41): [/(4),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(2),R(1),/(4),R(4),/(2),R(2),/(1),R(1),/(1),R(3),/(4),R(1),/(1),R(1),/(2),R(1),/(5),R(2),/(5),R(1),/(1),R(1),/(1),Jobs: 100 (f=42): [/(4),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(8),R(1),/(2),R(1),/(4),R(4),/(2),R(2),/(1),R(1),/(1),R(3),/(4),R(1),/(1),R(1),/(2),R(1),/(5),R(2),/(5),R(1),/(1),R(1),/(1),Jobs: 100 (f=45): [/(4),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(3),R(1),/(4),R(1),/(2),R(1),/(4),R(5),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(1),/(1),R(1),/(2),R(1),/(5),R(2),/(5),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(1)][18.0%][eta 00m:5Jobs: 100 (f=45): [/(4),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(3),R(1),/(4),R(1),/(2),R(1),/(4),R(5),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(1),/(1),R(1),/(2),R(1),/(5),R(2),/(5),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(1)][18.0%][eta 00m:5Jobs: 100 (f=45): [/(4),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(3),R(1),/(4),R(1),/(2),R(1),/(4),R(5),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(1),/(1),R(1),/(2),R(1),/(5),R(2),/(5),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(1)][18.3%][eta 00m:4Jobs: 100 (f=46): [/(4),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(3),R(1),/(4),R(1),/(2),R(1),/(4),R(5),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(1),/(1),R(1),/(2),R(1),/(5),R(3),/(4),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(1)][18.0%][eta 00m:5Jobs: 100 (f=48): [/(2),R(1),/(1),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(3),R(1),/(4),R(1),/(2),R(1),/(4),R(5),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(3),/(2),R(1),/(5),R(3),/(4),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(1)][18.0%][eta 00m:5Jobs: 100 (f=48): [/(2),R(1),/(1),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(3),R(1),/(4),R(1),/(2),R(1),/(4),R(5),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(3),/(2),R(1),/(5),R(3),/(4),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(1)][18.0%][eta 00m:5Jobs: 100 (f=50): [/(2),R(1),/(1),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(3),R(1),/(1),R(1),/(2),R(1),/(2),R(1),/(4),R(5),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(3),/(2),R(1),/(5),R(3),/(1),R(1),/(2),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(Jobs: 100 (f=50): [/(2),R(1),/(1),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(3),R(1),/(1),R(1),/(2),R(1),/(2),R(1),/(4),R(5),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(3),/(2),R(1),/(5),R(3),/(1),R(1),/(2),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(Jobs: 100 (f=51): [/(2),R(1),/(1),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(3),R(1),/(1),R(1),/(2),R(1),/(2),R(1),/(4),R(5),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(4),/(1),R(1),/(5),R(3),/(1),R(1),/(2),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(Jobs: 100 (f=52): [/(2),R(1),/(1),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(2),/(3),R(1),/(1),R(1),/(2),R(1),/(2),R(1),/(3),R(6),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(4),/(1),R(1),/(5),R(3),/(1),R(1),/(2),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(Jobs: 100 (f=53): [/(2),R(1),/(1),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(3),/(2),R(1),/(1),R(1),/(2),R(1),/(2),R(1),/(3),R(6),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(4),/(1),R(1),/(5),R(3),/(1),R(1),/(2),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(Jobs: 100 (f=55): [/(2),R(1),/(1),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(3),/(2),R(1),/(1),R(1),/(2),R(1),/(1),R(2),/(3),R(6),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(4),/(1),R(1),/(5),R(5),/(2),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(1)][18.0%]Jobs: 100 (f=55): [/(2),R(1),/(1),R(1),/(1),R(1),/(2),R(1),/(1),R(1),/(3),R(4),/(1),R(3),/(2),R(1),/(1),R(1),/(2),R(1),/(1),R(2),/(3),R(6),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(4),/(1),R(1),/(5),R(5),/(2),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(1)][18.0%]Jobs: 100 (f=57): [/(2),R(1),/(1),R(1),/(1),R(2),/(1),R(1),/(1),R(1),/(3),R(4),/(1),R(3),/(2),R(1),/(1),R(1),/(2),R(1),/(1),R(2),/(3),R(6),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(4),/(1),R(1),/(5),R(5),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(1)][18.0%]Jobs: 100 (f=58): [/(2),R(1),/(1),R(1),/(1),R(2),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(1),/(1),R(1),/(2),R(1),/(1),R(2),/(3),R(6),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(4),/(1),R(1),/(5),R(5),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(1)][18.0%][eta 00m:5Jobs: 100 (f=58): [/(2),R(1),/(1),R(1),/(1),R(2),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(1),/(1),R(1),/(2),R(1),/(1),R(2),/(3),R(6),/(1),R(2),/(1),R(1),/(1),R(4),/(3),R(4),/(1),R(1),/(5),R(5),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(3),R(1),/(1),R(5),/(1),R(1)][18.0%][eta 00m:5Jobs: 100 (f=60): [/(2),R(1),/(1),R(1),/(1),R(2),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(1),/(1),R(1),/(2),R(1),/(1),R(2),/(3),R(6),/(1),R(2),/(1),R(6),/(3),R(4),/(1),R(1),/(5),R(5),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(5),/(1),R(1)][18.0%][eta 00m:5Jobs: 100 (f=60): [/(2),R(1),/(1),R(1),/(1),R(2),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(1),/(1),R(1),/(2),R(1),/(1),R(2),/(3),R(6),/(1),R(2),/(1),R(6),/(3),R(4),/(1),R(1),/(5),R(5),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(5),/(1),R(1)][18.0%][eta 00m:5Jobs: 100 (f=61): [/(2),R(1),/(1),R(1),/(1),R(2),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(3),/(2),R(1),/(1),R(2),/(3),R(6),/(1),R(2),/(1),R(6),/(3),R(4),/(1),R(1),/(5),R(5),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(5),/(1),R(1)][18.0%][eta 00m:50s]       Jobs: 100 (f=62): [/(2),R(1),/(1),R(1),/(1),R(2),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(3),/(2),R(1),/(1),R(2),/(3),R(6),/(1),R(2),/(1),R(6),/(2),R(5),/(1),R(1),/(5),R(5),/(1),R(2),/(1),R(1),/(1),R(1),/(1),Jobs: 100 (f=63): [/(2),R(1),/(1),R(4),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(3),/(2),R(1),/(1),R(2),/(3),R(6),/(1),R(2),/(1),R(6),/(2),R(5),/(1),R(1),/(5),R(5),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),Jobs: 100 (f=65): [/(2),R(1),/(1),R(4),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(3),/(2),R(1),/(1),R(2),/(1),R(1),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(5),R(5),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),Jobs: 100 (f=65): [/(2),R(1),/(1),R(4),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(3),/(2),R(1),/(1),R(2),/(1),R(1),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(5),R(5),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),Jobs: 100 (f=66): [/(2),R(1),/(1),R(4),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(3),/(2),R(1),/(1),R(2),/(1),R(1),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(4),R(6),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),Jobs: 100 (f=67): [/(2),R(1),/(1),R(4),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(3),/(2),R(1),/(1),R(4),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(4),R(6),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(1),/(1),Jobs: 100 (f=69): [/(2),R(1),/(1),R(4),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(3),/(2),R(1),/(1),R(4),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(4),R(6),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(3),/(1),Jobs: 100 (f=69): [/(2),R(1),/(1),R(4),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(3),/(2),R(1),/(1),R(4),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(4),R(6),/(1),R(2),/(1),R(1),/(1),R(1),/(1),R(1),/(1),R(3),/(1),Jobs: 100 (f=71): [/(2),R(1),/(1),R(4),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(3),/(2),R(1),/(1),R(4),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(4),R(6),/(1),R(2),/(1),R(1),/(1),R(3),/(1),R(3),/(1),R(2),/(1),Jobs: 100 (f=71): [/(2),R(1),/(1),R(4),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(3),/(2),R(1),/(1),R(4),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(4),R(6),/(1),R(2),/(1),R(1),/(1),R(3),/(1),R(3),/(1),R(2),/(1),Jobs: 100 (f=73): [/(2),R(1),/(1),R(4),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(4),R(6),/(1),R(4),/(1),R(3),/(1),R(3),/(1),R(2),/(1),R(9),/(1),Jobs: 100 (f=73): [/(2),R(1),/(1),R(4),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(4),R(6),/(1),R(4),/(1),R(3),/(1),R(3),/(1),R(2),/(1),R(9),/(1),Jobs: 100 (f=74): [/(2),R(6),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(4),R(6),/(1),R(4),/(1),R(3),/(1),R(3),/(1),R(2),/(1),R(9),/(1),R(1)][18.0Jobs: 100 (f=75): [/(2),R(6),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1),R(9),/(2),R(5),/(1),R(1),/(4),R(6),/(1),R(4),/(1),R(7),/(1),R(2),/(1),R(9),/(1),R(1)][18.0%][eta 00mJobs: 100 (f=77): [/(2),R(6),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1),R(10),/(1),R(5),/(1),R(1),/(3),R(7),/(1),R(4),/(1),R(7),/(1),R(2),/(1),R(9),/(1),R(1)][18.0%][eta 00Jobs: 100 (f=77): [/(2),R(6),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1),R(10),/(1),R(5),/(1),R(1),/(3),R(7),/(1),R(4),/(1),R(7),/(1),R(2),/(1),R(9),/(1),R(1)][18.0%][eta 00Jobs: 100 (f=79): [/(2),R(6),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1),R(10),/(1),R(5),/(1),R(1),/(2),R(8),/(1),R(4),/(1),R(7),/(1),R(12),/(1),R(1)][18.0%][eta 00m:50s]   Jobs: 100 (f=79): [/(2),R(6),/(1),R(3),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1Jobs: 100 (f=80): [/(2),R(10),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1),R(10),/Jobs: 100 (f=82): [/(2),R(10),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1),R(10),/Jobs: 100 (f=82): [/(2),R(10),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1),R(10),/Jobs: 100 (f=83): [/(2),R(10),/(3),R(4),/(1),R(3),/(2),R(4),/(1),R(1),/(1),R(4),/(1),R(6),/(1),R(16),/Jobs: 100 (f=84): [/(2),R(10),/(3),R(4),/(1),R(3),/(2),R(6),/(1),R(4),/(1),R(6),/(1),R(16),/(1),R(2),/Jobs: 100 (f=85): [/(2),R(10),/(3),R(4),/(1),R(3),/(2),R(11),/(1),R(6),/(1),R(16),/(1),R(2),/(1),R(8),Jobs: 100 (f=86): [/(2),R(10),/(3),R(4),/(1),R(3),/(2),R(11),/(1),R(6),/(1),R(16),/(1),R(2),/(1),R(8),Jobs: 100 (f=87): [/(2),R(10),/(1),R(1),/(1),R(4),/(1),R(3),/(2),R(11),/(1),R(6),/(1),R(16),/(1),R(2),Jobs: 100 (f=88): [/(2),R(10),/(1),R(1),/(1),R(4),/(1),R(3),/(2),R(11),/(1),R(6),/(1),R(16),/(1),R(11)Jobs: 100 (f=89): [/(2),R(10),/(1),R(1),/(1),R(8),/(2),R(11),/(1),R(6),/(1),R(16),/(1),R(11),/(1),R(12Jobs: 100 (f=89): [/(2),R(10),/(1),R(1),/(1),R(8),/(2),R(11),/(1),R(6),/(1),R(16),/(1),R(11),/(1),R(12Jobs: 100 (f=89): [/(2),R(10),/(1),R(1),/(1),R(8),/(2),R(11),/(1),R(6),/(1),R(16),/(1),R(11),/(1),R(12Jobs: 100 (f=90): [/(2),R(10),/(1),R(1),/(1),R(8),/(2),R(18),/(1),R(16),/(1),R(11),/(1),R(12),/(1),R(1Jobs: 100 (f=90): [/(2),R(10),/(1),R(1),/(1),R(8),/(2),R(18),/(1),R(16),/(1),R(11),/(1),R(12),/(1),R(1Jobs: 100 (f=91): [/(1),R(11),/(1),R(1),/(1),R(8),/(2),R(18),/(1),R(16),/(1),R(11),/(1),R(12),/(1),R(1Jobs: 100 (f=93): [/(1),R(13),/(1),R(8),/(1),R(19),/(1),R(16),/(1),R(11),/(1),R(12),/(1),R(14)][18.0%]Jobs: 100 (f=93): [/(1),R(13),/(1),R(8),/(1),R(19),/(1),R(16),/(1),R(11),/(1),R(12),/(1),R(14)][18.0%]Jobs: 100 (f=93): [/(1),R(13),/(1),R(8),/(1),R(19),/(1),R(16),/(1),R(11),/(1),R(12),/(1),R(14)][18.3%]Jobs: 100 (f=94): [/(1),R(22),/(1),R(19),/(1),R(16),/(1),R(11),/(1),R(12),/(1),R(14)][19.4%][eta 00m:5Jobs: 100 (f=95): [/(1),R(22),/(1),R(19),/(1),R(28),/(1),R(12),/(1),R(14)][19.4%][eta 00m:50s]        Jobs: 87 (f=83): [R(4),_(1),R(1),f(1),R(4),_(1),R(9),f(1),R(3),_(1),R(4),f(1),R(7),_(1),R(8),_(1),R(3),_(2),R(3),_(1),R(21),_(1),R(1),_(1),R(10),_(1),R(2),_(1),R(1),_(1),R(2),f(1)][8.6%][r=82.2MiB/s][r=1314 IOPS][eta 10m:50s]
common: (groupid=0, jobs=100): err= 0: pid=29335: Tue Feb  6 10:54:09 2024
  read: IOPS=240, BW=18.1MiB/s (19.0MB/s)(921MiB/50853msec)
    slat (usec): min=123, max=2615.8k, avg=412862.55, stdev=336576.59
    clat (msec): min=40, max=33519, avg=20149.37, stdev=8200.42
     lat (msec): min=91, max=34061, avg=20560.67, stdev=8205.90
    clat percentiles (msec):
     |  1.00th=[  372],  5.00th=[ 2702], 10.00th=[ 6275], 20.00th=[12147],
     | 30.00th=[17113], 40.00th=[17113], 50.00th=[17113], 60.00th=[17113],
     | 70.00th=[17113], 80.00th=[17113], 90.00th=[17113], 95.00th=[17113],
     | 99.00th=[17113], 99.50th=[17113], 99.90th=[17113], 99.95th=[17113],
     | 99.99th=[17113]
   bw (  KiB/s): min=12332, max=59083, per=100.00%, avg=20545.35, stdev=110.57, samples=5174
   iops        : min=  151, max=  922, avg=319.16, stdev= 1.73, samples=5174
  lat (msec)   : 50=0.02%, 100=0.09%, 250=0.80%, 500=0.68%, 750=0.41%
  lat (msec)   : 1000=0.47%, 2000=2.11%, >=2000=115.63%
  cpu          : usr=0.00%, sys=0.08%, ctx=51539, majf=0, minf=62784
  IO depths    : 1=0.0%, 2=0.0%, 4=0.0%, 8=0.0%, 16=5.2%, 32=26.0%, >=64=68.8%
     submit    : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
     complete  : 0=0.0%, 4=98.8%, 8=0.0%, 16=0.0%, 32=0.0%, 64=1.2%, >=64=0.0%
     issued rwts: total=12252,0,0,0 short=0,0,0,0 dropped=0,0,0,0
     latency   : target=0, window=0, percentile=100.00%, depth=64

Run status group 0 (all jobs):
   READ: bw=18.1MiB/s (19.0MB/s), 18.1MiB/s-18.1MiB/s (19.0MB/s-19.0MB/s), io=921MiB (965MB), run=50853-50853msec

The final result I obtained for IOPS was only 258, which seems unusually low. Could you provide some hints on where the problem might be or suggest where to start troubleshooting?

$ ./strace fio fio_config_read 2>log.txt

When I attempted to troubleshoot the error using strace, I observed numerous occurrences of the same error. When the newfstatat function was called, it resulted in "No such file or directory" for the path "/tmp/fio-dump-status." I'm uncertain if this information would be helpful in resolving the issue.

clock_nanosleep(CLOCK_REALTIME, 0, {tv_sec=0, tv_nsec=10000000}, NULL) = 0
newfstatat(AT_FDCWD, "/tmp/fio-dump-status", 0x7ffe8f42af68, 0) = -1 ENOENT (No such file or directory)

fio version:

fio version=3.33

Thank you very much for your assistance. Please feel free to let me know if there is any additional information I should provide.

axboe / fio

Extremely slow results in fio testing for sequence read #1718