amarao (amarao_san) wrote,
amarao
amarao_san

Category:

drbd latency

blktop становится всё более интересным (всё ещё стаб нормальной программы, но уже показывает самую мне интересную цифру - latency запросов в очереди).

Высчитывается она следующим образом: берём секундную разницу между now и old для read_ios, write_ios, time_in_queue. Суммируем read_iops и write_iops (эту самую разницу), делим time_in_queue на iops. Получаем время, в течение которого (усреднённо в течение секунды) был выполнен каждый запрос.

Это и есть latency запроса, именно он определяет максимальную производительность для однопоточных операций. Будучи умноженным на глубину очереди он даст нам максимальную производительность "вообще".

Так вот, интересные наблюдения.

СХД практически не нагружена (если верить atop'у, там загрузка меньше 10%).

Имеем следующую картинку:
/dev/drbd1 - latency от 6 до 34 мс.
/dev/dm-4 (нижележащее устройство для drbd) - latency от 0.4 до 2.4 мс (судя по периодичности прыжков, правильно было бы брать среднее от них).

Другими словами, чистая latency от DRBD составляет порядка 5-30мс. И это на ровном месте! По сети там не больше 0.15мс. C второй стороны картина ровно такая же.

Каким образом из двух раз по 2.5мс + 0.2мс (сеть) можно получить 30мс?

UPD: Метрики для DRBD какие-то странные.

io_ticks не соответствует сумме read_ticks и write_ticks. Либо я что-то не понимаю, либо тут мухлёж, потому что io_ticks там всё время равен строго (+/- точность измерений) 1000 (то есть секунда за секунду).

У всех остальных устройств картинка строго обратная, то есть io_ticks либо равен (для реальных дисков), либо кратно меньше (для LVM), либо вообще ноль (для рейдов).
Tags: blktop, clustering, drbd, linux, storage, СХД
Subscribe

  • systemd-networkd, netlink и arp флуд

    Нереально странный баг пофикшен с помощью eBPF затычки. Для меня большой неожиданностью является реакция на него.…

  • Rust soundness

    Каждый раз, когда я сталкиваюсь с маленькими "но" в Rust'е, это ощущение тщательной продуманности. Например, простейшие fold-функции для итераторов:…

  • still_ntp

    В ходе локального мозгового штурма у меня родилась суперидея. Надо написать ntp сервер, который может отдавать указанную дату. Т.е. сказали при…

  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 14 comments

  • systemd-networkd, netlink и arp флуд

    Нереально странный баг пофикшен с помощью eBPF затычки. Для меня большой неожиданностью является реакция на него.…

  • Rust soundness

    Каждый раз, когда я сталкиваюсь с маленькими "но" в Rust'е, это ощущение тщательной продуманности. Например, простейшие fold-функции для итераторов:…

  • still_ntp

    В ходе локального мозгового штурма у меня родилась суперидея. Надо написать ntp сервер, который может отдавать указанную дату. Т.е. сказали при…