amarao (amarao_san) wrote,
amarao
amarao_san

Category:

drbd latency

blktop становится всё более интересным (всё ещё стаб нормальной программы, но уже показывает самую мне интересную цифру - latency запросов в очереди).

Высчитывается она следующим образом: берём секундную разницу между now и old для read_ios, write_ios, time_in_queue. Суммируем read_iops и write_iops (эту самую разницу), делим time_in_queue на iops. Получаем время, в течение которого (усреднённо в течение секунды) был выполнен каждый запрос.

Это и есть latency запроса, именно он определяет максимальную производительность для однопоточных операций. Будучи умноженным на глубину очереди он даст нам максимальную производительность "вообще".

Так вот, интересные наблюдения.

СХД практически не нагружена (если верить atop'у, там загрузка меньше 10%).

Имеем следующую картинку:
/dev/drbd1 - latency от 6 до 34 мс.
/dev/dm-4 (нижележащее устройство для drbd) - latency от 0.4 до 2.4 мс (судя по периодичности прыжков, правильно было бы брать среднее от них).

Другими словами, чистая latency от DRBD составляет порядка 5-30мс. И это на ровном месте! По сети там не больше 0.15мс. C второй стороны картина ровно такая же.

Каким образом из двух раз по 2.5мс + 0.2мс (сеть) можно получить 30мс?

UPD: Метрики для DRBD какие-то странные.

io_ticks не соответствует сумме read_ticks и write_ticks. Либо я что-то не понимаю, либо тут мухлёж, потому что io_ticks там всё время равен строго (+/- точность измерений) 1000 (то есть секунда за секунду).

У всех остальных устройств картинка строго обратная, то есть io_ticks либо равен (для реальных дисков), либо кратно меньше (для LVM), либо вообще ноль (для рейдов).
Tags: blktop, clustering, drbd, linux, storage, СХД
Subscribe

  • ансибло-философия

    А вот я хочу продолжить думать умное про ансибл, ci/cd и прочую рабочую фигню между гитом и сервером. Классическое программирование стремится…

  • APython

    troll mode: Специальный интерпретатор питона, написанный на ансибле с помощью конечного автомата на хэндлерах. В начале делается set_fact для code с…

  • molecule

    Мы всё-таки пытаемся притащить молекулу в продакшен (в смысле, в тесты кода для продакшена). Основная проблема состоит в том, что molecule…

  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 14 comments

  • ансибло-философия

    А вот я хочу продолжить думать умное про ансибл, ci/cd и прочую рабочую фигню между гитом и сервером. Классическое программирование стремится…

  • APython

    troll mode: Специальный интерпретатор питона, написанный на ансибле с помощью конечного автомата на хэндлерах. В начале делается set_fact для code с…

  • molecule

    Мы всё-таки пытаемся притащить молекулу в продакшен (в смысле, в тесты кода для продакшена). Основная проблема состоит в том, что molecule…