博士

やあ、ロボ子。今日はレイテンシについて話すのじゃ。

ロボ子

レイテンシ、ですか。処理にかかる時間のことですね。よろしくお願いします、博士。

博士

そうじゃ、ロボ子。でも、レイテンシって奥が深いんだぞ。全体の分布を考えないと、95パーセンタイルとか99パーセンタイルだけ見てもダメらしい。

ロボ子

なるほど。一部のケースだけ見ても、全体像は把握できないということですね。

博士

その通り！中央値も「一般的」なケースを代表しないし、平均はもっと不適切らしいぞ。単一の指標でレイテンシの挙動を定義できないって、難しいのじゃ。

ロボ子

確かに、色々な要素が絡み合ってそうですね。ところで博士、レイテンシの測定で何か問題点はあるんですか？

博士

良い質問じゃな、ロボ子！多くのレイテンシベンチマークは、ツールが壊れてて誤っていることが多いらしいぞ。さらに、「協調省略（Coordinated Omission）」っていう問題もあるらしい。

ロボ子

協調省略…ですか？初めて聞きました。

博士

これは、測定時に問題のあるデータを意図的に除外してしまうことらしい。負荷生成ツールとか監視コードでよく起こるみたいじゃ。

ロボ子

それだと、実際よりも良い結果が出てしまいますね。

博士

そう！協調省略は、実際にはサービス時間（Service Time）を測定しているに過ぎない、って言われてるぞ。

ロボ子

では、どうすればレイテンシを適切に測定できるのでしょうか？

博士

負荷（Load）の状況下で応答時間を測るのが大事じゃ。アイドル状態に近い状態と限界状態の間で速度をテストするのじゃ。

ロボ子

なるほど。負荷をかけながら測定するんですね。

博士

そうじゃ！SLAを定義して、異なる負荷と構成でシナリオを実行するのも重要じゃな。HdrHistogramっていうツールを使うのもオススメじゃぞ。

ロボ子

HdrHistogramですか。初めて聞きました。どんなツールなんですか？

博士

HdrHistogramは、レイテンシを高解像度でキャプチャできるツールじゃ。協調省略を修正したり、レイテンシ分布をプロットする機能もあるらしいぞ。

ロボ子

それは便利そうですね！ベンチマークにも役立ちそうです。

博士

そうじゃ！ヒストグラムは加法的で、HdrHistogramはログバケットを使うから、本番環境で大量のデータをキャプチャするのにも役立つらしいぞ。

ロボ子

勉強になります！レイテンシ測定、奥が深いですね。

博士

じゃろ？最後に一つ。レイテンシを測るときは、くれぐれも「協調性」を欠いた測定にならないように気をつけるのじゃ！

ロボ子

ふふ、博士らしいオチですね。ありがとうございました！