コンピュータネットワークやシステムパフォーマンスのを測る指標に「スループット」と「レイテンシ」があります。
今回は、この「スループット」と「レイテンシ」という指標の概要と違いについてまとめていきます。
スループットとは
スループット(Throughput)は、あるシステムが一定の時間内に処理できる仕事量を指しています。
データ転送の場合、スループットは単位時間当たりのデータ転送量（例えば、秒あたりのビット数やパケット数）を表します。
特徴
処理能力の指標
スループットはシステムやネットワークの処理能力を示す指標です。
高いスループットを持つシステムは、短時間で多くのデータを処理する能力があります。
全体的なパフォーマンス
スループットはシステム全体のパフォーマンスを評価するための重要な指標です。
特に大量のデータを扱うアプリケーションやネットワークいおいて、スループットが高いことは効率的な運用を意味します。
単位時間当たりの仕事量
通常「秒あたりのメガビット数(Mbps)」や「秒あたりのリクエスト数」で表されます。
これによって、異なるシステム間での比較が可能になります。
スループットの例
ネットワーク
インターネット接続のスピード（100Mbpsの回線など）
システム
Webサーバーが1秒間に処理できるリクエスト数
レイテンシとは
レイテンシ(Latency)は、データの送信要求を開始してから、そのデータが目的地に届くまでの遅延時間を指します。
一般的に「遅延」や「待ち時間」とも呼ばれます。
特徴
反応速度の特徴
レイテンシはシステムやネットワークの反応速度を示す指標で、低いレイテンシは迅速な応答を意味し、高いレイテンシは遅い応答を意味します。
ユーザー体験の重要な要素
特にリアルタイム性が重要なアプリケーション（オンラインゲーム、ビデオ会議等）でレイテンシが低いことが重要です。
高いレイテンシはユーザーの体験を大きく損なう可能性があります。
単位時間での測定
レイテンシは通常「ミリ秒(ms)」や「マイクロ秒(μs)」で測定されます。
これにより、非常に短い遅延時間でも正確に評価することができます。
レイテンシの例
ネットワーク
インターネットでのPING応答時間（30msの応答時間など）システム
データベースクエリの実行時間
スループットとレイテンシの違い
スループットとレイテンシの違いをまとめると以下の表のようになります。
スループットとレイテンシの関係
スループットとレイテンシは相互に関連していますが、必ずしも一方が改善されると他方も改善されるわけではありません。
高スループットと低レイテンシの両立
理想的には、高スループットで低レイテンシのシステムが望まれます。
しかし、実際はスループットを高めるためにリソースを大量に投入するとレイテンシが増加することがあります。
トレードオフ
システム設計において、スループットとレイテンシのバランスを取ることが重要です。
例えば、バッチ処理のシステムではスループットが重視され、リアルタイムシステムではレイテンシが重視されます。
バッチ処理についてさらに詳しく知りたい方はこちら。
まとめ
スループットとレイテンシは、システムやネットワークのパフォーマンスを評価するための重要な指標です。
スループットは「量」を示し、レイテンシは「時間」を示します。
それぞれの特性を理解し、適切にバランスを取ることで効率的かつ快適なシステムを設計・運用する事ができます。
以上スループットとレイテンシの違いに関するまとめでした。