# 延迟

> 从发出指令到收到响应所需的时间。

- ID: m03637
- 分类: system
- 领域: 系统论

## 定义

从发出指令到收到响应所需的时间。与带宽（Bandwidth，单位时间传输的数据量）相对。脚手架作用： 反应速度。在系统中，高带宽（能干很多活）不代表低延迟（反应快）。如果是救火或高频交易，延迟比带宽更重要。优化流程时，问自己：是在扩宽马路（带宽），还是在减少红绿灯（延迟）？

## 机制

延迟指系统对请求作出响应所需的时间，常分网络、计算与排队延迟。它是用户体验与系统吞吐的关键约束，常与吞吐量权衡。

## 练习

分解端到端延迟各组成（传播、传输、排队、处理）；测量 p50/p99 而非均值；定位瓶颈；用缓存、异步、就近部署压低尾延迟。

## 脚手架用法

反应速度。在系统中，高带宽（能干很多活）不代表低延迟（反应快）。如果是救火或高频交易，延迟比带宽更重要。优化流程时，问自己：是在扩宽马路（带宽），还是在减少红绿灯（延迟）？

[阅读网页](https://thinkingmodels.site/entries/detail/m03637)