Latency زمانی است که از شروع یک درخواست یا عملیات تا دریافت نتیجه یا پاسخ آن سپری می‌شود. زمان پاسخ یک API و تاخیر رفت‌وبرگشت شبکه دو نمونه متفاوت از این سنجه‌اند.
نحوه استفاده در عمل
ممکن است سرویس در هر ثانیه هزار درخواست پاسخ دهد اما هر درخواست به‌طور متوسط دو ثانیه منتظر بماند. بنابراین Latency با Throughput یکی نیست.
میانگین زمان پاسخ می‌تواند کندی کاربران انتهایی را پنهان کند. صدک‌هایی مانند p95 و p99 برای تجربه کاربری اهمیت دارند.
میانگین تاخیر کافی نیست
ممکن است میانگین پاسخ API برابر ۱۰۰ میلی‌ثانیه باشد، اما یک درصد کاربران چند ثانیه منتظر بمانند. برای تجربه کاربری معمولاً P95 و P99 هم باید سنجیده شوند.