如何選擇最適合的 Amazon API Gateway 快取容量，避免達到速率上限？

簡短說明

Amazon API Gateway 會限制對您 API 的請求數量，防止請求過多。開啟 API 快取，減少呼叫您端點的次數。

我們提供多個 API Gateway 快取大小。若要選取適當的快取大小，請在您的 API 上執行負載測試，然後查看 Amazon CloudWatch 指標。

解決方法

開啟 API Gateway 快取

為您的 API 階段開啟 Amazon API Gateway 快取。快取容量取決於您回應和工作負載的大小。

注意： 快取容量會影響快取執行個體的 CPU、記憶體和網路頻寬。因此，快取容量可能會影響快取的效能。

建立快取後，請執行負載測試，判斷快取大小是否足以防止限流。

執行負載測試

在您的 API 上執行負載測試。您可以使用 AWS 分散式負載測試來模擬負載測試。

執行負載測試至少 10 分鐘，並鏡像您的生產流量。在測試期間，請透過以下章節中的步驟來監控相關 CloudWatch 指標。

在 CloudWatch 中監控 API 指標

1. 開啟 CloudWatch 主控台。
2. 在導覽窗格中，選取指標。
3. 選擇 ApiGateway 指標。
4. 針對您在進行負載測試的 API，監控 Latency、4XXError、5XXError、CacheHitCount 和 CacheMissCount 指標。
5. 如果您看到 Latency、4XXError、5XXError 或 CacheMissCount 上升，CacheHitCount 下降，請將 API Gateway 快取調整為較大的容量。
6. 如果您看到 CacheHitCount 上升，但 CacheMissCount 沒有相應上升，請將 API Gateway 快取調整為較小的容量。
7. 變更快取的容量後，請再次執行負載測試，直到沒有突然上升或下降為止。

相關資訊

Amazon API Gateway 定價

Turn on API caching to enhance responsiveness

Amazon API Gateway dimensions and metrics