Come faccio a selezionare la migliore capacità di cache di Amazon API Gateway per evitare di raggiungere un limite di velocità?

Breve descrizione

Amazon API Gateway, per evitare che la tua API venga sommersa da troppe richieste, ne limita il numero. Attiva il caching delle API per ridurre il numero di chiamate effettuate al tuo endpoint.

Sono disponibili diverse dimensioni di API Gateway Cache. Per selezionare la dimensione della cache appropriata, esegui un test di carico sulla tua API, quindi rivedi le metriche di Amazon CloudWatch.

Risoluzione

Attiva la memorizzazione nella cache di API Gateway

Attiva il caching di Amazon API Gateway per la tua fase API. La capacità della cache dipende dalla dimensione delle risposte e dal carico di lavoro.

Nota: La capacità della cache influisce sulla CPU, sulla memoria e sulla larghezza di banda di rete dell'istanza della cache. Di conseguenza, la capacità della cache può influire sulle prestazioni della cache.

Dopo aver creato la cache, esegui un test di carico per determinare se la dimensione della cache è sufficientemente alta da impedire la limitazione.

Eseguire un test di carico

Esegui un test di carico sulla tua API. Puoi usare AWS Distributed Load Testing per simulare il test di carico.

Esegui il test di carico per almeno 10 minuti e rispecchia il traffico di produzione. Durante il test, segui i passaggi indicati nella sezione seguente per monitorare le metriche relative a CloudWatch.

Monitorare le metriche delle API in CloudWatch

1. Apri la console CloudWatch.
2. Nel riquadro di navigazione, seleziona Metriche.
3. Scegli la metrica ApiGateway.
4. Monitora le metriche Latency, 4XXError, ** 5XXError**, CacheHitCount e CacheMissCount per l'API su cui stai eseguendo il test di carico.
5. Se vedi un aumento di Latency, 4XXError, 5XXError o CacheMissCount con una diminuzione di CacheHitCount, ridimensiona la cache dell'API Gateway a una capacità maggiore.
6. Se vedi un aumento di CacheHitCount e nessun aumento corrispondente di CacheMissCount, ridimensiona la cache di API Gateway a una capacità inferiore.
7. Dopo eventuali modifiche alla capacità della cache, esegui nuovamente il test di carico fino a quando non si verificano aumenti o diminuzioni improvvise.

Informazioni correlate

Prezzi di Gateway Amazon API

Turn on API caching to enhance responsiveness

Amazon API Gateway dimensions and metrics