Throttling

Définition

Le Throttling (limitation progressive du débit) est une technique de contrôle de débit des APIs qui diffère du Rate Limiting classique dans son approche : plutôt que de bloquer brusquement les requêtes après un seuil (HTTP 429), le Throttling introduit progressivement des délais de traitement ou réduit la qualité de service à mesure que le client approche de ses limites. Cette approche graduelle améliore l'expérience des clients légitimes qui approchent leurs limites tout en protégeant les ressources backend. Le Throttling classique peut prendre plusieurs formes. Le delay-based throttling ajoute un délai de traitement croissant aux requêtes successives d'un client approchant sa limite (délai de 0ms pour les 100 premières requêtes, 100ms pour les suivantes, 1000ms au-delà), permettant aux clients d'adapter naturellement leur rythme sans erreur. Le degraded-response throttling retourne des réponses simplifiées (moins de champs, pagination réduite) aux clients en surconsommation sans les bloquer complètement. Le queue-based throttling place les requêtes excédentaires en file d'attente avec traitement différé plutôt que de les rejeter. Le Throttling est particulièrement précieux pour les APIs exposées à des clients automatisés (bots, crawlers, intégrations tierces) qui peuvent légitimement générer des volumes élevés et s'adapter facilement à des délais additionnels, contrairement aux utilisateurs humains qui perçoivent les délais comme une dégradation d'expérience. Dans les architectures API Gateway, le Throttling est souvent implémenté conjointement avec le Rate Limiting : un premier niveau (Rate Limiting strict) bloque les abus évidents (centaines de requêtes par seconde), un second niveau (Throttling progressif) gère les pics légitimes importants mais acceptables avec une dégradation douce.