"Stop Rate Limiting! Capacity Management Done Right" by Jon Moore
Strange Loop Conference · 42:20 · Watch on YouTube
초당 요청 수 기반의 속도 제한은 백엔드 과부하 시 실패하고 용량을 낭비하므로, API 게이트웨이는 Little의 법칙(N = X × R)을 이용한 동시 요청 수 제한과 적응형 AIMD 탐색 및 할당량 차용을 통해 오리진을 보호하면서 더 많은 트래픽을 처리해야 합니다.