Panduan Backend & Cloud Engineer: API Gateway Terdistribusi & Rate Limiting Atomik di Redis

Satu skrip integrasi mitra yang mengalami bug perulangan atau serangan bot dapat membanjiri API Anda dengan puluhan ribu permintaan per detik, menghabiskan pool koneksi PostgreSQL dan mengganggu pelanggan lainnya. Pembatas laju (rate limiter) di memori lokal tidak efektif pada kontainer auto-scaling, sementara urutan perintah GET lalu INCR biasa di Redis rentan terhadap kondisi balapan. Sebagai Senior Backend Engineer dan Cloud Engineer, saya mengimplementasikan rate limiter Token-Bucket atomik menggunakan skrip Lua di Redis yang dipadukan dengan perlindungan edge Cloud Armor / AWS WAF.

1. Token-Bucket Atomik dalam Satu Eksekusi Skrip Lua Redis

Menghitung pengisian ulang token dan pengurangan kuota langsung di dalam satu panggilan EVALSHA Redis menjamin keakuratan mutlak dalam waktu kurang dari 0,3 milidetik.

2. Standar Header Retry-After & Kuota Bertingkat per Tenant

Klien yang melampaui batas kuota menerima respons HTTP 429 beserta header Retry-After yang presisi agar SDK klien dapat melakukan jeda otomatis (backoff).

3. Bermitra dengan Senior Backend & Cloud Engineer

Jelajahi Panduan Utama Backend Engineer, baca Panduan Utama Cloud Engineer, atau pesan Sprint Keamanan API Gateway 1 Hari.

Implementasi Kode Produksi & Konfigurasi Teknis

Berikut adalah implementasi kode produksi lengkap dan konfigurasi teknis untuk arsitektur Panduan Backend & Cloud Engineer: API Gateway Terdistribusi & Rate Limiting Atomik di Redis:

TOKEN_BUCKET_LUA = """
local key = KEYS[1]
local capacity = tonumber(ARGV[1])
local refill_rate = tonumber(ARGV[2])
local now_ms = tonumber(ARGV[3])
local requested = tonumber(ARGV[4])

local data = redis.call("HMGET", key, "tokens", "last_ms")
local tokens = tonumber(data[1])
local last_ms = tonumber(data[2])

if tokens == nil then
  tokens = capacity
  last_ms = now_ms
else
  local elapsed_sec = math.max(0, now_ms - last_ms) / 1000.0
  tokens = math.min(capacity, tokens + (elapsed_sec * refill_rate))
  last_ms = now_ms
end

if tokens < requested then
  local retry_after_ms = math.ceil(((requested - tokens) / refill_rate) * 1000)
  return {0, math.floor(tokens), retry_after_ms}
else
  tokens = tokens - requested
  redis.call("HMSET", key, "tokens", tokens, "last_ms", last_ms)
  redis.call("PEXPIRE", key, math.ceil((capacity / refill_rate) * 2000))
  return {1, math.floor(tokens), 0}
end
"""

Checklist Arsitektur Produksi (Cloud Engineer)

Dalam menerapkan solusi Panduan Backend & Cloud Engineer: API Gateway Terdistribusi & Rate Limiting Atomik di Redis (Backend Engineer, Cloud Engineer, Redis, API Security, Distributed Systems, Golang) pada lingkungan produksi berskala enterprise sebagai Cloud Engineer, pastikan standar rekayasa berikut terpenuhi:


About the Author — Hire Aldian Fazrihady (Cloud Engineer, GCP Professional Cloud Architect, GCP Professional Data Engineer, Backend, AI & Full Stack Engineer)

Aldian Fazrihady is a Top-Rated Senior Cloud Engineer, GCP Professional Cloud Architect (Google Cloud Certified), GCP Professional Data Engineer (Google Cloud Certified), Backend Engineer (Python, Django, FastAPI, Go, PostgreSQL), AI Application Engineer (LLMs, RAG, MCP, Google ADK, LangGraph), and Full Stack Engineer (React, Next.js, TypeScript) with 15+ years of production software engineering experience.

Hire Aldian Fazrihady on Upwork | Book 1-Day Programming Service ($100 USD / Rp 1.000.000) | View Live AI Portfolio | Send a Direct Message

Related Engineering Articles

Engineering Role Pillar Guides & Category Hubs