Load Balancer (Yük Dengeleyici) Nedir? Nasıl Çalışır?

Yük dağıtım yöntemleri

Sağlık kontrolleri

Load balancer, arkadaki sunucuların çalışıp çalışmadığını düzenli olarak kontrol eder. Bir sunucu cevap vermezse ya da hata döndürürse ona istek göndermeyi bırakır; sunucu düzeldiğinde tekrar devreye alır. Bu sayede tek bir sunucunun çökmesi ziyaretçilere hata olarak yansımaz. Uygulamanızda veritabanı bağlantısını da kontrol eden basit bir /health adresi hazırlamak, sağlık kontrollerini daha anlamlı kılar.

Oturumlar ve paylaşılan veriler

Load balancer'ın arkasında birden fazla sunucu olduğunda, bir kullanıcının ardışık istekleri farklı sunuculara gidebilir. Bu yüzden:

• Oturumları ortak bir yerde tutun. Oturumlar tek bir sunucunun belleğinde ya da diskinde durursa kullanıcı başka sunucuya düştüğünde çıkış yapmış olur. Oturumları Redis gibi ortak bir depoda tutmak en temiz çözümdür; ayrıntılar Redis nedir? yazımızda.
• Yüklenen dosyaları paylaşın. Kullanıcıların yüklediği dosyalar bütün sunucuların erişebileceği bir depolamada ya da nesne depolamada tutulmalıdır.
• Veritabanı genellikle tektir. Uygulama sunucuları çoğaltılırken hepsi aynı veritabanına bağlanır. Veritabanını sunuculardan yalnızca özel ağ üzerinden erişilebilir yapın.

Bunlar mümkün değilse IP hash ya da yapışkan oturumlar (sticky sessions) ile aynı kullanıcıyı hep aynı sunucuya yönlendirebilirsiniz; ancak bu, yükün dengesiz dağılmasına yol açabilir.

Nginx ile yük dengeleme

Nginx, reverse proxy olarak kullanıldığı gibi basit ve güçlü bir load balancer olarak da çalışır. Arkadaki sunucular bir upstream bloğunda tanımlanır:

upstream uygulama {
    least_conn;
    server 10.8.0.11:3000 max_fails=3 fail_timeout=30s;
    server 10.8.0.12:3000 max_fails=3 fail_timeout=30s;
    server 10.8.0.13:3000 backup;
}

server {
    listen 443 ssl;
    server_name alanadiniz.com;

    location / {
        proxy_pass http://uygulama;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}

• least_conn: İstekleri en az aktif bağlantısı olan sunucuya gönderir. Satırı kaldırırsanız varsayılan yöntem round robin olur.
• max_fails ve fail_timeout: Bir sunucu belirtilen sürede art arda hata verirse bir süre devreden çıkarılır.
• backup: Yalnızca diğer bütün sunucular devre dışıyken kullanılan yedek sunucu.

Nginx'in temel yapılandırmasını ve SSL'i Nginx kurulumu rehberimizde anlattık. Arkadaki sunucuların portlarını internete açmak yerine yalnızca load balancer'ın erişebileceği bir özel ağda tutun; sunucuları birbirine güvenle bağlamak için WireGuard kullanabilirsiniz.

HAProxy ve diğer seçenekler

• HAProxy: Yalnızca yük dengeleme ve proxy işine odaklanan, çok yüksek trafikte kendini kanıtlamış açık kaynaklı bir araçtır. Gelişmiş sağlık kontrolleri ve ayrıntılı istatistikler sunar; TCP düzeyinde de yük dengeleyebilir.
• DNS round robin: Aynı alan adı için birden fazla A kaydı yayınlamak, en basit dağıtım yöntemidir. Ancak DNS, çöken bir sunucuyu bilmez ve ziyaretçileri ona göndermeye devam edebilir; gerçek bir load balancer'ın yerini tutmaz.
• Bulut ve sağlayıcı load balancer'ları: Bazı sağlayıcılar yönetilen load balancer hizmetleri sunar; kurulum ve yedeklilik sağlayıcının sorumluluğundadır.

Load balancer'ın kendisini yedeklemek

Tek bir load balancer, kendisi de bir tek hata noktası olur: O çökerse arkadaki bütün sunucular sağlam olsa bile siteye ulaşılamaz. Kritik sistemlerde iki load balancer çalıştırılır ve biri çöktüğünde diğeri trafiği devralır. Bu tür bir yapıyı kurmadan önce sağlayıcınızın ağ olanaklarını öğrenin.

Load balancer'a ne zaman ihtiyacınız olur?

Çoğu proje için load balancer gerekmez. Önce şunları deneyin:

1. Uygulamayı ve veritabanını optimize edin. Yavaş sorgular ve önbellek eksikliği, sunucu eklemekten çok daha ucuz çözülür; Sunucu neden yavaş? yazımıza göz atın.
2. Önbellek ve CDN kullanın. Statik içerikleri CDN'e, tekrarlanan sorguları Redis'e taşıyın.
3. Daha güçlü bir sunucuya geçin. Dikey büyüme, yatay büyümeden çok daha basittir.

Load balancer şu durumlarda anlam kazanır:

• Tek sunucunun kaynakları, optimizasyondan sonra bile trafiği taşımıyorsa.
• Bir sunucunun arızalanması ya da bakımı sırasında hizmetin kesilmemesi gerekiyorsa.
• Uygulamanızın yeni sürümlerini kesintisiz yayınlamak istiyorsanız.

Load balancing için Nodesty sunucuları

Nodesty AMD Ryzen 9 9950X VDS paketleri yüksek tek çekirdek hızıyla uygulama sunucusu olarak, AMD EPYC 7763 VDS paketleri ise bol RAM'iyle veritabanı ve önbellek sunucusu olarak kullanılabilir. 9950X paketlerindeki Frankfurt ve New York konumları, farklı bölgelerde sunucu çalıştırmanıza olanak tanır. Bütün paketlerde NVMe disk, nShield DDoS koruması ve 7 gün saklanan ücretsiz günlük yedekleme bulunur. Sanal sunucularda bant genişliği kullanımı ve yüksek trafikli ters proxy uygulamaları Adil Kullanım Politikamıza tabidir; çok yüksek trafik taşıyacak yapılar için donanımı tamamen size ayrılmış fiziksel sunucularımızı değerlendirin.