Phân phối tải trên nhiều bộ cân bằng tải

Với một trang web có thể có hàng trăm nghìn người dùng đồng thời vào thời gian cao điểm, làm cách nào để quản lý laod khi tài nguyên của bộ cân bằng tải chỉ có thể hỗ trợ 40.000 kết nối đồng thời? (Thông số hệ thống, ngoài tầm kiểm soát của tôi)

Phương pháp duy nhất tôi có thể nghĩ là làm tròn kiểu cướp chuyển hướng tất cả lưu lượng truy cập đến một trong các tên miền phụ X (ví dụ: 1.domain.com, 2.domain.com... X.domain.com) trong đó mỗi tên miền phụ trỏ đến một tên miền phụ khác. cân bằng tải. Loại chuyển hướng và xử lý này có tốn kém từ góc độ máy chủ không? Nó có gây ra cảnh báo trình duyệt không (ví dụ: trang www.tên miền.com đang cố chuyển hướng bạn đến...)? Có phương pháp nào tốt hơn mà tôi đang xem không? (Execept nhận một bộ cân bằng tải lớn hơn)

Có một cách 'đúng' để làm điều này?

Một giải pháp phổ biến là sử dụng Global Server Load Balancer hoặc GEO. Trong trường hợp này, các truy vấn DNS của người dùng sẽ được phân phối tới các địa chỉ IP khác nhau (mỗi ánh xạ tới bộ cân bằng tải riêng biệt). Hầu hết các GLSB bao gồm kiểm tra tình trạng trên các điểm cuối của Bộ cân bằng tải (nếu một điểm cuối không thành công, hãy ngừng gửi người dùng đến IP này) và cũng có thể được sử dụng để định tuyến người dùng đến điểm cuối tối ưu nhất nơi các bộ cân bằng tải được trải rộng trên toàn thế giới, tức là Gửi Lưu lượng truy cập Châu Âu đến điểm cuối Châu Âu, v.v. .

Giải pháp này sẽ loại bỏ nhu cầu chuyển hướng mà bạn đã đề cập mà chính chúng có thể thêm tải không cần thiết vào một s

Tôi có một vài triển khai phía sau bằng cách sử dụng các giao thức định tuyến động như OSPF. Có một đoạn script kích hoạt nhỏ được viết bằng bash để kiểm tra xem máy chủ proxy/ứng dụng có hoạt động bình thường không và sau đó bắt đầu/dừng bgpd/ospfd (hoặc chỉ cần thêm thông báo bằng vtysh). trình nền định tuyến này đã công bố một địa chỉ IP trong mạng (/32 mạng con) và sau đó các bộ định tuyến sẽ chia lưu lượng bằng nhau nếu hai đường dẫn có cùng chi phí - nó được gọi là ECMP (Đa đường có chi phí bằng nhau).