Phản ánh lưu lượng truy cập với Nginx (để tăng tính khả dụng và giảm độ trễ)

Tôi cần sao chép/phản chiếu lưu lượng truy cập đến máy chủ của mình.

Ý tôi là, tôi có N máy chủ phụ trợ A1 A2 ... An(n>=2) và nginx làm proxy ngược & cân bằng tải.

Tất cả lưu lượng truy cập đến Nginx đều chuyển hướng đến cả Ax và Ay(x!=y) trong song song, tương đông, nếu một trong các máy chủ ngừng hoạt động (hết thời gian chờ hoặc 5xx), thì phản hồi của máy chủ kia có thể được sử dụng ngay lập tức và trả lại kết quả cho máy khách.

Bằng cách phản chiếu lưu lượng truy cập (không thử lại nhưng gửi song song các yêu cầu trùng lặp), tôi có thể tạo dự phòng, điều đó có nghĩa là nhiều máy chủ phụ trợ có thể xử lý một yêu cầu cùng một lúc.

Tôi cần phản hồi ứng dụng khách trong vòng 30 mili giây, nếu đặt thử lại = 1, thời gian chờ phải được đặt thành 15 mili giây (khó lưu trữ), do đó, phản chiếu lưu lượng có thể là một giải pháp.

Có thể không?

Câu hỏi của bạn gần như có một câu trả lời nói chung. Đó là những gì bạn mô tả chỉ là cân bằng tải với kiểm tra sức khỏe. Điều đó hoàn toàn có thể xảy ra với nginx và thiết lập như vậy được mô tả trên tài liệu của họ: http://nginx.org/en/docs/http/load_balancing.html