Điểm:1

Máy chủ Linux không cho phép hơn 2048 kết nối đồng thời

lá cờ in

Tôi đã thử thực hiện kiểm tra tải trên MQTT từ MACOS của mình và có thể đạt được thành công hơn 12 nghìn kết nối cho đến khi băng thông của tôi cạn kiệt.

Tôi đã thử thực hiện kiểm tra tương tự trên máy GCP và nó đã cho tôi ngoại lệ hết thời gian kết nối khi các cổng đã mở đạt đến 2048 và 2048 kết nối với nhà môi giới MQTT.

Khi kết nối, ConnectionTimeout của tôi là 100 giây (đang chờ conack) và KeepAlive = 300 giây (khi kết nối được thiết lập)

Sự cố này xảy ra bất kể phần mềm kiểm tra tải, chẳng hạn như mzbench, jmeter và emqtt-bench. Vì vậy, tôi nghĩ rằng vấn đề này có liên quan đến máy chủ linux.

Tôi không mong muốn đạt được 1 triệu kết nối mở, mà đang tìm kiếm ít nhất 30 nghìn kết nối mở.

Đã thử thay đổi ulimit và đây là cấu hình ulimit của tôi

kích thước tệp lõi (khối, -c) 0
kích thước phân đoạn dữ liệu (kbyte, -d) không giới hạn
ưu tiên lập lịch trình (-e) 0
kích thước tệp (khối, -f) không giới hạn
tín hiệu chờ xử lý (-i) 63887
bộ nhớ bị khóa tối đa (kbyte, -l) 64
kích thước bộ nhớ tối đa (kbyte, -m) không giới hạn
mở tệp (-n) 102400
kích thước đường ống (512 byte, -p) 8
Hàng đợi tin nhắn POSIX (byte, -q) 819200
ưu tiên thời gian thực (-r) 0
kích thước ngăn xếp (kbyte, -s) 8192
thời gian cpu (giây, -t) không giới hạn
quy trình người dùng tối đa (-u) 200000
bộ nhớ ảo (kbyte, -v) không giới hạn
khóa tệp (-x) không giới hạn

cat trên proc cũng cho phép mở tệp tối đa là 102400

đây cũng là những giá trị được đặt trong sysctl của tôi

fs.file-max = 200000
net.core.rmem_max = 16777216
net.core.wmem_max = 16777216
net.ipv4.tcp_rmem = 4096 87380 16777216
net.ipv4.tcp_wmem = 4096 65536 16777216
net.ipv4.tcp_syncookies = 1
net.ipv4.tcp_mem = 50576 64768 98152
net.core.netdev_max_backlog = 2500

Chỉnh sửa: Đã thêm chi tiết máy và mẫu thử nghiệm

Loại máy: n2-highcpu-16 (16 vCPU, bộ nhớ 16 GB)

Kết quả của lscpu

Kiến trúc: x86_64
(Các) chế độ hoạt động của CPU: 32-bit, 64-bit
Thứ tự byte: Little Endian
(Các) CPU: 16
Danh sách (các) CPU trực tuyến: 0-15
(Các) luồng trên mỗi lõi: 2
(Các) lõi trên mỗi ổ cắm: 8
Ổ cắm: 1
NUMA (các) nút: 1
ID nhà cung cấp: Chính hãngIntel
Dòng CPU: 6
Mô hình: 85
Tên kiểu máy: Intel(R) Xeon(R) CPU
Bước: 7
CPUMhz: 2800.200
BogoMIPS: 5600,40
Nhà cung cấp Hypervisor: KVM
Loại ảo hóa: đầy đủ
Bộ đệm L1d: 32K
Bộ đệm L1i: 32K
Bộ đệm L2: 1024K
Bộ đệm L3: 33792K
NUMA nút0 (các) CPU: 0-15
Flags:                 fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush mmx fxsr sse sse2 ss ht syscall nx pdpe1gb rdtscp lm constant_tsc rep_good nopl xtopology nonstop_tsc cpuid tsc_known_freq pni pclmulqdq ssse3 fma cx16 pcid sse4_1 sse4_2 x2apic movbe popcnt aes xsave avx f16c rdrand hypervisor lahf_lm abm 3dnowprefetch invpcid_single ssbd ibrs ibpb stibp ibrs_enhanced fsgsbase tsc_adjust bmi1 hle avx2 smep bmi2 erms invpcid rtm mpx avx512f avx512dq rdseed adx smap clflushopt clwb avx512cd avx512bw avx512vl xsaveopt xsavec xgetbv1 xsaves arat avx512_vnni md_clear arch_capabilities

Mẫu thử: Mở 200 kết nối mỗi giây và chờ conack với tốc độ không đổi.

lá cờ jp
Bạn đã sử dụng loại máy nào? Bạn đã thiết lập tất cả các kết nối của mình nhanh như thế nào?
lá cờ in
@SerhiiRohoza đã chỉnh sửa câu hỏi và thêm các chi tiết được hỏi
Matthew Ife avatar
lá cờ jo
Bạn có thể cung cấp thêm thông tin về nhà môi giới bạn đang sử dụng trên Linux không?
lá cờ in
@MatthewIfe Có, nhà môi giới tôi đang sử dụng cũng có trên linux. Tuy nhiên, tôi không nghĩ rằng đó phải là nguyên nhân gốc rễ vì tôi có thể mở 12 nghìn kết nối từ cục bộ nhưng chỉ có 2 nghìn kết nối từ máy chủ thử nghiệm của mình.
Matthew Ife avatar
lá cờ jo
Tôi quan tâm đến việc triển khai phần mềm mà bạn đang sử dụng vì các cơ chế đồng thời khác nhau có các giới hạn khác nhau. Ngoài ra, các ulimit trong trình bao của bạn không nhất thiết phải là các ulimit của phần mềm nhưng vì bạn không cung cấp việc triển khai trình môi giới mà bạn đang sử dụng cũng như phương tiện mà bạn triển khai nên không có đủ thông tin để làm việc.
lá cờ in
Các nhà môi giới được sử dụng là các nhà môi giới emqx được triển khai trên máy gcloud tương tự. Ulimits được cung cấp ở trên là ulimit của khách hàng đang cố gắng tạo kết nối trên nhà môi giới.
John Hanley avatar
lá cờ cn
Tôi có thể sai, nhưng tôi nghĩ máy ảo GCP của bạn phải tuân theo các cổng mở đồng thời bởi tường lửa/cổng VPC. Các kết nối trong Google Cloud có trạng thái và được theo dõi để chấp nhận lưu lượng quay lại.
John Hanley avatar
lá cờ cn
Các loại máy có 1 - 8 vCPU bị giới hạn ở 500 kết nối trên mỗi vCPU trong 5 giây với tối đa là 4000 đối với các loại máy lớn hơn. https://cloud.google.com/vpc/docs/quota#per_instance Điều này không phù hợp với mức trần năm 2000 của bạn ...
Điểm:1
lá cờ in

Tôi đã có thể giải quyết vấn đề này, nhờ các ý kiến ​​​​ở trên.

Tôi đã nhấn IP LoadBalancer công khai từ máy ảo thử nghiệm của mình. Tuy nhiên, GCP có giới hạn tối đa 2048 kết nối từ máy ảo đến IP công cộng. Khi tôi thay đổi IP này thành IP riêng, tôi đã có thể đạt được gần 65 nghìn kết nối.

Đăng câu trả lời

Hầu hết mọi người không hiểu rằng việc đặt nhiều câu hỏi sẽ mở ra cơ hội học hỏi và cải thiện mối quan hệ giữa các cá nhân. Ví dụ, trong các nghiên cứu của Alison, mặc dù mọi người có thể nhớ chính xác có bao nhiêu câu hỏi đã được đặt ra trong các cuộc trò chuyện của họ, nhưng họ không trực giác nhận ra mối liên hệ giữa câu hỏi và sự yêu thích. Qua bốn nghiên cứu, trong đó những người tham gia tự tham gia vào các cuộc trò chuyện hoặc đọc bản ghi lại các cuộc trò chuyện của người khác, mọi người có xu hướng không nhận ra rằng việc đặt câu hỏi sẽ ảnh hưởng—hoặc đã ảnh hưởng—mức độ thân thiện giữa những người đối thoại.