K8S giới hạn số lượng nhóm bắt đầu cùng một lúc

Tôi gặp sự cố với K8S, tôi có khoảng 30 dịch vụ siêu nhỏ (java chạy trên khởi động mùa xuân). Microservices cần rất nhiều CPU chỉ để khởi động vì có rất nhiều thư viện. Khi tôi triển khai tất cả các vi dịch vụ cùng lúc, nó sẽ tạo ra tải CPU thực sự lớn trên các nút K8S và chúng được đánh dấu là không khả dụng. Tôi cần giới hạn số lượng nhóm khởi động đồng thời bằng cách nào đó để tránh tải cpu cao trên các nút. Có cách nào để làm điều này?

Bạn có thể đặt CPU giới hạn và yêu cầu.

Sau khi bạn thiết lập các giới hạn này, ngay cả khi các giới hạn là rộng rãi, thời gian chạy kubelet và vùng chứa sẽ hoạt động cùng nhau để thực thi các giới hạn CPU. Cùng với đó, bạn có thể dự trữ tài nguyên cho chính Kubernetes để khối lượng công việc không gây rủi ro cho toàn bộ nút.

Sau khi bạn xác định những điều này, nhân Linux sẽ chịu trách nhiệm thực thi các giới hạn và đảm bảo rằng các tài nguyên khả dụng được phân bổ công bằng. Nếu bạn có DaemonSets trong cụm của mình, hãy đảm bảo rằng chúng cũng có tài nguyên và giới hạn. Bạn có thể xem xét chạy DaemonSets như đảm bảo, để tài nguyên của họ được khoanh vùng. Nhìn thấy Định cấu hình Chất lượng dịch vụ cho Pods.

Khi được kết hợp với nhau, các biện pháp này sẽ bảo vệ các nút của bạn khỏi khối lượng công việc trong khi vẫn cho phép các Nhóm ứng dụng đột nhập vào CPU khả dụng trong khi khởi động.

Nếu thấy vẫn còn sự cố, bạn có thể thực hiện thêm một bước nữa: trì hoãn mỗi lần khởi động một khoảng ngẫu nhiên. Bạn có thể làm điều đó mà không cần thay đổi ứng dụng, bằng cách chạy tùy chỉnh thùng chứa ban đầu trước khi khởi động ứng dụng chính. Sự chậm trễ ngẫu nhiên đó giúp tránh đàn sấm sét các vấn đề trong đó mỗi JVM chạy với cùng một mẫu truy cập tài nguyên cùng một lúc.

Nếu bạn chắc chắn muốn giới hạn tỷ lệ số lượng Pod đang chạy trong quá trình triển khai, bạn có thể mở rộng cụm Kubernetes của mình bằng cách triển khai Triển khai Argo.

Với nỗ lực, bạn có thể xác định cơ chế triển khai của riêng mình để giới hạn số lần triển khai đồng thời bằng cách đặt siêu dữ liệu phù du và sau đó tạo cơ chế của riêng bạn (có thể là webhook truy cập xác thực hoặc plugin lập lịch) để giới hạn tốc độ tạo hoặc bắt đầu các nhóm có các nhãn này.

tôi không khuyến khích điều này: mặc dù Kubernetes có thể làm được điều đó, nhưng còn rất nhiều việc phải làm. Câu trả lời khác của tôi là một cách đơn giản hơn để đạt được kết quả tổng thể tương tự.