Điểm:0

Flink taskmanager trên ECS không thể kết nối với jobmanager trên EC2

lá cờ in

Tôi có một phiên bản EC2 ở us-east-1b và đang chạy trình quản lý công việc flink, chịu trách nhiệm điều phối công việc trên nhiều trình quản lý tác vụ thông qua RPC và máy chủ lịch sử.Tôi có thể thấy từ netstat rằng người quản lý công việc đang lắng nghe :::6123 cho các kết nối taskmanager đến.

Tôi có một nhóm tự động thay đổi quy mô sẽ chạy phiên bản EC2 vào cùng nhóm az, mạng con và nhóm bảo mật như phiên bản EC2.

Nhóm bảo mật cho phép Tất cả lưu lượng truy cập trên tất cả các cổng từ bất kỳ nguồn nào trong nhóm đến bất kỳ đích nào trong nhóm: Luật nội bộ Luật lệ nước ngoài

Tôi đang sử dụng ASG đó làm nhà cung cấp năng lực cho các tác vụ ECS. Sau đó, tôi đang cố chạy một tác vụ trong ECS ​​để chạy trình quản lý tác vụ và sử dụng ASG đó.

Trình quản lý tác vụ khởi động, nhưng sẽ không kết nối với trình quản lý công việc:

28-09-2021 13:52:08,651 THÔNG TIN org.apache.flink.runtime.taskexecutor.TaskExecutor [] - Không thể giải quyết địa chỉ Trình quản lý tài nguyên akka.tcp://[email protected]. internal:6123/user/rpc/resourcemanager_*, thử lại sau 10000 mili giây: Không thể kết nối với điểm cuối rpc theo địa chỉ akka.tcp://[email protected]:6123/user/ rpc/resourcemanager_*.

Tôi đã ssh-d vào phiên bản do ASG chạy và xác nhận rằng tôi có thể cuộn trình quản lý công việc trên ip-xxx-xx-x-xxx.ec2.internal:8081 - nó hoạt động. Vì vậy, tôi biết rằng cá thể taskmanager có thể nhìn thấy cá thể jobmanager.

Để tóm tắt:

  • Trình quản lý tác vụ và trình quản lý công việc nằm trong cùng một VPC, cùng AZ, cùng mạng con và cùng nhóm bảo mật
  • Nhóm bảo mật cho phép tất cả lưu lượng truy cập đến từ các nguồn trong cùng một nhóm bảo mật
  • Các nhóm bảo mật cho phép tất cả lưu lượng gửi đi đến bất kỳ đích nào
  • Trình quản lý công việc đang chạy trên phiên bản EC2 được tạo theo cách thủ công
  • Trình quản lý tác vụ đang chạy trên phiên bản EC2 do ECS tạo ra như một phần của ASG. Trình quản lý tác vụ chạy trong vùng chứa trên ECS
  • Tôi có thể cuộn tròn trình quản lý công việc từ nút trình quản lý tác vụ
  • Trình quản lý tác vụ và trình quản lý công việc giao tiếp qua RPC
  • Trình quản lý tác vụ sẽ không giải quyết địa chỉ cho trình quản lý công việc

Tại sao nhiệm vụ của tôi không kết nối? Tôi cũng đã thử IP công cộng (v4) và IP riêng (v4).

Tim avatar
lá cờ gp
Tim
Vui lòng chỉnh sửa câu hỏi của bạn để thêm ảnh chụp màn hình quy tắc vào/ra SG, đồng thời mô tả trình quản lý tác vụ/trình quản lý công việc là gì và chúng chạy ở đâu. Hãy thử thêm nhóm bảo mật của bạn vào quy tắc gửi đến của chính nó, quy tắc này cho phép các phiên bản trong cùng một nhóm giao tiếp với nhau. Điều quan trọng cần hiểu là SG là tường lửa xung quanh mỗi giao diện mạng, nó không giống như mạng con truyền thống nơi mọi thứ có thể giao tiếp theo mặc định.
ndtreviv avatar
lá cờ in
@Tim Tôi đã cung cấp chi tiết bạn yêu cầu.
Tim avatar
lá cờ gp
Tim
Thêm một quy tắc bảo mật gửi đi cho cùng một SG. Việc cho phép 0.0.0.0/0 khác với việc cho phép truy cập vào một nhóm bảo mật cụ thể. Không chắc chắn 100% đây là giải pháp, nhưng bạn chưa cung cấp đủ thông tin để tôi chắc chắn. Ngoài ra, khi chụp ảnh màn hình SG, bạn nên bao gồm phần trên cùng hiển thị ID SG. SG đầu tiên của bạn bao gồm tất cả lưu lượng truy cập, những thứ khác là dư thừa.
ndtreviv avatar
lá cờ in
Tôi đã thêm một quy tắc gửi đi cho cùng một SG cho phép tất cả lưu lượng truy cập. Không hề thay đổi. Tôi có thể ping phiên bản ECS từ phiên bản EC2 và ngược lại. Tôi đánh giá cao sự giúp đỡ của bạn và tôi đã cung cấp cho bạn mọi thứ bạn yêu cầu cho đến nay. Nếu bạn vẫn cần thêm thông tin, tôi rất sẵn lòng đưa nó vào đó.
Điểm:1
lá cờ in

Hôm nay tôi phát hiện ra lý do tại sao điều này không hoạt động.

Trình quản lý công việc đã được định cấu hình với:

jobmanager.rpc.address: localhost

và vì vậy, trong khi nghe trên cổng rpc bên phải, không chấp nhận lưu lượng truy cập đến bất kỳ địa chỉ nào khác.

Khi tôi thay đổi nó để phù hợp với trình quản lý tác vụ:

jobmanager.rpc.address: ip-xxx-xx-x-xxx.ec2.internal

sau đó trình quản lý tác vụ được kết nối ngay lập tức.

Đăng câu trả lời

Hầu hết mọi người không hiểu rằng việc đặt nhiều câu hỏi sẽ mở ra cơ hội học hỏi và cải thiện mối quan hệ giữa các cá nhân. Ví dụ, trong các nghiên cứu của Alison, mặc dù mọi người có thể nhớ chính xác có bao nhiêu câu hỏi đã được đặt ra trong các cuộc trò chuyện của họ, nhưng họ không trực giác nhận ra mối liên hệ giữa câu hỏi và sự yêu thích. Qua bốn nghiên cứu, trong đó những người tham gia tự tham gia vào các cuộc trò chuyện hoặc đọc bản ghi lại các cuộc trò chuyện của người khác, mọi người có xu hướng không nhận ra rằng việc đặt câu hỏi sẽ ảnh hưởng—hoặc đã ảnh hưởng—mức độ thân thiện giữa những người đối thoại.