Điểm:1

Nén các tệp đầu vào từ rsync trước khi ghi vào đĩa

lá cờ vn

Tôi cần tải các tệp văn bản lớn từ một máy khác thông qua liên kết 10Gb, các tệp được tạo bởi phần mềm bên ngoài/nguồn đóng mà tôi không có quyền truy cập để thay đổi (ví dụ: để nén các tệp đầu ra)

Hiện tại, việc sử dụng mạng và đĩa IO là 100% trên các máy này (máy nguồn và máy đích) nên hệ thống bị tắc nghẽn.

Nếu máy nguồn có thể nén các tệp văn bản ngay từ đầu thì sẽ không có vấn đề gì cả, nhưng tôi không có quyền truy cập vào máy nguồn (các tệp được rsync-ed tới máy đích mà tôi có quyền truy cập)

Có điều gì ở máy đích mà tôi có thể làm để ít nhất giảm áp lực lên đĩa của máy đích không.

Tôi nảy ra một ý tưởng nực cười, đó là: để có một ổ đĩa ánh xạ bộ nhớ tạm thời với vài GB, hãy gắn nó làm thư mục đầu vào của rsync từ máy nguồn, sau đó viết chương trình để nén một vài tệp văn bản mỗi lần, ghi tệp đầu ra đã nén (kích thước nhỏ hơn 10 lần so với tệp gốc) vào ổ cứng và xóa các tệp gốc khỏi ổ đĩa được ánh xạ bộ nhớ.

Có một công cụ đã làm điều này?! Bất kỳ khuyến nghị khác?

Tôi đang sử dụng Ubuntu 18.04.

Trân trọng

lá cờ in
Đề xuất sản phẩm không đúng chủ đề, nhưng [fusecompress có vẻ hứa hẹn](https://www.systutorials.com/docs/linux/man/1-fusecompress/).
f.ald avatar
lá cờ vn
fusecompress trông giống như một dự án bị bỏ rơi (không được cập nhật trong một thời gian dài) và tôi không thể tìm ra cách cài đặt nó trên linux
Điểm:0
lá cờ cn
Bob

Có điều gì ở máy đích mà tôi có thể làm để ít nhất giảm áp lực lên đĩa của máy đích không.

Khi đĩa IO là nút cổ chai, tất nhiên giải pháp rõ ràng là "lấy đĩa nhanh hơn".

Ngoài ra, khi bạn có một số dung lượng CPU dự phòng: một số hệ thống tệp Linux hỗ trợ nén "trong suốt" trong đó trình điều khiển hệ thống tệp thực hiện nén nhanh trong khi ghi dữ liệu vào bộ lưu trữ khối bên dưới và giải nén khi dữ liệu được đọc lại. Sau đó, bạn không phải thay đổi bất cứ điều gì ở cấp ứng dụng.

f.ald avatar
lá cờ vn
Nếu chúng tôi gắn ổ đĩa ZFS qua NFS và truy cập các tệp từ xa, các tệp nén/nhỏ sẽ được truyền qua mạng và giải nén trên máy từ xa hoặc ngược lại?
djdomi avatar
lá cờ za
bạn csn sử dụng tar và xz trên nc hoặc ssh

Đăng câu trả lời

Hầu hết mọi người không hiểu rằng việc đặt nhiều câu hỏi sẽ mở ra cơ hội học hỏi và cải thiện mối quan hệ giữa các cá nhân. Ví dụ, trong các nghiên cứu của Alison, mặc dù mọi người có thể nhớ chính xác có bao nhiêu câu hỏi đã được đặt ra trong các cuộc trò chuyện của họ, nhưng họ không trực giác nhận ra mối liên hệ giữa câu hỏi và sự yêu thích. Qua bốn nghiên cứu, trong đó những người tham gia tự tham gia vào các cuộc trò chuyện hoặc đọc bản ghi lại các cuộc trò chuyện của người khác, mọi người có xu hướng không nhận ra rằng việc đặt câu hỏi sẽ ảnh hưởng—hoặc đã ảnh hưởng—mức độ thân thiện giữa những người đối thoại.