Điểm:2

Phương pháp để chọn độ dài bit ký hiệu và kích thước cửa sổ khi thực hiện Phân tích Entropy Shannon là gì?

lá cờ cn

Khi thực hiện phân tích Shannon Entropy trên thứ gì đó như RNG hoặc tệp, bạn phải:

  1. Chọn độ dài bit ký hiệu và số lượng mẫu sẽ thực hiện phân tích tại một thời điểm (IE: kích thước cửa sổ)
  2. Đọc đầu vào cho đến khi cửa sổ đầy
  3. Thực hiện biểu đồ trên các biểu tượng đã thu thập
  4. Lấy đầu ra biểu đồ và tính Shannon Entropy
  5. Lặp lại bước 2 bằng cách lấy các mẫu hoàn toàn mới hoặc trượt cửa sổ (Tức là: giữ một phần mẫu đã sử dụng)

Các công cụ như thùng rác thực hiện việc này một cách tự động và thực hiện khá tốt việc hiển thị các phần tệp bất thường; tuy nhiên, nó không hoàn toàn rõ ràng làm thế nào họ:

  • Chọn độ dài bit ký hiệu
  • Chọn kích thước cửa sổ
  • Nếu bất kỳ cửa sổ trượt nào được thực hiện

Có phương pháp nào để chọn các giá trị này trong ngữ cảnh của RNG và phân tích tệp không?

Điểm:1
lá cờ cn

Liam, những gì bạn đang hỏi vẫn là một câu hỏi mở. Không có phương pháp tiêu chuẩn hóa để tính toán entropy của một tập tin trong trường hợp chung. Ngay cả NIST cũng đã nói như vậy với các phép tính 800-90B không phải IID của họ. - Các câu hỏi sau đây là câu hỏi tu từ để minh họa vấn đề: -

  1. Độ dài bit ký hiệu là gì? Ai biết. Các tác phẩm của Shakespeare có ranh giới giữa dòng, hành động và đoạn văn. Chúng có được bao gồm trong cửa sổ của bạn không? Và họ sử dụng những từ kỳ lạ có thể được biểu thị bằng mã Huffman.

  2. Bạn có biểu đồ gì? Thực sự, chính xác những gì bạn sẽ biểu đồ?

  3. Những phát hiện trước đó được đánh giá như thế nào?

Vấn đề không phải là cửa sổ. Đó là vấn đề về thao tác và trọng số của cửa sổ đã nói.

Nhìn thấy https://en.wikipedia.org/wiki/Kolmogorov_complexity, http://www.reallyreallyrandom.com/photonic/technical/90b_latest/http://www.reallyreallyrandom.com/photonic/technical/algorithms/ và làm theo các liên kết.

Nói tóm lại, không có thứ gọi là phân tích Shannon Entropy trong trường hợp chung :-(

lá cờ cn
Chà, ít nhất cũng an ủi là tôi không bỏ sót điều gì hiển nhiên.
Paul Uszak avatar
lá cờ cn
@LiamKelly Chúa không. Bạn đang đẩy ranh giới về cách chúng tôi tính toán entropy của những thứ chung chung. Nếu bạn theo các liên kết, bạn sẽ nhận ra rằng nó khá phức tạp. Công thức Shannon do-da chỉ hoạt động hoặc các nguồn độc lập và giống hệt nhau.

Đăng câu trả lời

Hầu hết mọi người không hiểu rằng việc đặt nhiều câu hỏi sẽ mở ra cơ hội học hỏi và cải thiện mối quan hệ giữa các cá nhân. Ví dụ, trong các nghiên cứu của Alison, mặc dù mọi người có thể nhớ chính xác có bao nhiêu câu hỏi đã được đặt ra trong các cuộc trò chuyện của họ, nhưng họ không trực giác nhận ra mối liên hệ giữa câu hỏi và sự yêu thích. Qua bốn nghiên cứu, trong đó những người tham gia tự tham gia vào các cuộc trò chuyện hoặc đọc bản ghi lại các cuộc trò chuyện của người khác, mọi người có xu hướng không nhận ra rằng việc đặt câu hỏi sẽ ảnh hưởng—hoặc đã ảnh hưởng—mức độ thân thiện giữa những người đối thoại.