Điểm:1

Quyền riêng tư khác biệt: Cơ chế Gaussian khi $\epsilon >1$, Cơ chế Laplace khi $\epsilon = 0$

lá cờ cn

Trong các tài nguyên về Quyền riêng tư khác biệt, các trường hợp giới hạn của $\epsilon, \delta$ không được biện minh đủ tốt.

Ví dụ, trên Wikipedia, người ta nói rằng cơ chế Gaussian chỉ hoạt động khi $\epsilon < 1$. Tuy nhiên, bất kỳ cơ chế Gaussian nào thỏa mãn, ví dụ: $(0,1, \delta)$-sự riêng tư khác biệt, đã thỏa mãn $(1, \delta)$-sự riêng tư khác biệt, hoặc $(5^{100}, \delta)$-sự riêng tư khác biệt, tôi có đúng không?

Tương tự, trong một số tài nguyên, định nghĩa của DP là dành cho $\epsilon \geq 0 $, nhưng sau đó người ta khẳng định rằng cơ chế Laplace đạt được $(\epsilon, 0)$-sự riêng tư khác biệt cho bất kỳ $\epsilon$. Tuy nhiên, những gì về $\epsilon = 0$? Phân phối Laplace với mật độ $\propto 1/\epsilon$ không được xác định trong trường hợp này. chúng ta thậm chí có bất kỳ phụ gia cơ chế đáp ứng $(0,0)$-sự riêng tư khác biệt?

Chỉnh sửa: Sự hiểu biết của tôi là như sau. Không có cơ chế tiếng ồn phụ gia nào có thể đạt được DP với $\epsilon = 0 , \delta = 0$. Điều này đơn giản là không thể vì chúng ta cộng một số tiếng ồn (tất nhiên, giả sử độ nhạy không $0$ trong trường hợp đó, chúng tôi thậm chí không cần thêm tiếng ồn). Hơn nữa, cơ chế Laplace đạt được DP với $\epsilon>0,\delta = 0$, nghĩa là bất kỳ $\epsilon>0,\delta \geq 0$ Sẽ có thể. Mặt khác, cơ chế Gaussian yêu cầu $\epsilon, \delta > 0$, vì vậy điều này không tổng quát hóa bất cứ điều gì trong trường hợp Laplace về tính khả thi (nghĩa là điều gì có thể đạt được, điều gì không thể đạt được). Vì vậy, tôi nghĩ rằng sự mơ hồ duy nhất là như sau: Chúng ta có cơ chế phụ gia nào đạt được DP với $\epsilon = 0$ và bất kỳ $\delta > 0$?

Điểm:2
lá cờ ru

Trong trường hợp cơ chế Gaussian, điều quan trọng là phải phân biệt việc sử dụng $\epsilon$ để tham số hóa phân phối Gaussian và việc sử dụng nó để định lượng mức độ riêng tư khác biệt. Bất cứ gì $0<\epsilon<1$$0<\delta<1$ chúng ta có thể xây dựng cơ chế bổ sung tiếng ồn được phân phối $$\mathcal N(0,2\log(5/4\delta)(\Delta f)^2/\epsilon^2)$$ và sau đó chúng tôi có một đảm bảo thống kê rằng điều này cung cấp $(\epsilon,\delta)$-sự riêng tư khác biệt và thực sự $(\epsilon',\delta')$-sự riêng tư khác biệt cho bất kỳ $\epsilon'\ge\epsilon$$\delta'\ge\delta$. Tuy nhiên, nếu (ví dụ) chúng ta lấy, giả sử, $\epsilon=2$$\delta=1/2$ mặc dù chúng ta vẫn có thể xây dựng một hàm nhiễu $$\mathcal N(0,2\log(5/2)(\Delta f)^2/4),$$ chúng ta không thể sử dụng định lý để nói rằng chúng ta có $(2,0.5)$-bảo mật khác biệt. Wikipedia đang cố gắng thể hiện những hạn chế của những gì có thể chứng minh được bằng cách sử dụng cấu trúc Gauss hơn là giới hạn phạm vi ý nghĩa của quyền riêng tư khác biệt.

Tương tự, trong trường hợp Lagrange, việc xây dựng không được xác định cho $\epsilon=0$ và vì vậy không thể được sử dụng với tham số này. Một lần nữa, đây là một hạn chế đối với cấu trúc Lagrange chứ không phải là giới hạn phạm vi ý nghĩa của quyền riêng tư khác biệt.

xét về $(0,0)$-sự riêng tư khác biệt, điều này có nghĩa là thuật toán của chúng tôi $\mathcal A$ tạo ra các kết quả đầu ra được phân phối giống hệt nhau cho tất cả các bộ dữ liệu. Điều này có nghĩa rằng $\mathcal A$ độc lập với tập dữ liệu và không thể được lập mô hình bằng cách thêm nhiễu vào thuật toán phụ thuộc vào tập dữ liệu.

independentvariable avatar
lá cờ cn
Cảm ơn câu trả lời tuyệt vời của bạn! Nhìn chung, chúng ta có cơ chế nào hoạt động với $\epsilon = 0$ và $\delta > 0$ không? Hay nó hoàn toàn phụ thuộc vào cấu trúc của tập dữ liệu?
Daniel S avatar
lá cờ ru
Chúng ta đang đi đến giới hạn hiểu biết của tôi ở đây. Rõ ràng, bất kỳ cơ chế nào cũng cung cấp $(0,1)$-sự riêng tư khác biệt. Đối với các giá trị trung gian của $\delta$, tôi nghi ngờ (nhưng không biết) rằng điều này sẽ phụ thuộc rất nhiều vào $\mathcal A$ và các tương tác của nó với các bộ dữ liệu.
independentvariable avatar
lá cờ cn
chính xác đó cũng là trực giác của tôi, cảm ơn rất nhiều!

Đăng câu trả lời

Hầu hết mọi người không hiểu rằng việc đặt nhiều câu hỏi sẽ mở ra cơ hội học hỏi và cải thiện mối quan hệ giữa các cá nhân. Ví dụ, trong các nghiên cứu của Alison, mặc dù mọi người có thể nhớ chính xác có bao nhiêu câu hỏi đã được đặt ra trong các cuộc trò chuyện của họ, nhưng họ không trực giác nhận ra mối liên hệ giữa câu hỏi và sự yêu thích. Qua bốn nghiên cứu, trong đó những người tham gia tự tham gia vào các cuộc trò chuyện hoặc đọc bản ghi lại các cuộc trò chuyện của người khác, mọi người có xu hướng không nhận ra rằng việc đặt câu hỏi sẽ ảnh hưởng—hoặc đã ảnh hưởng—mức độ thân thiện giữa những người đối thoại.