مقاله راه حل الگوریتمی حفظ حریم خصوصی

چکیده

When individuals are subject to adverse outcomes from machine learning models, providing a recourse path to help achieve a positive outcome is desirable. Recent work has shown that counterfactual explanations – which can be used as a means of single-step recourse – are vulnerable to privacy issues, putting an individuals’ privacy at risk. Providing a sequential multi-step path for recourse can amplify this risk. Furthermore, simply adding noise to recourse paths found from existing methods can impact the realism and actionability of the path for an end-user. In this work, we address privacy issues when generating realistic recourse paths based on instance-based counterfactual explanations, and provide PrivRecourse: an end-to-end privacy preserving pipeline that can provide realistic recourse paths. PrivRecourse uses differentially private (DP) clustering to represent non-overlapping subsets of the private dataset. These DP cluster centers are then used to generate recourse paths by forming a graph with cluster centers as the nodes, so that we can generate realistic – feasible and actionable – recourse paths. We empirically evaluate our approach on finance datasets and compare it to simply adding noise to data instances, and to using DP synthetic data, to generate the graph. We observe that PrivRecourse can provide paths that are private and realistic.

چکیده به فارسی (ترجمه ماشینی)

هنگامی که افراد در معرض پیامدهای نامطلوب از مدل های یادگیری ماشین هستند ، ارائه یک مسیر مراجعه به یک نتیجه مثبت مطلوب است.کار اخیر نشان داده است که توضیحات ضد خلاف – که می تواند به عنوان ابزاری برای مراجعه به تک مرحله ای استفاده شود – در برابر مسائل مربوط به حریم خصوصی آسیب پذیر هستند و باعث می شوند حریم خصوصی افراد در معرض خطر قرار بگیرند.ارائه یک مسیر چند مرحله ای متوالی برای مراجعه می تواند این خطر را تقویت کند.علاوه بر این ، صرفاً اضافه کردن سر و صدا به مسیرهای مراجعه کننده از روشهای موجود می تواند بر واقع گرایی و عملی بودن مسیر برای یک کاربر نهایی تأثیر بگذارد.در این کار ، ما هنگام تولید مسیرهای واقعی مراجعه به موارد مبتنی بر نمونه ، به مسائل مربوط به حریم خصوصی می پردازیم و دوره ای را ارائه می دهیم: یک خط لوله حفظ حریم خصوصی پایان به پایان می رسد که می تواند مسیرهای مراجعه واقعی را فراهم کند.Privrecourse از خوشه بندی های مختلف خصوصی (DP) برای نشان دادن زیر مجموعه های غیر همپوشانی از مجموعه داده های خصوصی استفاده می کند.این مراکز خوشه DP سپس با تشکیل نمودار با مراکز خوشه ای به عنوان گره ها ، برای ایجاد مسیرهای مراجعه کننده استفاده می شود تا بتوانیم مسیرهای واقع گرایانه – امکان پذیر و عملی – را ایجاد کنیم.ما به صورت تجربی رویکرد خود را در مجموعه داده های مالی ارزیابی می کنیم و آن را با اضافه کردن سر و صدا به نمونه های داده و استفاده از داده های مصنوعی DP برای تولید نمودار مقایسه می کنیم.ما مشاهده می کنیم که دوره خصوصی می تواند مسیرهایی را فراهم کند که خصوصی و واقع بینانه باشند.