ترجمه فارسی مقاله تأیید شکننده بودنِ فراموشی ماشین

چکیده

As privacy concerns escalate in the realm of machine learning, data owners now have the option to utilize machine unlearning to remove their data from machine learning models, following recent legislation. To enhance transparency in machine unlearning and avoid potential dishonesty by model providers, various verification strategies have been proposed. These strategies enable data owners to ascertain whether their target data has been effectively unlearned from the model. However, our understanding of the safety issues of machine unlearning verification remains nascent. In this paper, we explore the novel research question of whether model providers can circumvent verification strategies while retaining the information of data supposedly unlearned. Our investigation leads to a pessimistic answer: textit{the verification of machine unlearning is fragile}. Specifically, we categorize the current verification strategies regarding potential dishonesty among model providers into two types. Subsequently, we introduce two novel adversarial unlearning processes capable of circumventing both types. We validate the efficacy of our methods through theoretical analysis and empirical experiments using real-world datasets. This study highlights the vulnerabilities and limitations in machine unlearning verification, paving the way for further research into the safety of machine unlearning.

چکیده به فارسی (ترجمه ماشینی)

از آنجا که نگرانی های مربوط به حریم خصوصی در حوزه یادگیری ماشین تشدید می شود ، صاحبان داده ها اکنون این گزینه را دارند که به دنبال قوانین اخیر ، از آراء دستگاه استفاده کنند تا داده های خود را از مدل های یادگیری ماشین حذف کنند.برای تقویت شفافیت در آگاهی از دستگاه و جلوگیری از ناسازگاری احتمالی توسط ارائه دهندگان مدل ، استراتژی های مختلف تأیید ارائه شده است.این استراتژی ها صاحبان داده ها را قادر می سازد تا مشخص کنند که آیا داده های هدف آنها به طور مؤثر از مدل خارج شده است یا خیر.با این حال ، درک ما از موضوعات ایمنی تأیید عدم استفاده از دستگاه ، نوپا است.در این مقاله ، ما به سؤال جدید تحقیق می پردازیم که آیا ارائه دهندگان مدل می توانند ضمن حفظ اطلاعات داده ها که ظاهراً مورد بررسی قرار نمی گیرند ، استراتژی های تأیید را دور بزنند.تحقیقات ما منجر به پاسخ بدبینانه می شود: TEXTIT {تأیید عدم استفاده از دستگاه شکننده است.به طور خاص ، ما استراتژی های تأیید فعلی را در مورد ناهنجاری احتمالی در بین ارائه دهندگان مدل به دو نوع طبقه بندی می کنیم.پس از آن ، ما دو فرآیند ناآرام مخالف جدید را که قادر به دور زدن هر دو نوع هستند ، معرفی می کنیم.ما اثربخشی روشهای خود را از طریق تجزیه و تحلیل نظری و آزمایش های تجربی با استفاده از مجموعه داده های دنیای واقعی تأیید می کنیم.این مطالعه آسیب پذیری ها و محدودیت های موجود در تأیید عدم استفاده از دستگاه را برجسته می کند ، و راه را برای تحقیقات بیشتر در مورد ایمنی موجود در دستگاه آشکار می کند.