ترجمه فارسی مقاله Rewind-to-Delete: آگاهی از دستگاه معتبر برای توابع غیرمحدب

چکیده

Machine unlearning algorithms aim to efficiently remove data from a model without retraining it from scratch, in order to enforce data privacy, remove corrupted or outdated data, or respect a user’s “right to be forgotten.” Certified machine unlearning is a strong theoretical guarantee that quantifies the extent to which data is erased from the model weights. Most prior works in certified unlearning focus on models trained on convex or strongly convex loss functions, which benefit from convenient convergence guarantees and the existence of global minima. For nonconvex objectives, existing algorithms rely on limiting assumptions and expensive computations that hinder practical implementations. In this work, we propose a simple first-order algorithm for unlearning on general nonconvex loss functions which unlearns by “rewinding” to an earlier step during the learning process and then performs gradient descent on the loss function of the retained data points. Our algorithm is black-box, in that it can be directly applied to models pretrained with vanilla gradient descent with no prior consideration of unlearning. We prove $(ε, δ)$ certified unlearning and performance guarantees that establish the privacy-utility-complexity tradeoff of our algorithm, with special consideration for nonconvex functions that satisfy the Polyak-Lojasiewicz inequality.

چکیده به فارسی (ترجمه ماشینی)

الگوریتم های موجود در مورد آرایشگاه هدف از بین بردن کارآمد داده ها از یک مدل بدون بازیابی آن از ابتدا ، به منظور اجرای حریم خصوصی داده ها ، حذف داده های فاسد یا منسوخ ، یا احترام به “حق فراموش شدن”.این میزان که داده ها را از وزن مدل در نظر گرفته می شود ، تعیین می کند.الگوریتم ها به محدود کردن فرضیات و محاسبات گران قیمت که مانع اجرای عملی می شود ، ما یک الگوریتم ساده مرتبه اول را برای ناآرامی در عملکردهای از دست دادن غیر کنفکس عمومی ارائه می دهیم که با استفاده از «عقب نشینی» به مرحله قبلی در طی فرایند یادگیری انجام می شود و سپس انجام می دهد.نزول شیب بر عملکرد از دست دادن نقاط داده حفظ شده.الگوریتم ما جعبه سیاه است ، به این ترتیب که می توان مستقیماً در مدل های پیش ساخته با نزول شیب وانیل و بدون توجه قبلی به آرایی استفاده کرد.ما ثابت می کنیم که $ (ε ، δ) $ تأیید نشده و عملکرد را تضمین می کنیم که تجارت حریم خصوصی و انعطاف پذیری الگوریتم ما را ایجاد می کند ، با توجه ویژه ای به توابع غیر کنفکس که نابرابری polyak-lojasiewicz را برآورده می کند.