ترجمه فارسی مقاله تقطیر فراموش کردن امتیاز: روشی سریع و بدون داده برای یادگیری ماشینی در مدل‌های انتشار

چکیده

The machine learning community is increasingly recognizing the importance of fostering trust and safety in modern generative AI (GenAI) models. We posit machine unlearning (MU) as a crucial foundation for developing safe, secure, and trustworthy GenAI models. Traditional MU methods often rely on stringent assumptions and require access to real data. This paper introduces Score Forgetting Distillation (SFD), an innovative MU approach that promotes the forgetting of undesirable information in diffusion models by aligning the conditional scores of “unsafe” classes or concepts with those of “safe” ones. To eliminate the need for real data, our SFD framework incorporates a score-based MU loss into the score distillation objective of a pretrained diffusion model. This serves as a regularization term that preserves desired generation capabilities while enabling the production of synthetic data through a one-step generator. Our experiments on pretrained label-conditional and text-to-image diffusion models demonstrate that our method effectively accelerates the forgetting of target classes or concepts during generation, while preserving the quality of other classes or concepts. This unlearned and distilled diffusion not only pioneers a novel concept in MU but also accelerates the generation speed of diffusion models. Our experiments and studies on a range of diffusion models and datasets confirm that our approach is generalizable, effective, and advantageous for MU in diffusion models.

چکیده به فارسی (ترجمه ماشینی)

جامعه یادگیری ماشین به طور فزاینده ای اهمیت تقویت اعتماد و ایمنی در مدل های مدرن AI (Genai) را تشخیص می دهد.ما به عنوان یک پایه اساسی برای توسعه مدلهای Genai ایمن ، ایمن و قابل اعتماد ، به عنوان پایه و اساس اساسی برای ایجاد مدل های بی نظیر ، ایمن و قابل اعتماد استفاده می کنیم.روشهای سنتی MU اغلب به فرضیات سختگیرانه متکی هستند و نیاز به دسترسی به داده های واقعی دارند.در این مقاله ، نمره فراموشی تقطیر (SFD) ، یک رویکرد ابتکاری MU که باعث فراموشی اطلاعات نامطلوب در مدل های انتشار می شود با تراز کردن نمرات مشروط کلاس ها یا مفاهیم “ناامن” با موارد “ایمن”.برای از بین بردن نیاز به داده های واقعی ، چارچوب SFD ما یک ضرر MU مبتنی بر نمره را در هدف تقطیر نمره یک مدل انتشار پیشین قرار می دهد.این به عنوان یک اصطلاح منظم عمل می کند که در حالی که امکان تولید داده های مصنوعی را از طریق یک ژنراتور یک مرحله ای فراهم می کند ، قابلیت تولید مورد نظر را حفظ می کند.آزمایشات ما در مورد مدل های انتشار برچسب و متن به تصویر به تصویر نشان می دهد که روش ما به طور موثری فراموش کردن کلاس ها یا مفاهیم هدف در طول تولید را تسریع می کند ، ضمن حفظ کیفیت سایر کلاس ها یا مفاهیم.این انتشار ناآگاه و مقطر نه تنها پیشگام یک مفهوم جدید در MU است بلکه سرعت تولید مدل های انتشار را تسریع می کند.آزمایش ها و مطالعات ما در مورد طیف وسیعی از مدل ها و مجموعه داده های انتشار تأیید می کند که رویکرد ما قابل تعمیم ، مؤثر و سودمند برای MU در مدل های انتشار است.