ترجمه فارسی مقاله کاهش حملات درب پشتی در یادگیری فدرال از طریق به‌روزرسانی‌های وزنی نورون‌های ورودی کم فعال

چکیده

Federated learning enables multiple clients to collaboratively train machine learning models under the overall planning of the server while adhering to privacy requirements. However, the server cannot directly oversee the local training process, creating an opportunity for malicious clients to introduce backdoors. Existing research shows that backdoor attacks activate specific neurons in the compromised model, which remain dormant when processing clean data. Leveraging this insight, we propose a method called Flipping Weight Updates of Low-Activation Input Neurons (FLAIN) to defend against backdoor attacks in federated learning. Specifically, after completing global training, we employ an auxiliary dataset to identify low-activation input neurons and flip the associated weight updates. We incrementally raise the threshold for low-activation inputs and flip the weight updates iteratively, until the performance degradation on the auxiliary data becomes unacceptable. Extensive experiments validate that our method can effectively reduce the success rate of backdoor attacks to a low level in various attack scenarios including those with non-IID data distribution or high MCRs, causing only minimal performance degradation on clean data.

چکیده به فارسی (ترجمه ماشینی)

یادگیری فدرال ، چندین مشتری را قادر می سازد تا ضمن رعایت الزامات حریم خصوصی ، مدل های یادگیری ماشین را تحت برنامه ریزی کلی سرور آموزش دهند.با این حال ، سرور نمی تواند مستقیماً بر روند آموزش محلی نظارت داشته باشد و فرصتی برای مشتریان مخرب برای معرفی پشتوانه ها ایجاد می کند.تحقیقات موجود نشان می دهد که حملات پشتی نورون های خاص را در مدل به خطر افتاده فعال می کند ، که هنگام پردازش داده های پاک خفته باقی می مانند.با استفاده از این بینش ، ما روشی را به نام به روزرسانی های وزن نورونهای ورودی کم فعال (FLAIN) برای دفاع در برابر حملات پشتی در یادگیری فدرال پیشنهاد می کنیم.به طور خاص ، پس از اتمام آموزش جهانی ، ما از یک مجموعه داده کمکی برای شناسایی نورون های ورودی کم فعال استفاده می کنیم و به روزرسانی های وزن مرتبط را می چرخانیم.ما به تدریج آستانه ورودی های کم فعال سازی را بالا می بریم و به روزرسانی های وزن را به طور تکراری می چرخانیم ، تا زمانی که تخریب عملکرد در داده های کمکی غیرقابل قبول شود.آزمایش های گسترده اعتبار می دهد که روش ما می تواند به طور مؤثر میزان موفقیت حملات پشتی را به سطح پایین در سناریوهای مختلف حمله از جمله مواردی که دارای توزیع داده های غیر IID یا MCR های بالا هستند ، کاهش دهد و باعث می شود تنها حداقل تخریب عملکرد در داده های پاک ایجاد شود.