ترجمه فارسی مقاله قدرت سوگیری: بهینه سازی انتخاب مشتری در یادگیری فدرال با حریم خصوصی متفاوت ناهمگن

چکیده

To preserve the data privacy, the federated learning (FL) paradigm emerges in which clients only expose model gradients rather than original data for conducting model training. To enhance the protection of model gradients in FL, differentially private federated learning (DPFL) is proposed which incorporates differentially private (DP) noises to obfuscate gradients before they are exposed. Yet, an essential but largely overlooked problem in DPFL is the heterogeneity of clients’ privacy requirement, which can vary significantly between clients and extremely complicates the client selection problem in DPFL. In other words, both the data quality and the influence of DP noises should be taken into account when selecting clients. To address this problem, we conduct convergence analysis of DPFL under heterogeneous privacy, a generic client selection strategy, popular DP mechanisms and convex loss. Based on convergence analysis, we formulate the client selection problem to minimize the value of loss function in DPFL with heterogeneous privacy, which is a convex optimization problem and can be solved efficiently. Accordingly, we propose the DPFL-BCS (biased client selection) algorithm. The extensive experiment results with real datasets under both convex and non-convex loss functions indicate that DPFL-BCS can remarkably improve model utility compared with the SOTA baselines.

چکیده به فارسی (ترجمه ماشینی)

برای حفظ حریم خصوصی داده ها ، الگوی یادگیری فدرال (FL) در آن ظهور می کند که در آن مشتریان فقط شیب مدل را به جای داده های اصلی برای انجام آموزش مدل در معرض نمایش قرار می دهند.برای تقویت محافظت از شیب های مدل در FL ، یادگیری فدراسیون خصوصی متفاوت (DPFL) پیشنهاد شده است که شامل صداهای مختلف خصوصی (DP) برای شیب های دوری قبل از قرار گرفتن در معرض آن است.با این حال ، یک مشکل اساسی اما کاملاً نادیده گرفته شده در DPFL ، ناهمگونی نیاز به حریم خصوصی مشتری است که می تواند بین مشتری ها به طور قابل توجهی متفاوت باشد و مشکل انتخاب مشتری را در DPFL بسیار پیچیده می کند.به عبارت دیگر ، هم کیفیت داده ها و هم در هنگام انتخاب مشتری باید در نظر گرفته شود.برای پرداختن به این مشکل ، ما تجزیه و تحلیل همگرایی DPFL را تحت حریم خصوصی ناهمگن ، یک استراتژی انتخاب مشتری عمومی ، مکانیسم های محبوب DP و از دست دادن محدب انجام می دهیم.بر اساس تجزیه و تحلیل همگرایی ، ما مشکل انتخاب مشتری را تدوین می کنیم تا ارزش عملکرد از دست دادن در DPFL را با حریم خصوصی ناهمگن به حداقل برسانیم ، که یک مشکل بهینه سازی محدب است و می تواند به طور مؤثر حل شود.بر این اساس ، ما الگوریتم DPFL-BCS (انتخاب مشتری مغرضانه) را پیشنهاد می کنیم.نتایج آزمایش گسترده با مجموعه داده های واقعی تحت هر دو توابع از دست دادن محدب و غیر CONVEX نشان می دهد که DPFL-BCS می تواند به طور چشمگیری ابزار مدل را در مقایسه با پایه های SOTA بهبود بخشد.