ترجمه فارسی مقاله یادگیری فدرال شخصی‌سازی‌شده روی داده‌های ناهمگن و دنباله‌دار از طریق یادگیری مشارکتی تخصصی

چکیده

Personalized Federated Learning (PFL) aims to acquire customized models for each client without disclosing raw data by leveraging the collective knowledge of distributed clients. However, the data collected in real-world scenarios is likely to follow a long-tailed distribution. For example, in the medical domain, it is more common for the number of general health notes to be much larger than those specifically relatedto certain diseases. The presence of long-tailed data can significantly degrade the performance of PFL models. Additionally, due to the diverse environments in which each client operates, data heterogeneity is also a classic challenge in federated learning. In this paper, we explore the joint problem of global long-tailed distribution and data heterogeneity in PFL and propose a method called Expert Collaborative Learning (ECL) to tackle this problem. Specifically, each client has multiple experts, and each expert has a different training subset, which ensures that each class, especially the minority classes, receives sufficient training. Multiple experts collaborate synergistically to produce the final prediction output. Without special bells and whistles, the vanilla ECL outperforms other state-of-the-art PFL methods on several benchmark datasets under different degrees of data heterogeneity and long-tailed distribution.

چکیده به فارسی (ترجمه ماشینی)

یادگیری فدراسیون شخصی (PFL) با هدف دستیابی به مدلهای سفارشی برای هر مشتری بدون افشای داده های خام با استفاده از دانش جمعی از مشتریان توزیع شده.با این حال ، داده های جمع آوری شده در سناریوهای دنیای واقعی احتمالاً از توزیع طولانی مدت پیروی می کنند.به عنوان مثال ، در حوزه پزشکی ، شایع تر از تعداد یادداشت های بهداشت عمومی بسیار بزرگتر از مواردی است که به طور خاص به بیماری های خاص مربوط می شود.حضور داده های دم بلند می تواند عملکرد مدل های PFL را به میزان قابل توجهی تخریب کند.علاوه بر این ، با توجه به محیط های متنوعی که هر مشتری در آن فعالیت می کند ، ناهمگونی داده ها نیز یک چالش کلاسیک در یادگیری فدرال است.در این مقاله ، ما به بررسی مشکل مشترک توزیع جهانی و ناهمگونی داده ها در PFL می پردازیم و روشی به نام Expert Learning Contractive (ECL) را برای مقابله با این مشکل پیشنهاد می کنیم.به طور خاص ، هر مشتری دارای چندین متخصص است و هر یک از متخصصان دارای یک زیر مجموعه آموزش متفاوتی هستند که تضمین می کند که هر کلاس ، به ویژه کلاس های اقلیت ، آموزش کافی را دریافت می کند.متخصصان متعدد برای تولید خروجی پیش بینی نهایی به طور هم افزایی همکاری می کنند.بدون زنگ و سوت های خاص ، وانیل ECL از سایر روشهای پیشرفته PFL در چندین مجموعه داده معیار تحت درجه های مختلف ناهمگونی داده و توزیع دم بلند استفاده می کند.