ترجمه فارسی مقاله هرس مدل مشترک و تخصیص منابع برای یادگیری فدرال مبتنی بر زمان بی‌سیم

چکیده

Time-triggered federated learning, in contrast to conventional event-based federated learning, organizes users into tiers based on fixed time intervals. However, this network still faces challenges due to a growing number of devices and limited wireless bandwidth, increasing issues like stragglers and communication overhead. In this paper, we apply model pruning to wireless Time-triggered systems and jointly study the problem of optimizing the pruning ratio and bandwidth allocation to minimize training loss under communication latency constraints. To solve this joint optimization problem, we perform a convergence analysis on the gradient $l_2$-norm of the asynchronous multi-tier federated learning (FL) model with adaptive model pruning. The convergence upper bound is derived and a joint optimization problem of pruning ratio and wireless bandwidth is defined to minimize the model training loss under a given communication latency constraint. The closed-form solutions for wireless bandwidth and pruning ratio by using KKT conditions are then formulated. As indicated in the simulation experiments, our proposed TT-Prune demonstrates a 40% reduction in communication cost, compared with the asynchronous multi-tier FL without model pruning, while maintaining the model convergence at the same level.

چکیده به فارسی (ترجمه ماشینی)

یادگیری فدرالژنده زمان محرک ، بر خلاف یادگیری فدرال فدرال مبتنی بر رویداد معمولی ، بر اساس فواصل زمانی ثابت ، کاربران را در ردیف ها سازماندهی می کند.با این حال ، این شبکه به دلیل تعداد فزاینده ای از دستگاه ها و پهنای باند بی سیم محدود ، هنوز هم با چالش هایی روبرو است ، و مسائلی مانند Stragglers و ارتباطات را افزایش می دهد.در این مقاله ، ما هرس مدل را به سیستم های تحریک شده با زمان بی سیم اعمال می کنیم و به طور مشترک مشکل بهینه سازی نسبت هرس و تخصیص پهنای باند را بررسی می کنیم تا از دست دادن آموزش تحت محدودیت های تأخیر ارتباطی به حداقل برسد.برای حل این مشکل بهینه سازی مشترک ، ما یک تجزیه و تحلیل همگرایی را بر روی گرادیان $ L_2 $-norm از مدل یادگیری چند لایه ناهمزمان (FL) با هرس مدل تطبیقی ​​انجام می دهیم.مرز بالایی همگرایی مشتق شده است و یک مشکل بهینه سازی مشترک نسبت هرس و پهنای باند بی سیم برای به حداقل رساندن از دست دادن آموزش مدل تحت یک محدودیت تأخیر ارتباطی مشخص تعریف شده است.راه حل های بسته برای پهنای باند بی سیم و نسبت هرس با استفاده از شرایط KKT تدوین می شود.همانطور که در آزمایش های شبیه سازی نشان داده شده است ، TT-RUNE پیشنهادی ما کاهش 40 ٪ در هزینه ارتباطی را نشان می دهد ، در مقایسه با FL چند لایه ناهمزمان بدون هرس مدل ، ضمن حفظ همگرایی مدل در همان سطح.