Machine Learning,Distributed, Parallel, and Cluster Computing,یادگیری ماشین , توزیع , موازی و محاسبات خوشه ای ,
توضیحات
Submitted 2 September, 2024; originally announced September 2024. , Comments: A preliminary version of this work was presented at the Federated Learning Systems (FLSys) Workshop @ Sixth Conference on Machine Learning and Systems, June 2023
توضیحات به فارسی
ارسال شده در 2 سپتامبر 2024 ؛در ابتدا در سپتامبر 2024 اعلام شد. ، نظرات: نسخه اولیه این اثر در کارگاه فدراسیون Systems Systems (FLSYS) @ ششم کنفرانس یادگیری و سیستم های ماشین ، ژوئن 2023 ارائه شده است
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
چکیده
Continual Federated Learning (CFL) is essential for enabling real-world applications where multiple decentralized clients adaptively learn from continuous data streams. A significant challenge in CFL is mitigating catastrophic forgetting, where models lose previously acquired knowledge when learning new information. Existing approaches often face difficulties due to the constraints of device storage capacities and the heterogeneous nature of data distributions among clients. While some CFL algorithms have addressed these challenges, they frequently rely on unrealistic assumptions about the availability of task boundaries (i.e., knowing when new tasks begin). To address these limitations, we introduce Fed-A-GEM, a federated adaptation of the A-GEM method (Chaudhry et al., 2019), which employs a buffer-based gradient projection approach. Fed-A-GEM alleviates catastrophic forgetting by leveraging local buffer samples and aggregated buffer gradients, thus preserving knowledge across multiple clients. Our method is combined with existing CFL techniques, enhancing their performance in the CFL context. Our experiments on standard benchmarks show consistent performance improvements across diverse scenarios. For example, in a task-incremental learning scenario using the CIFAR-100 dataset, our method can increase the accuracy by up to 27%. Our code is available at https://github.com/shenghongdai/Fed-A-GEM.
چکیده به فارسی (ترجمه ماشینی)
یادگیری مداوم فدرال (CFL) برای فعال کردن برنامه های دنیای واقعی که در آن چندین مشتری غیرمتمرکز به طور تطبیقی از جریان داده های مداوم یاد می گیرند ، ضروری است.یک چالش مهم در CFL کاهش فراموشی فاجعه بار است ، جایی که مدل ها هنگام یادگیری اطلاعات جدید دانش قبلی را از دست می دهند.رویکردهای موجود اغلب به دلیل محدودیت ظرفیت های ذخیره سازی دستگاه و ماهیت ناهمگن توزیع داده ها در بین مشتری ها با مشکل روبرو می شوند.در حالی که برخی از الگوریتم های CFL به این چالش ها پرداخته اند ، آنها غالباً به فرضیات غیرواقعی در مورد در دسترس بودن مرزهای کار متکی هستند (یعنی دانستن اینکه از زمان شروع کارهای جدید شروع می شود).برای پرداختن به این محدودیت ها ، ما FED-A-GEM را معرفی می کنیم ، یک اقتباس فدرال از روش A-GEM (Chaudhry et al. ، 2019) ، که از یک رویکرد پیش بینی گرادیان مبتنی بر بافر استفاده می کند.Fed-A-Gem با استفاده از نمونه های بافر محلی و شیب بافر جمع شده ، فراموشی فاجعه بار را کاهش می دهد ، بنابراین دانش را در چندین مشتری حفظ می کند.روش ما با تکنیک های CFL موجود ترکیب شده و عملکرد آنها را در زمینه CFL تقویت می کند.آزمایشات ما در معیارهای استاندارد بهبود عملکرد مداوم در سناریوهای متنوع را نشان می دهد.به عنوان مثال ، در یک سناریوی یادگیری کار با استفاده از مجموعه داده CIFAR-100 ، روش ما می تواند دقت را تا 27 ٪ افزایش دهد.کد ما در https://github.com/shenghongdai/fed-a-gem در دسترس است.
📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
