ترجمه فارسی مقاله آموزش توزیع شده بیزانسی قوی و کارآمد از طریق فیلتر مومنتوم فشرده

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی Byzantine-Robust and Communication-Efficient Distributed Learning via Compressed Momentum Filtering
عنوان مقاله به فارسی آموزش توزیع شده بیزانسی قوی و کارآمد از طریق فیلتر مومنتوم فشرده
نویسندگان Changxin Liu, Yanghao Li, Yuhao Yi, Karl H. Johansson
فرمت مقاله انگلیسی PDF
تعداد صفحات 12
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,Distributed, Parallel, and Cluster Computing,یادگیری ماشین , توزیع , موازی و محاسبات خوشه ای ,
توضیحات Submitted 13 September, 2024; originally announced September 2024. , Comments: 12 pages, 2 figures
توضیحات به فارسی ارسال شده 13 سپتامبر 2024 ؛در ابتدا سپتامبر 2024 اعلام شد ، نظرات: 12 صفحه ، 2 شکل
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Distributed learning has become the standard approach for training large-scale machine learning models across private data silos. While distributed learning enhances privacy preservation and training efficiency, it faces critical challenges related to Byzantine robustness and communication reduction. Existing Byzantine-robust and communication-efficient methods rely on full gradient information either at every iteration or at certain iterations with a probability, and they only converge to an unnecessarily large neighborhood around the solution. Motivated by these issues, we propose a novel Byzantine-robust and communication-efficient stochastic distributed learning method that imposes no requirements on batch size and converges to a smaller neighborhood around the optimal solution than all existing methods, aligning with the theoretical lower bound. Our key innovation is leveraging Polyak Momentum to mitigate the noise caused by both biased compressors and stochastic gradients, thus defending against Byzantine workers under information compression. We provide proof of tight complexity bounds for our algorithm in the context of non-convex smooth loss functions, demonstrating that these bounds match the lower bounds in Byzantine-free scenarios. Finally, we validate the practical significance of our algorithm through an extensive series of experiments, benchmarking its performance on both binary classification and image classification tasks.

چکیده به فارسی (ترجمه ماشینی)

یادگیری توزیع شده به رویکرد استاندارد برای آموزش مدل های یادگیری ماشین در مقیاس بزرگ در سیلوهای داده خصوصی تبدیل شده است.در حالی که یادگیری توزیع شده باعث افزایش حفظ حریم خصوصی و راندمان آموزش می شود ، با چالش های اساسی در رابطه با استحکام بیزانس و کاهش ارتباطات روبرو است.روشهای موجود در بیزانس-روبست و ارتباط با ارتباطات به اطلاعات شیب کامل یا در هر تکرار و یا در تکرارهای خاص با احتمال متکی هستند و آنها فقط به یک محله غیر ضروری بزرگ در اطراف راه حل همگرا می شوند.با انگیزه در مورد این موضوعات ، ما یک روش یادگیری توزیع شده تصادفی بیزانس-روبست و ارتباط با ارتباطات را پیشنهاد می کنیم که هیچ الزامی را به اندازه دسته ای تحمیل نمی کند و به یک محله کوچکتر در اطراف محلول بهینه نسبت به همه روشهای موجود همگرا می شود و با مرز پایین نظری هماهنگ می شود.نوآوری کلیدی ما در حال افزایش حرکت Polyak برای کاهش سر و صدای ناشی از کمپرسورهای مغرضانه و شیب های تصادفی است ، بنابراین در برابر کارگران بیزانس تحت فشرده سازی اطلاعات دفاع می کند.ما اثبات مرزهای پیچیدگی محکم را برای الگوریتم خود در زمینه توابع از دست دادن صاف غیر کنسوکس ارائه می دهیم ، نشان می دهد که این مرزها با مرزهای پایین در سناریوهای بدون بیزانس مطابقت دارند.سرانجام ، ما اهمیت عملی الگوریتم خود را از طریق یک سری گسترده از آزمایشات تأیید می کنیم ، و عملکرد آن را در هر دو طبقه بندی باینری و طبقه بندی تصویر معیار می کنیم.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.