کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
چکیده
With increasing concerns and regulations on data privacy, fine-tuning pretrained language models (PLMs) in federated learning (FL) has become a common paradigm for NLP tasks. Despite being extensively studied, the existing methods for this problem still face two primary challenges. First, the huge number of parameters in large-scale PLMs leads to excessive communication and computational overhead. Second, the heterogeneity of data and tasks across clients poses a significant obstacle to achieving the desired fine-tuning performance. To address the above problems, we propose FedMCP, a novel parameter-efficient fine-tuning method with model-contrastive personalization for FL. Specifically, FedMCP adds two lightweight adapter modules, i.e., the global adapter and the private adapter, to the frozen PLMs within clients. In a communication round, each client sends only the global adapter to the server for federated aggregation. Furthermore, FedMCP introduces a model-contrastive regularization term between the two adapters. This, on the one hand, encourages the global adapter to assimilate universal knowledge and, on the other hand, the private adapter to capture client-specific knowledge. By leveraging both adapters, FedMCP can effectively provide fine-tuned personalized models tailored to individual clients. Extensive experiments on highly heterogeneous cross-task, cross-silo datasets show that FedMCP achieves substantial performance improvements over state-of-the-art FL fine-tuning approaches for PLMs.
چکیده به فارسی (ترجمه ماشینی)
با افزایش نگرانی ها و مقررات مربوط به حریم خصوصی داده ها ، مدل های زبان قبل از تنظیم دقیق (PLM) در یادگیری فدرال (FL) به یک الگوی مشترک برای کارهای NLP تبدیل شده است.علیرغم مطالعه گسترده ، روشهای موجود برای این مشکل هنوز با دو چالش اصلی روبرو هستند.اول ، تعداد زیادی از پارامترها در PLM در مقیاس بزرگ منجر به برقراری ارتباط بیش از حد و سربار محاسباتی می شود.دوم ، ناهمگونی داده ها و وظایف در بین مشتری ها مانع مهمی برای دستیابی به عملکرد تنظیم دقیق مورد نظر است.برای پرداختن به مشکلات فوق ، ما FEDMCP را پیشنهاد می کنیم ، یک روش تنظیم دقیق پارامتر با کارآمد با شخصی سازی مدل-کنتراست برای FL.به طور خاص ، FEDMCP دو ماژول آداپتور سبک ، یعنی آداپتور جهانی و آداپتور خصوصی را به PLM های یخ زده در مشتری اضافه می کند.در یک دور ارتباطی ، هر مشتری فقط آداپتور جهانی را برای جمع آوری فدرال به سرور می فرستد.علاوه بر این ، FEDMCP یک اصطلاح تنظیم مدل کنتراستیک بین دو آداپتور را معرفی می کند.این ، از یک سو ، آداپتور جهانی را ترغیب می کند تا دانش جهانی را جذب کند و از طرف دیگر آداپتور خصوصی برای گرفتن دانش خاص مشتری.با استفاده از هر دو آداپتور ، FEDMCP می تواند به طور موثری مدل های شخصی تنظیم شده و متناسب با مشتری های خاص را ارائه دهد.آزمایش های گسترده ای در مورد داده های متقاطع بسیار ناهمگن ، Cross-Silo نشان می دهد که FEDMCP به پیشرفت های قابل توجهی در مورد رویکردهای مرتب تنظیم دقیق FL برای PLM دست می یابد.
📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
