کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
چکیده
Recently, large language and vision models have shown strong performance, but due to high pre-training and fine-tuning costs, research has shifted towards faster training via dataset pruning. Previous methods used sample loss as an evaluation criterion, aiming to select the most "difficult" samples for training. However, when the pruning rate increases, the number of times each sample is trained becomes more evenly distributed, which causes many critical or general samples to not be effectively fitted. We refer to this as Low-Frequency Learning (LFL). In other words, LFL prevents the model from remembering most samples. In our work, we decompose the scoring function of LFL, provide a theoretical explanation for the inefficiency of LFL, and propose adding a memory term to the scoring function to enhance the model's memory capability, along with an approximation of this memory term. Similarly, we explore memory in Self-Supervised Learning (SSL), marking the first discussion on SSL memory. Using contrastive learning, we derive the memory term both theoretically and experimentally. Finally, we propose Enhance Memory Pruning (EMP), which addresses the issue of insufficient memory under high pruning rates by enhancing the model's memory of data, thereby improving its performance. We evaluated the performance of EMP in tasks such as image classification, natural language understanding, and model pre-training. The results show that EMP can improve model performance under extreme pruning rates. For example, in the CIFAR100-ResNet50 pre-training task, with 70\% pruning, EMP outperforms current methods by 2.2\%.
چکیده به فارسی (ترجمه ماشینی)
به تازگی ، مدل های بزرگ زبان و بینایی عملکرد قوی را نشان داده اند ، اما به دلیل هزینه های بالا و تنظیم دقیق ، تحقیقات از طریق هرس مجموعه داده ها به سمت آموزش سریعتر تغییر کرده اند.روشهای قبلی از دست دادن نمونه به عنوان یک معیار ارزیابی استفاده می کردند ، با هدف انتخاب "دشوارترین" برای آموزش.با این حال ، هنگامی که نرخ هرس افزایش می یابد ، تعداد دفعاتی که هر نمونه آموزش می یابد به طور مساوی توزیع می شود ، که باعث می شود بسیاری از نمونه های مهم یا عمومی به طور مؤثر نصب نشوند.ما از این به عنوان یادگیری با فرکانس پایین (LFL) یاد می کنیم.به عبارت دیگر ، LFL مانع از یادآوری مدل بیشتر نمونه ها می شود.در کار خود ، ما عملکرد امتیاز دهی LFL را تجزیه می کنیم ، توضیحی نظری برای ناکارآمدی LFL ارائه می دهیم ، و پیشنهاد می کنیم یک اصطلاح حافظه به عملکرد امتیاز دهی برای تقویت توانایی حافظه مدل ، همراه با تقریب این اصطلاح حافظه پیشنهاد کنیم.به طور مشابه ، ما حافظه را در یادگیری خود سنجی (SSL) کشف می کنیم ، و اولین بحث در مورد حافظه SSL را نشان می دهد.با استفاده از یادگیری متضاد ، ما از نظر تئوری و تجربی اصطلاح حافظه را استخراج می کنیم.سرانجام ، ما پیشنهاد می کنیم هرس حافظه (EMP) ، که با افزایش حافظه مدل از داده ها ، مسئله حافظه ناکافی تحت نرخ هرس بالا را بررسی می کند ، در نتیجه عملکرد آن را بهبود می بخشد.ما عملکرد EMP را در کارهایی مانند طبقه بندی تصویر ، درک زبان طبیعی و مدل قبل از آموزش ارزیابی کردیم.نتایج نشان می دهد که EMP می تواند عملکرد مدل را با نرخ هرس شدید بهبود بخشد.به عنوان مثال ، در کار قبل از آموزش CIFAR100-RESNET50 ، با 70 \ ٪ هرس ، EMP از روشهای فعلی با 2.2 \ ٪ بهتر عمل می کند.
📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
