Computation and Language,Computer Vision and Pattern Recognition,Machine Learning,محاسبات و زبان , چشم انداز رایانه و تشخیص الگوی , یادگیری ماشین ,
توضیحات
Submitted 2 September, 2024; originally announced September 2024. , Comments: Revisions ongoing. Codes in https://github.com/Chongjie-Si/Subspace-Tuning
توضیحات به فارسی
ارسال شده در 2 سپتامبر 2024 ؛در ابتدا در سپتامبر 2024 اعلام شد ، نظرات: تجدید نظر در حال انجام.کدهای موجود در https://github.com/chongjie-si/subspace-tuning
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
چکیده
Large language models demonstrate impressive performance on downstream tasks, yet requiring extensive resource consumption when fully fine-tuning all parameters. To mitigate this, Parameter Efficient Fine-Tuning (PEFT) strategies, such as LoRA, have been developed. In this paper, we delve into the concept of task-specific directions--critical for transitioning large models from pre-trained states to task-specific enhancements in PEFT. We propose a framework to clearly define these directions and explore their properties, and practical utilization challenges. We then introduce a novel approach, LoRA-Dash, which aims to maximize the impact of task-specific directions during the fine-tuning process, thereby enhancing model performance on targeted tasks. Extensive experiments have conclusively demonstrated the effectiveness of LoRA-Dash, and in-depth analyses further reveal the underlying mechanisms of LoRA-Dash. The code is available at https://github.com/Chongjie-Si/Subspace-Tuning.
چکیده به فارسی (ترجمه ماشینی)
مدلهای بزرگ زبان عملکرد چشمگیر را در کارهای پایین دست نشان می دهند ، اما در هنگام تنظیم کامل پارامترها ، نیاز به مصرف گسترده منابع دارد.برای کاهش این امر ، استراتژی های تنظیم دقیق پارامتر (PEFT) ، مانند لورا ، تدوین شده است.در این مقاله ، ما به مفهوم جهت های خاص وظیفه می پردازیم-مهم برای انتقال مدلهای بزرگ از حالتهای از پیش آموزش داده شده به پیشرفتهای خاص در PEFT.ما چارچوبی را برای تعریف واضح این جهت ها و کشف خصوصیات آنها و چالش های استفاده عملی پیشنهاد می کنیم.ما سپس یک رویکرد جدید ، Lora-Dash را معرفی می کنیم ، که هدف آن به حداکثر رساندن تأثیر جهت های خاص کار در طی فرآیند تنظیم دقیق است و از این طریق عملکرد مدل را در کارهای هدفمند افزایش می دهد.آزمایشات گسترده به طور قطعی اثربخشی LORA-DASH را نشان داده است ، و تجزیه و تحلیل های عمیق بیشتر مکانیسم های اساسی LORA-DASH را نشان می دهد.این کد در https://github.com/chongjie-si/subspace-tuning در دسترس است.
📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
