کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
چکیده
Large Language Models (LLMs) have reshaped the landscape of artificial intelligence by demonstrating exceptional performance across various tasks. However, substantial computational requirements make their deployment challenging on devices with limited resources. Recently, compression methods using low-rank matrix techniques have shown promise, yet these often lead to degraded accuracy or introduce significant overhead in parameters and inference latency. This paper introduces \textbf{Mo}dular \textbf{De}composition (MoDeGPT), a novel structured compression framework that does not need recovery fine-tuning while resolving the above drawbacks. MoDeGPT partitions the Transformer block into modules comprised of matrix pairs and reduces the hidden dimensions via reconstructing the module-level outputs. MoDeGPT is developed based on a theoretical framework that utilizes three well-established matrix decomposition algorithms -- Nyström approximation, CR decomposition, and SVD -- and applies them to our redefined transformer modules. Our comprehensive experiments show MoDeGPT, without backward propagation, matches or surpasses previous structured compression methods that rely on gradient information, and saves 98% of compute costs on compressing a 13B model. On \textsc{Llama}-2/3 and OPT models, MoDeGPT maintains 90-95% zero-shot performance with 25-30% compression rates. Moreover, the compression can be done on a single GPU within a few hours and increases the inference throughput by up to 46%.
چکیده به فارسی (ترجمه ماشینی)
مدل های بزرگ زبان (LLM) با نشان دادن عملکرد استثنایی در کارهای مختلف ، منظره هوش مصنوعی را تغییر شکل داده اند.با این حال ، الزامات محاسباتی قابل توجهی باعث می شود استقرار آنها برای دستگاه هایی با منابع محدود به چالش بکشد.به تازگی ، روش های فشرده سازی با استفاده از تکنیک های ماتریس درجه پایین نوید را نشان داده اند ، اما این موارد اغلب منجر به دقت تخریب شده یا معرفی سربار قابل توجهی در پارامترها و تأخیر استنباط می شوند.در این مقاله \ textbf {mo} dular \ textbf {de} ترکیب (modegpt) ، یک چارچوب فشرده سازی ساختار یافته جدید که نیازی به تنظیم خوب در ضمن حل اشکایر فوق نیست ، معرفی شده است.Partitions Modegpt بلوک ترانسفورماتور را به ماژولهای متشکل از جفت های ماتریس و ابعاد پنهان از طریق بازسازی خروجی های سطح ماژول کاهش می دهد.Modegpt بر اساس یک چارچوب نظری ساخته شده است که از سه الگوریتم های تجزیه ماتریس به خوبی تثبیت شده-تقریب Nyström ، تجزیه CR و SVD استفاده می کند-و آنها را در ماژول های ترانسفورماتور تعریف شده ما اعمال می کند.آزمایش های جامع ما نشان می دهد Modegpt ، بدون انتشار عقب ، از روشهای فشرده سازی ساختاری قبلی که به اطلاعات شیب متکی هستند ، مطابقت یا پیشی می گیرد و 98 ٪ از هزینه های محاسبه را در فشرده سازی یک مدل 13B ذخیره می کند.در \ textsc {llama} -2/3 و مدل های OPT ، Modegpt عملکرد صفر 90-95 ٪ با نرخ فشرده سازی 25-30 ٪ را حفظ می کند.علاوه بر این ، فشرده سازی را می توان طی چند ساعت بر روی یک GPU واحد انجام داد و توان استنتاج را تا 46 ٪ افزایش می دهد.
📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
