ترجمه فارسی مقاله میکسرهای ماسک شده برای تولید و بازیابی زبان

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی Masked Mixers for Language Generation and Retrieval
عنوان مقاله به فارسی میکسرهای ماسک شده برای تولید و بازیابی زبان
نویسندگان Benjamin L. Badger
فرمت مقاله انگلیسی PDF
تعداد صفحات 23
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Computation and Language,Machine Learning,محاسبه و زبان , یادگیری ماشین ,
توضیحات Submitted 2 September, 2024; originally announced September 2024. , Comments: 23 pages, 15 figures (11 primary, 4 supplementary)
توضیحات به فارسی ارسال شده در 2 سپتامبر 2024 ؛در ابتدا سپتامبر 2024 اعلام شد ، نظرات: 23 صفحه ، 15 شکل (11 اولیه ، 4 مکمل)
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Attention mechanisms that confer selective focus on a strict subset of input elements are nearly ubiquitous in language models today. We posit there to be downside to the use of attention: most information present in the input is necessarily lost. In support of this idea we observe poor input representation accuracy in transformers, but find more accurate representation in what we term masked mixers which replace self-attention with masked convolutions. Applied to TinyStories the masked mixer learns causal language tasks more efficiently than early transformer implementations and somewhat less efficiently than optimized, current implementations. The most efficient learning algorithm observed for this dataset is a transformer-masked mixer hybrid, suggesting that these models learn in an orthogonal manner. We hypothesized that the information loss exhibited by transformers would be much more detrimental to retrieval than generation, and to test this we introduce an efficient training approach for retrieval models based on existing generative model embeddings. With this method, embeddings from masked mixers are found to result in far better summary-to-story retrieval compared to embeddings from transformers.

چکیده به فارسی (ترجمه ماشینی)

مکانیسم های توجه که تمرکز انتخابی را بر روی زیر مجموعه دقیق عناصر ورودی به وجود می آورند ، امروزه در مدل های زبان تقریباً همه گیر هستند.ما در آنجا مطرح می کنیم تا در استفاده از توجه منفی باشد: بیشتر اطلاعات موجود در ورودی لزوماً از بین می رود.در حمایت از این ایده ، ما صحت بازنمایی ورودی ضعیف را در ترانسفورماتورها مشاهده می کنیم ، اما در آنچه میکسرهای نقاب دار را که جایگزین خودآزمایی با پیچش های نقاب شده جایگزین می کنیم ، نمای دقیق تری پیدا می کنیم.میکسر ماسک شده برای TinyStories اعمال می شود وظایف زبان علی را با کارآمدتر از اجرای ترانسفورماتور اولیه و تا حدودی کمتر از اجرای بهینه سازی شده و جریان فعلی می آموزد.کارآمدترین الگوریتم یادگیری مشاهده شده برای این مجموعه داده ، ترکیبی میکسر ماسک ترانسفورماتور است که نشان می دهد این مدل ها به روشی متعامد یاد می گیرند.ما فرض کردیم که از دست دادن اطلاعات به نمایش گذاشته شده توسط ترانسفورماتورها برای بازیابی بسیار مضر تر از تولید است و برای آزمایش این کار ، ما یک روش آموزشی کارآمد برای مدلهای بازیابی را بر اساس تعبیه های مدل تولیدی موجود معرفی می کنیم.با استفاده از این روش ، تعبیه از میکسرهای نقاب دار در مقایسه با تعبیه های ترانسفورماتورها ، بازیابی خلاصه ای به داستان به مراتب بهتر می شود.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.